Du Lagrangien à l`équation de Bellman

Transcription

Du Lagrangien à l`équation de Bellman
Dr
aft
Du Lagrangien à l’équation de Bellman
Etude des Modèles de : Gale, Ramsey, et R Crusoé
Jean-Paul K. Tsasa Vangu
Laboratoire d’analyse-recherche en économie quantitative
Décembre 21, 2014
Jean-Paul K. Tsasa (LAREQ)
Du Lagrangien à l’équation de Bellman
Décembre 21, 2014
1 / 33
Dr
aft
“Tu me dis, j’oublie...
Tu m’enseignes, je me souviens...
Tu m’impliques, j’apprends.”
Benjamin Franklin
Jean-Paul K. Tsasa (LAREQ)
Du Lagrangien à l’équation de Bellman
Décembre 21, 2014
2 / 33
Présentation Laréq
Dr
aft
Sommaire
1
Présentation Laréq
2
Exposé du problème
3
Résolution par l’approche Lagrangienne
4
Résolution par la programmation dynamique
5
Travail Aspirant-L
Jean-Paul K. Tsasa (LAREQ)
Du Lagrangien à l’équation de Bellman
Décembre 21, 2014
3 / 33
Présentation Laréq
Dr
aft
Introduction
Cette présentation s’inscrit dans le cadre de la rubrique “DIVERS” des réunions
LAREQ
L’objectif de cette rubrique est :
d’une part, de faire le parallélisme entre les aspirations exprimées par des chercheurs non-économistes, sur l’orientation des théories économiques
et de l’autre, de motiver les chercheurs-L à converger vers la frontière de recherche
Pour plus de détails, cf. : http://www.lareq.com
Jean-Paul K. Tsasa (LAREQ)
Du Lagrangien à l’équation de Bellman
Décembre 21, 2014
4 / 33
Exposé du problème
Dr
aft
Sommaire
1
Présentation Laréq
2
Exposé du problème
3
Résolution par l’approche Lagrangienne
4
Résolution par la programmation dynamique
5
Travail Aspirant-L
Jean-Paul K. Tsasa (LAREQ)
Du Lagrangien à l’équation de Bellman
Décembre 21, 2014
5 / 33
Exposé du problème
Exposé du problème
Dr
aft
L’analyse macroéconomique moderne s’appuie sur plusieurs résultats de la
théorie microéconomique néoclassique.
D’où, la terminologie :
fondations microéconomiques de la macroéconomie.
Dans cet exposé, nous considérons le modèle de “cake eating” tiré de l’article
de Gale (1967), dont nous encourageons vivement la lecture.
GALE David, 1967, “A Geometric Duality Theorem with Economic Applications,” Review of Economic Studies, 34, 19-24.
Article Stable URL : http://www.jstor.org/stable/2296568
Jean-Paul K. Tsasa (LAREQ)
Du Lagrangien à l’équation de Bellman
Décembre 21, 2014
6 / 33
Dr
aft
Richard E. Bellman
Exposé du problème
Problème de Cake eating (Gale, 1967)
Dr
aft
Le modèle considéré est une version discrète
Il s’agit d’une étude de cas à la fois simple et riche
Dans la pratique, cette illustration nous permettra d’introduire :
d’une part, la formalisation d’un problème d’optimisation dynamique suivant :
l’approche lagrangienne (formulation séquentielle)
l’approche par la programmation dynamique (Equation de Bellman)
de l’autre, les techniques de résolution analytique des problèmes d’optimisation
dynamique, ainsi que des extensions vers d’autres modèles d’analyse
Jean-Paul K. Tsasa (LAREQ)
Du Lagrangien à l’équation de Bellman
Décembre 21, 2014
8 / 33
Exposé du problème
Problème de Cake eating (Gale, 1967)
Dr
aft
Par ailleurs, à travers cet exercice, nous aurons l’occasion de mettre en valeur
implicitement ou explicitement, plusieurs résultats et concepts mathématiques,
notamment :
le théorème de Karush (1939) et Kuhn-Tucker (1951)
l’équation de Bellman (1957)
les conditions suffisantes de Blackwell (1965)
le théorème de Benveniste-Scheinkman (1979)
le théorème de Berge (1959)
le théorème de l’application contractante (Point fixe de Banach, 1920)
le théorème de l’enveloppe (Zermelo 1894 ; Darboux 1894 ; Knerser 1898)
l’équation d’Euler inter-temporelle
etc.
Jean-Paul K. Tsasa (LAREQ)
Du Lagrangien à l’équation de Bellman
Décembre 21, 2014
9 / 33
Exposé du problème
Formalisation théorique
Dr
aft
Supposons qu’un ménage représentatif possède un gâteau stockable de taille
k0 à la période t = 0
On suppose que le ménage vit durant une période infinie, t = 0, 1, 2, ...
Pour chaque t, le ménage consomme une quantité donnée, et épargne le reste
Le gâteau se déprécie suivant un taux δ
La fonction d’utilité est de type hyperbolique, avec un taux d’escompte β
Question :
Quelle est la quantité optimale qu’un ménage doit consommer à chaque instant
t pour ne pas mourir de faim durant toute sa période (infinie) de vie ?
Jean-Paul K. Tsasa (LAREQ)
Du Lagrangien à l’équation de Bellman
Décembre 21, 2014
10 / 33
Exposé du problème
Formalisation mathématique
Dr
aft
Fonction d’utilité instantannée :
u(ct ) =
1−γ
γ
act
+b
1−γ
γ
(1)
Fonction d’utilité multi-périodique :
U (ct ) =
∞
X
β t u(ct )
(2)
t=0
Loi de transition :
kt+1 = (1 − δ)kt − ct ,
(3)
où kt est la taille du gateau à la date t ; ct la quantité du gâteau consommée ;
kt+1 la quantité épargnée telles que kt ≥ 0 et kt+1 ≥ 0
Jean-Paul K. Tsasa (LAREQ)
Du Lagrangien à l’équation de Bellman
Décembre 21, 2014
11 / 33
Exposé du problème
Problème du ménage
Dr
aft
Après réaménagement, puisque le ménage cherche à maximise son utilité, le
problème devient :
max
{ct ,kt+1 }∞
t=0
∞
X
β
t=0
t1
−γ
γ
act
+b
1−γ
γ
(4)
sujet à (3), avec : ct ≥ 0 ; k0 > 0 ; kt ≥ 0 ; kt+1 ≥ 0, ∀t
Puisque l’horizon est infini, il nous faut imposer une condition technique supplémentaire, appelée condition de transversalité (i.e. l’équivalent de la condition
de no Ponzi game en cas d’horizon fini) :
lim λt kt+1 = 0,
(5)
t→∞
où λt est le multiplicateur dynamique de Lagrange.
Jean-Paul K. Tsasa (LAREQ)
Du Lagrangien à l’équation de Bellman
Décembre 21, 2014
12 / 33
Résolution par l’approche Lagrangienne
Dr
aft
Sommaire
1
Présentation Laréq
2
Exposé du problème
3
Résolution par l’approche Lagrangienne
4
Résolution par la programmation dynamique
5
Travail Aspirant-L
Jean-Paul K. Tsasa (LAREQ)
Du Lagrangien à l’équation de Bellman
Décembre 21, 2014
13 / 33
Résolution par l’approche Lagrangienne
Problème sous forme Lagrangienne
max ∞
{ct ,kt+1 }t=0
Dr
aft
Le problème s’écrit :
∞ X
t=0
βt
1−γ
γ
act
+b
1−γ
γ + λt [(1 − δ)kt − ct − kt+1 ]
(6)
La résolution de ce problème (application du théorème de Karush-Kuhn-Tucker)
nous permettra de dériver l’équation d’Euler intertemporelle
Les arguments sont ct et kt+1
Ainsi, l’équation d’Euler permettra de déterminer les séquences recherchées
∞
(inconnues) : {ct }∞
t=0 et {kt+1 }t=0
Jean-Paul K. Tsasa (LAREQ)
Du Lagrangien à l’équation de Bellman
Décembre 21, 2014
14 / 33
Résolution par l’approche Lagrangienne
Théorème de Karush-Kuhn-Tucker
(7)
∂L
≡ −λt + (1 − δ)λt+1 = 0, t = 0, 1, 2, ...
∂kt+1
(8)
∂L
≡ (1 − δ)kt − ct − kt+1 = 0, t = 0, 1, 2, ...
∂λt
(9)
Dr
aft
" γ−1 #
∂L
act
t
≡β a
+b
− λt = 0, t = 0, 1, 2, ...
∂ct
1−γ
λt ≥ 0
(10)
kt+1 ≥ 0, t = 0, 1, 2, ...
Jean-Paul K. Tsasa (LAREQ)
Du Lagrangien à l’équation de Bellman
Décembre 21, 2014
15 / 33
Résolution par l’approche Lagrangienne
Condition de transversalité
Dr
aft
En tirant le multiplicateur de Lagrange de la CPO (7), puis en le substituant
dans (5), la condition de transversalité devient :
lim β t a
t→∞
D’où :
lim β
t→∞
Jean-Paul K. Tsasa (LAREQ)
t
act
+b
1−γ
act
+b
1−γ
γ−1
kt+1 = 0
γ−1
Du Lagrangien à l’équation de Bellman
(11)
kt+1 = 0
Décembre 21, 2014
16 / 33
Résolution par l’approche Lagrangienne
Dérivation de l’équation d’Euler
Dr
aft
Par ailleurs, en tirant le multiplicateur de Lagrange de la CPO (7) et en le
substituant dans (8), on dérive ainsi l’Equation d’Euler :
act
+b
1−γ
γ−1
= β(1 − δ)
act+1
+b
1−γ
γ−1
(12)
Après calibration, il est possible de résoudre (12) à l’aide d’un logiciel approprié
∗
∞
(e.g. Matlab), et caractériser ainsi {ct∗ }∞
t=0 et donc, {kt+1 }t=0 via (3), étant
donné k0
Jean-Paul K. Tsasa (LAREQ)
Du Lagrangien à l’équation de Bellman
Décembre 21, 2014
17 / 33
Résolution par la programmation dynamique
Dr
aft
Sommaire
1
Présentation Laréq
2
Exposé du problème
3
Résolution par l’approche Lagrangienne
4
Résolution par la programmation dynamique
5
Travail Aspirant-L
Jean-Paul K. Tsasa (LAREQ)
Du Lagrangien à l’équation de Bellman
Décembre 21, 2014
18 / 33
Résolution par la programmation dynamique
Dr
aft
Djamal Rebaı̈ne :
Pour la petite histoire, Bellman a choisi le terme programmation dynamique dans
un souci de communication
Son supérieur ne supportait ni le mot “recherche” ni celui de “mathématique”
Alors il lui a semblé que les termes “programmation” et “dynamique” donnaient une
apparence qui plairait à son supérieur
En réalité, le terme programmation signifiait à l’époque plus planification et ordonnancement que la programmation au sens qu’on lui donne de nos jours
En un mot, la programmation dynamique est un ensemble de règles que tout un
chacun peut suivre pour résoudre un problème donné
Jean-Paul K. Tsasa (LAREQ)
Du Lagrangien à l’équation de Bellman
Décembre 21, 2014
19 / 33
Résolution par la programmation dynamique
Equation de Bellman
Dr
aft
Nous considérons le même modèle, les mêmes données
Distinction variable d’état et variable de contrôle
Variable d’état : kt
Variables de contrôle : ct et kt+1
Equation de Bellman :
V (k) = max
0
[c,k ]
1−γ
γ
ac
+b
1−γ
γ + βV (k 0 )
(13)
sujet à (3), avec : c ≥ 0 ; k0 > 0 ; k ≥ 0 ; k 0 ≥ 0
Jean-Paul K. Tsasa (LAREQ)
Du Lagrangien à l’équation de Bellman
Décembre 21, 2014
20 / 33
Résolution par la programmation dynamique
Intuition et Terminologie
Dr
aft
Notation (convention) : xt = x et x 0 = xt+1
Intuition : cf. Equation fonctionnelle recursive
Règles de décision (fonction politique) : {c ∗ , k 0∗ } = arg max {V (k)}
Fonction valeur : V (k ∗ )
Problème récursif → Programmation dynamique (Equation de Bellman)
Problème séquentiel → Approche Lagrangienne
Jean-Paul K. Tsasa (LAREQ)
Du Lagrangien à l’équation de Bellman
Décembre 21, 2014
21 / 33
Résolution par la programmation dynamique
Remarques
Dr
aft
Problème stationnaire (Principe d’optimalité de Bellman)
D’où pas d’indice t sur V : V (k) = Vt (k)
Propriétés de la fonction valeur V (k ∗ ) :
(stricte) croissance (si u l’est strictement)
continuité
stricte concavité
différentiabilité
Ingrédients pour la résolution :
Théorème de Berge
Theorème de Benveniste-Scheinkman (1979)
Théorème de Blackwell (Conditions suffisantes)
Théorème de l’application contractante (Point fixe de Banach)
Théorème de l’enveloppe
Jean-Paul K. Tsasa (LAREQ)
Du Lagrangien à l’équation de Bellman
Décembre 21, 2014
22 / 33
Résolution par la programmation dynamique
Problème à résoudre
Dr
aft
En substituant (3) dans (13), il vient que :
V (k) =
CPO :
max
k 0 ∈[0,(1−δ)k]
∂V (k)
≡ −a
∂k 0
1−γ
γ
γ
(1 − δ)k − k 0
0
a
+ b + βV (k )
1−γ
(
(1 − δ)k − k 0
a
+b
1−γ
γ−1
∂V (k 0 )
+β
∂k 0
(14)
)
=0
(15)
Pas de condition de transversalité
Jean-Paul K. Tsasa (LAREQ)
Du Lagrangien à l’équation de Bellman
Décembre 21, 2014
23 / 33
Résolution par la programmation dynamique
Théorème de l’enveloppe et Equation d’Euler
Dr
aft
Théorème de l’enveloppe :
γ−1
∂V (k)
(1 − δ)k − k 0
= a(1 − δ) a
+b
∂k
1−γ
(16)
En décalant, il suit que :
(1 − δ)k 0 − k 00
∂V (k 0 )
=
a(1
−
δ)
a
+b
∂k 0
1−γ
Jean-Paul K. Tsasa (LAREQ)
Du Lagrangien à l’équation de Bellman
γ−1
(17)
Décembre 21, 2014
24 / 33
Résolution par la programmation dynamique
Dérivation de l’équation d’Euler
Dr
aft
En substituant (17) dans (15), on dérive ainsi l’équation d’Euler intertemporelle :
γ−1
γ−1
(1 − δ)k 0 − k 00
(1 − δ)k − k 0
+b
= β(1 − δ) a
+b
a
1−γ
1−γ
(18)
Puisque c = (1 − δ)k − k 0 , il vient que les équations (12) et (18) sont
équivalentes
Jean-Paul K. Tsasa (LAREQ)
Du Lagrangien à l’équation de Bellman
Décembre 21, 2014
25 / 33
Travail Aspirant-L
Dr
aft
Sommaire
1
Présentation Laréq
2
Exposé du problème
3
Résolution par l’approche Lagrangienne
4
Résolution par la programmation dynamique
5
Travail Aspirant-L
Jean-Paul K. Tsasa (LAREQ)
Du Lagrangien à l’équation de Bellman
Décembre 21, 2014
26 / 33
Travail Aspirant-L
Modèle de Ramsey
Dr
aft
Considérons à présent un modèle de croissance néoclassique (modèle de croissance optimale), en référence au modèle de Ramsey (1928)
Quelques réaménagements et précautions :
la fonction d’utilité devient plus simple (forme logarithmique) : u(ct ) = ln (ct )
la fonction de production est de type Cobb-Douglas : f (kt ) = ktα
Problème du planificateur
la contrainte de ressource est telle que : kt+1 = f (kt ) − ct + (1 − δ)kt
Ainsi, sous forme Lagrangienne, le problème devient :
max ∞
{ct ,kt+1 }t=0
Jean-Paul K. Tsasa (LAREQ)
∞
X
β t ln (ct ) + λt [ktα − ct + (1 − δ)kt − kt+1 ]
(19)
t=0
Du Lagrangien à l’équation de Bellman
Décembre 21, 2014
27 / 33
Travail Aspirant-L
Aspirant Grace Kiala
Dr
aft
Travail à faire [1]. Rédiger un papier de 4 à 8 pages pour répondre proprement et
explicitement aux différentes questions.
Appliquez le théorème de Kuhn-Tucker et dérivez l’équation d’Euler
Quelles sont les variables d’état et les variables de contrôle
Ecrivez le problème (19) sous la forme récursive (Equation de Bellman)
Partant du problème récursif, dérivez l’équation d’Euler, après avoir :
calculé les CPO
appliqué le théorème de l’enveloppe
Jean-Paul K. Tsasa (LAREQ)
Du Lagrangien à l’équation de Bellman
Décembre 21, 2014
28 / 33
Travail Aspirant-L
De la fonction CES à la fonction Leontief
Dr
aft
Dans l’exercice précédent, remarquons que l’aspirant Grace Kiala devra considérer
une fonction d’utilité de type logarithmique
Pour votre gouverne, la fonction d’utilité est un concept utilisé par les économistes
pour décrire mathématiquement les préférences d’un individu ou d’un ménage
représentatif (Debreu, 1954)
Supposons à présent, en référence aux travaux de Arrow, Chenery, Minhas et
Solow (1961, p.230) que nous ayons une fonction d’utilité (à valeur dans R)
définie comme suit :
1
−ρ
−ρ − ρ
ut = γ αc1,t
+ (1 − α)c2,t
,
(20)
avec γ > 0 ; 0 ≤ α ≤ 1 ; ρ ≥ 0
Jean-Paul K. Tsasa (LAREQ)
Du Lagrangien à l’équation de Bellman
Décembre 21, 2014
29 / 33
Travail Aspirant-L
Aspirant Roger Emone
Dr
aft
Travail à faire [2]. Rédiger un papier de 4 à 8 pages pour répondre proprement et
explicitement aux différentes questions
Montrez que pour :
ρ → 0, la fonction d’utilité définie par (20) devient :
ut = γ(c1,t )α (c2,t )1−α
(21)
ρ → ∞, la fonction d’utilité définie par (20) devient :
ut = γ min {c1,t , c2,t }
= min
c1,t c2,t
,
γ
γ
(22)
En considérant les mêmes données que dans le modèle de Gale, sauf pour la
fonction d’utilité, où l’on considère à présent (21) : (i) distinguez les variables
d’état et de contrôle ; (ii) dérivez l’équation fonctionnelle de Bellman
Jean-Paul K. Tsasa (LAREQ)
Du Lagrangien à l’équation de Bellman
Décembre 21, 2014
30 / 33
Travail Aspirant-L
Economie à la Robinson Crusoe
Dr
aft
En référence au roman de Daniel Defoe (1719), considérons une économie à
la Robinson Crusoe, où l’individu maximise une fonction d’utilité telle que :
max ∞
{ct ,kt+1 }t=0
∞
X
β t u(ct )
(23)
t=0
sujet à : kt+1 = f (kt ) − ct + (1 − δ)kt
Pour votre gouverne, la fonction de production est un concept technique utilisé
par les économistes pour décrire mathématiquement la relation qui associe la
quantité produite à celle de différents éléments nécessaires à cette production
Contrairement aux exemples précédents, dans ce cas la fonction d’utilité u(ct )
et la fonction de production f (kt ), toutes à valeurs réelles, sont exprimées de
façon générique, i.e. elles ne sont pas été explicitement formalisées
Jean-Paul K. Tsasa (LAREQ)
Du Lagrangien à l’équation de Bellman
Décembre 21, 2014
31 / 33
Travail Aspirant-L
Aspirant Moı̈se Mbikayi
Dr
aft
Travail à faire [3]. Rédiger un papier de 4 à 8 pages pour répondre proprement et
explicitement aux différentes questions.
Enoncez le théorème de Benveniste-Scheinkman (1979), et en fournissez une
preuve rigoureuse
En considérant le modèle décrit dans le cas d’une économie à la Robinson
Crusoé :
distinguez les variables d’état et de contrôle
dérivez l’équation fonctionnelle de Bellman
Partant de l’équation de Bellman :
appliquez le théorème de Benveniste-Scheinkman
dérivez l’équation d’Euler
Jean-Paul K. Tsasa (LAREQ)
Du Lagrangien à l’équation de Bellman
Décembre 21, 2014
32 / 33
Dr
aft
Ernst F.F. Zermelo