Du Lagrangien à l`équation de Bellman
Transcription
Du Lagrangien à l`équation de Bellman
Dr aft Du Lagrangien à l’équation de Bellman Etude des Modèles de : Gale, Ramsey, et R Crusoé Jean-Paul K. Tsasa Vangu Laboratoire d’analyse-recherche en économie quantitative Décembre 21, 2014 Jean-Paul K. Tsasa (LAREQ) Du Lagrangien à l’équation de Bellman Décembre 21, 2014 1 / 33 Dr aft “Tu me dis, j’oublie... Tu m’enseignes, je me souviens... Tu m’impliques, j’apprends.” Benjamin Franklin Jean-Paul K. Tsasa (LAREQ) Du Lagrangien à l’équation de Bellman Décembre 21, 2014 2 / 33 Présentation Laréq Dr aft Sommaire 1 Présentation Laréq 2 Exposé du problème 3 Résolution par l’approche Lagrangienne 4 Résolution par la programmation dynamique 5 Travail Aspirant-L Jean-Paul K. Tsasa (LAREQ) Du Lagrangien à l’équation de Bellman Décembre 21, 2014 3 / 33 Présentation Laréq Dr aft Introduction Cette présentation s’inscrit dans le cadre de la rubrique “DIVERS” des réunions LAREQ L’objectif de cette rubrique est : d’une part, de faire le parallélisme entre les aspirations exprimées par des chercheurs non-économistes, sur l’orientation des théories économiques et de l’autre, de motiver les chercheurs-L à converger vers la frontière de recherche Pour plus de détails, cf. : http://www.lareq.com Jean-Paul K. Tsasa (LAREQ) Du Lagrangien à l’équation de Bellman Décembre 21, 2014 4 / 33 Exposé du problème Dr aft Sommaire 1 Présentation Laréq 2 Exposé du problème 3 Résolution par l’approche Lagrangienne 4 Résolution par la programmation dynamique 5 Travail Aspirant-L Jean-Paul K. Tsasa (LAREQ) Du Lagrangien à l’équation de Bellman Décembre 21, 2014 5 / 33 Exposé du problème Exposé du problème Dr aft L’analyse macroéconomique moderne s’appuie sur plusieurs résultats de la théorie microéconomique néoclassique. D’où, la terminologie : fondations microéconomiques de la macroéconomie. Dans cet exposé, nous considérons le modèle de “cake eating” tiré de l’article de Gale (1967), dont nous encourageons vivement la lecture. GALE David, 1967, “A Geometric Duality Theorem with Economic Applications,” Review of Economic Studies, 34, 19-24. Article Stable URL : http://www.jstor.org/stable/2296568 Jean-Paul K. Tsasa (LAREQ) Du Lagrangien à l’équation de Bellman Décembre 21, 2014 6 / 33 Dr aft Richard E. Bellman Exposé du problème Problème de Cake eating (Gale, 1967) Dr aft Le modèle considéré est une version discrète Il s’agit d’une étude de cas à la fois simple et riche Dans la pratique, cette illustration nous permettra d’introduire : d’une part, la formalisation d’un problème d’optimisation dynamique suivant : l’approche lagrangienne (formulation séquentielle) l’approche par la programmation dynamique (Equation de Bellman) de l’autre, les techniques de résolution analytique des problèmes d’optimisation dynamique, ainsi que des extensions vers d’autres modèles d’analyse Jean-Paul K. Tsasa (LAREQ) Du Lagrangien à l’équation de Bellman Décembre 21, 2014 8 / 33 Exposé du problème Problème de Cake eating (Gale, 1967) Dr aft Par ailleurs, à travers cet exercice, nous aurons l’occasion de mettre en valeur implicitement ou explicitement, plusieurs résultats et concepts mathématiques, notamment : le théorème de Karush (1939) et Kuhn-Tucker (1951) l’équation de Bellman (1957) les conditions suffisantes de Blackwell (1965) le théorème de Benveniste-Scheinkman (1979) le théorème de Berge (1959) le théorème de l’application contractante (Point fixe de Banach, 1920) le théorème de l’enveloppe (Zermelo 1894 ; Darboux 1894 ; Knerser 1898) l’équation d’Euler inter-temporelle etc. Jean-Paul K. Tsasa (LAREQ) Du Lagrangien à l’équation de Bellman Décembre 21, 2014 9 / 33 Exposé du problème Formalisation théorique Dr aft Supposons qu’un ménage représentatif possède un gâteau stockable de taille k0 à la période t = 0 On suppose que le ménage vit durant une période infinie, t = 0, 1, 2, ... Pour chaque t, le ménage consomme une quantité donnée, et épargne le reste Le gâteau se déprécie suivant un taux δ La fonction d’utilité est de type hyperbolique, avec un taux d’escompte β Question : Quelle est la quantité optimale qu’un ménage doit consommer à chaque instant t pour ne pas mourir de faim durant toute sa période (infinie) de vie ? Jean-Paul K. Tsasa (LAREQ) Du Lagrangien à l’équation de Bellman Décembre 21, 2014 10 / 33 Exposé du problème Formalisation mathématique Dr aft Fonction d’utilité instantannée : u(ct ) = 1−γ γ act +b 1−γ γ (1) Fonction d’utilité multi-périodique : U (ct ) = ∞ X β t u(ct ) (2) t=0 Loi de transition : kt+1 = (1 − δ)kt − ct , (3) où kt est la taille du gateau à la date t ; ct la quantité du gâteau consommée ; kt+1 la quantité épargnée telles que kt ≥ 0 et kt+1 ≥ 0 Jean-Paul K. Tsasa (LAREQ) Du Lagrangien à l’équation de Bellman Décembre 21, 2014 11 / 33 Exposé du problème Problème du ménage Dr aft Après réaménagement, puisque le ménage cherche à maximise son utilité, le problème devient : max {ct ,kt+1 }∞ t=0 ∞ X β t=0 t1 −γ γ act +b 1−γ γ (4) sujet à (3), avec : ct ≥ 0 ; k0 > 0 ; kt ≥ 0 ; kt+1 ≥ 0, ∀t Puisque l’horizon est infini, il nous faut imposer une condition technique supplémentaire, appelée condition de transversalité (i.e. l’équivalent de la condition de no Ponzi game en cas d’horizon fini) : lim λt kt+1 = 0, (5) t→∞ où λt est le multiplicateur dynamique de Lagrange. Jean-Paul K. Tsasa (LAREQ) Du Lagrangien à l’équation de Bellman Décembre 21, 2014 12 / 33 Résolution par l’approche Lagrangienne Dr aft Sommaire 1 Présentation Laréq 2 Exposé du problème 3 Résolution par l’approche Lagrangienne 4 Résolution par la programmation dynamique 5 Travail Aspirant-L Jean-Paul K. Tsasa (LAREQ) Du Lagrangien à l’équation de Bellman Décembre 21, 2014 13 / 33 Résolution par l’approche Lagrangienne Problème sous forme Lagrangienne max ∞ {ct ,kt+1 }t=0 Dr aft Le problème s’écrit : ∞ X t=0 βt 1−γ γ act +b 1−γ γ + λt [(1 − δ)kt − ct − kt+1 ] (6) La résolution de ce problème (application du théorème de Karush-Kuhn-Tucker) nous permettra de dériver l’équation d’Euler intertemporelle Les arguments sont ct et kt+1 Ainsi, l’équation d’Euler permettra de déterminer les séquences recherchées ∞ (inconnues) : {ct }∞ t=0 et {kt+1 }t=0 Jean-Paul K. Tsasa (LAREQ) Du Lagrangien à l’équation de Bellman Décembre 21, 2014 14 / 33 Résolution par l’approche Lagrangienne Théorème de Karush-Kuhn-Tucker (7) ∂L ≡ −λt + (1 − δ)λt+1 = 0, t = 0, 1, 2, ... ∂kt+1 (8) ∂L ≡ (1 − δ)kt − ct − kt+1 = 0, t = 0, 1, 2, ... ∂λt (9) Dr aft " γ−1 # ∂L act t ≡β a +b − λt = 0, t = 0, 1, 2, ... ∂ct 1−γ λt ≥ 0 (10) kt+1 ≥ 0, t = 0, 1, 2, ... Jean-Paul K. Tsasa (LAREQ) Du Lagrangien à l’équation de Bellman Décembre 21, 2014 15 / 33 Résolution par l’approche Lagrangienne Condition de transversalité Dr aft En tirant le multiplicateur de Lagrange de la CPO (7), puis en le substituant dans (5), la condition de transversalité devient : lim β t a t→∞ D’où : lim β t→∞ Jean-Paul K. Tsasa (LAREQ) t act +b 1−γ act +b 1−γ γ−1 kt+1 = 0 γ−1 Du Lagrangien à l’équation de Bellman (11) kt+1 = 0 Décembre 21, 2014 16 / 33 Résolution par l’approche Lagrangienne Dérivation de l’équation d’Euler Dr aft Par ailleurs, en tirant le multiplicateur de Lagrange de la CPO (7) et en le substituant dans (8), on dérive ainsi l’Equation d’Euler : act +b 1−γ γ−1 = β(1 − δ) act+1 +b 1−γ γ−1 (12) Après calibration, il est possible de résoudre (12) à l’aide d’un logiciel approprié ∗ ∞ (e.g. Matlab), et caractériser ainsi {ct∗ }∞ t=0 et donc, {kt+1 }t=0 via (3), étant donné k0 Jean-Paul K. Tsasa (LAREQ) Du Lagrangien à l’équation de Bellman Décembre 21, 2014 17 / 33 Résolution par la programmation dynamique Dr aft Sommaire 1 Présentation Laréq 2 Exposé du problème 3 Résolution par l’approche Lagrangienne 4 Résolution par la programmation dynamique 5 Travail Aspirant-L Jean-Paul K. Tsasa (LAREQ) Du Lagrangien à l’équation de Bellman Décembre 21, 2014 18 / 33 Résolution par la programmation dynamique Dr aft Djamal Rebaı̈ne : Pour la petite histoire, Bellman a choisi le terme programmation dynamique dans un souci de communication Son supérieur ne supportait ni le mot “recherche” ni celui de “mathématique” Alors il lui a semblé que les termes “programmation” et “dynamique” donnaient une apparence qui plairait à son supérieur En réalité, le terme programmation signifiait à l’époque plus planification et ordonnancement que la programmation au sens qu’on lui donne de nos jours En un mot, la programmation dynamique est un ensemble de règles que tout un chacun peut suivre pour résoudre un problème donné Jean-Paul K. Tsasa (LAREQ) Du Lagrangien à l’équation de Bellman Décembre 21, 2014 19 / 33 Résolution par la programmation dynamique Equation de Bellman Dr aft Nous considérons le même modèle, les mêmes données Distinction variable d’état et variable de contrôle Variable d’état : kt Variables de contrôle : ct et kt+1 Equation de Bellman : V (k) = max 0 [c,k ] 1−γ γ ac +b 1−γ γ + βV (k 0 ) (13) sujet à (3), avec : c ≥ 0 ; k0 > 0 ; k ≥ 0 ; k 0 ≥ 0 Jean-Paul K. Tsasa (LAREQ) Du Lagrangien à l’équation de Bellman Décembre 21, 2014 20 / 33 Résolution par la programmation dynamique Intuition et Terminologie Dr aft Notation (convention) : xt = x et x 0 = xt+1 Intuition : cf. Equation fonctionnelle recursive Règles de décision (fonction politique) : {c ∗ , k 0∗ } = arg max {V (k)} Fonction valeur : V (k ∗ ) Problème récursif → Programmation dynamique (Equation de Bellman) Problème séquentiel → Approche Lagrangienne Jean-Paul K. Tsasa (LAREQ) Du Lagrangien à l’équation de Bellman Décembre 21, 2014 21 / 33 Résolution par la programmation dynamique Remarques Dr aft Problème stationnaire (Principe d’optimalité de Bellman) D’où pas d’indice t sur V : V (k) = Vt (k) Propriétés de la fonction valeur V (k ∗ ) : (stricte) croissance (si u l’est strictement) continuité stricte concavité différentiabilité Ingrédients pour la résolution : Théorème de Berge Theorème de Benveniste-Scheinkman (1979) Théorème de Blackwell (Conditions suffisantes) Théorème de l’application contractante (Point fixe de Banach) Théorème de l’enveloppe Jean-Paul K. Tsasa (LAREQ) Du Lagrangien à l’équation de Bellman Décembre 21, 2014 22 / 33 Résolution par la programmation dynamique Problème à résoudre Dr aft En substituant (3) dans (13), il vient que : V (k) = CPO : max k 0 ∈[0,(1−δ)k] ∂V (k) ≡ −a ∂k 0 1−γ γ γ (1 − δ)k − k 0 0 a + b + βV (k ) 1−γ ( (1 − δ)k − k 0 a +b 1−γ γ−1 ∂V (k 0 ) +β ∂k 0 (14) ) =0 (15) Pas de condition de transversalité Jean-Paul K. Tsasa (LAREQ) Du Lagrangien à l’équation de Bellman Décembre 21, 2014 23 / 33 Résolution par la programmation dynamique Théorème de l’enveloppe et Equation d’Euler Dr aft Théorème de l’enveloppe : γ−1 ∂V (k) (1 − δ)k − k 0 = a(1 − δ) a +b ∂k 1−γ (16) En décalant, il suit que : (1 − δ)k 0 − k 00 ∂V (k 0 ) = a(1 − δ) a +b ∂k 0 1−γ Jean-Paul K. Tsasa (LAREQ) Du Lagrangien à l’équation de Bellman γ−1 (17) Décembre 21, 2014 24 / 33 Résolution par la programmation dynamique Dérivation de l’équation d’Euler Dr aft En substituant (17) dans (15), on dérive ainsi l’équation d’Euler intertemporelle : γ−1 γ−1 (1 − δ)k 0 − k 00 (1 − δ)k − k 0 +b = β(1 − δ) a +b a 1−γ 1−γ (18) Puisque c = (1 − δ)k − k 0 , il vient que les équations (12) et (18) sont équivalentes Jean-Paul K. Tsasa (LAREQ) Du Lagrangien à l’équation de Bellman Décembre 21, 2014 25 / 33 Travail Aspirant-L Dr aft Sommaire 1 Présentation Laréq 2 Exposé du problème 3 Résolution par l’approche Lagrangienne 4 Résolution par la programmation dynamique 5 Travail Aspirant-L Jean-Paul K. Tsasa (LAREQ) Du Lagrangien à l’équation de Bellman Décembre 21, 2014 26 / 33 Travail Aspirant-L Modèle de Ramsey Dr aft Considérons à présent un modèle de croissance néoclassique (modèle de croissance optimale), en référence au modèle de Ramsey (1928) Quelques réaménagements et précautions : la fonction d’utilité devient plus simple (forme logarithmique) : u(ct ) = ln (ct ) la fonction de production est de type Cobb-Douglas : f (kt ) = ktα Problème du planificateur la contrainte de ressource est telle que : kt+1 = f (kt ) − ct + (1 − δ)kt Ainsi, sous forme Lagrangienne, le problème devient : max ∞ {ct ,kt+1 }t=0 Jean-Paul K. Tsasa (LAREQ) ∞ X β t ln (ct ) + λt [ktα − ct + (1 − δ)kt − kt+1 ] (19) t=0 Du Lagrangien à l’équation de Bellman Décembre 21, 2014 27 / 33 Travail Aspirant-L Aspirant Grace Kiala Dr aft Travail à faire [1]. Rédiger un papier de 4 à 8 pages pour répondre proprement et explicitement aux différentes questions. Appliquez le théorème de Kuhn-Tucker et dérivez l’équation d’Euler Quelles sont les variables d’état et les variables de contrôle Ecrivez le problème (19) sous la forme récursive (Equation de Bellman) Partant du problème récursif, dérivez l’équation d’Euler, après avoir : calculé les CPO appliqué le théorème de l’enveloppe Jean-Paul K. Tsasa (LAREQ) Du Lagrangien à l’équation de Bellman Décembre 21, 2014 28 / 33 Travail Aspirant-L De la fonction CES à la fonction Leontief Dr aft Dans l’exercice précédent, remarquons que l’aspirant Grace Kiala devra considérer une fonction d’utilité de type logarithmique Pour votre gouverne, la fonction d’utilité est un concept utilisé par les économistes pour décrire mathématiquement les préférences d’un individu ou d’un ménage représentatif (Debreu, 1954) Supposons à présent, en référence aux travaux de Arrow, Chenery, Minhas et Solow (1961, p.230) que nous ayons une fonction d’utilité (à valeur dans R) définie comme suit : 1 −ρ −ρ − ρ ut = γ αc1,t + (1 − α)c2,t , (20) avec γ > 0 ; 0 ≤ α ≤ 1 ; ρ ≥ 0 Jean-Paul K. Tsasa (LAREQ) Du Lagrangien à l’équation de Bellman Décembre 21, 2014 29 / 33 Travail Aspirant-L Aspirant Roger Emone Dr aft Travail à faire [2]. Rédiger un papier de 4 à 8 pages pour répondre proprement et explicitement aux différentes questions Montrez que pour : ρ → 0, la fonction d’utilité définie par (20) devient : ut = γ(c1,t )α (c2,t )1−α (21) ρ → ∞, la fonction d’utilité définie par (20) devient : ut = γ min {c1,t , c2,t } = min c1,t c2,t , γ γ (22) En considérant les mêmes données que dans le modèle de Gale, sauf pour la fonction d’utilité, où l’on considère à présent (21) : (i) distinguez les variables d’état et de contrôle ; (ii) dérivez l’équation fonctionnelle de Bellman Jean-Paul K. Tsasa (LAREQ) Du Lagrangien à l’équation de Bellman Décembre 21, 2014 30 / 33 Travail Aspirant-L Economie à la Robinson Crusoe Dr aft En référence au roman de Daniel Defoe (1719), considérons une économie à la Robinson Crusoe, où l’individu maximise une fonction d’utilité telle que : max ∞ {ct ,kt+1 }t=0 ∞ X β t u(ct ) (23) t=0 sujet à : kt+1 = f (kt ) − ct + (1 − δ)kt Pour votre gouverne, la fonction de production est un concept technique utilisé par les économistes pour décrire mathématiquement la relation qui associe la quantité produite à celle de différents éléments nécessaires à cette production Contrairement aux exemples précédents, dans ce cas la fonction d’utilité u(ct ) et la fonction de production f (kt ), toutes à valeurs réelles, sont exprimées de façon générique, i.e. elles ne sont pas été explicitement formalisées Jean-Paul K. Tsasa (LAREQ) Du Lagrangien à l’équation de Bellman Décembre 21, 2014 31 / 33 Travail Aspirant-L Aspirant Moı̈se Mbikayi Dr aft Travail à faire [3]. Rédiger un papier de 4 à 8 pages pour répondre proprement et explicitement aux différentes questions. Enoncez le théorème de Benveniste-Scheinkman (1979), et en fournissez une preuve rigoureuse En considérant le modèle décrit dans le cas d’une économie à la Robinson Crusoé : distinguez les variables d’état et de contrôle dérivez l’équation fonctionnelle de Bellman Partant de l’équation de Bellman : appliquez le théorème de Benveniste-Scheinkman dérivez l’équation d’Euler Jean-Paul K. Tsasa (LAREQ) Du Lagrangien à l’équation de Bellman Décembre 21, 2014 32 / 33 Dr aft Ernst F.F. Zermelo