Un exemple d`estimation bayésienne adaptative

Un exemple d’estimation bayésienne
adaptative
Ismael Castillo
20 Février 2004
Résumé
L’objectif est d’estimer d’un point de vue bayésien une densité de probabilité p sur [0, 1] à partir d’observations X1 , . . . , Xn . On suppose que p
appartient à la classe de Hölder C β [0, 1] avec β inconnu dans {1, 2, . . . , αm }.
On commence par rappeler le théorème de vitesse de convergence de Ghosal, Ghosh et Van der Vaart [2] dans un cadre bayésien non paramétrique.
Les hypothèses sont essentiellement le contrôle de l’entropie du modèle et le
fait que l’a priori doit charger suffisamment certains voisinages de la densité
à estimer.
On construit ensuite une suite de modèles log-splines Pn,α approchant
C α [0, 1] (cf [1]); on munit chaque Pn,α d’une mesure
Pαampriori Πn,α . On obtient
alors un a priori sur ∪α Pn,α en posant : Πn = α=1
√ λα Πn,α . La mesure a
posteriori associée à Πn converge alors, à un facteur log n près, à la vitesse
β
optimale classique n 2β+1 [3].
On explique enfin comment étendre ce resultat lorsque l’ensemble des
exposants α est discret mais infini.
Références
[1] de Boor. A Practical Guide to Splines. Springer, 1978.
[2] Ghosal, Ghosh, and van der Vaart. Convergence rates of posterior distributions. Annals of Statistics, 2000.
[3] Ghosal, Lember, and van der Vaart. On bayesian adaptation. 8th Vilnius
Prob. Conf., 2002.
1