Vitesse de convergence de processus markoviens déterministes par

Transcription

Vitesse de convergence de processus markoviens déterministes par
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Questions ouvertes
Vitesse de convergence de processus markoviens
déterministes par morceaux
Djalil Chafaï - Florent Malrieu - Katy Paroux
http://djalil.chafai.net/
Avril 2010
1/ 28
Introduction
Un cas spécial et sa chaîne incluse
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Questions ouvertes
2/ 28
Le processus à temps continu
Questions ouvertes
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Questions ouvertes
PDMP ?
3/ 28
I
Mark Davis
Piecewise-deterministic Markov processes : a general class of
nondiffusion stochastic models, JRSS B (1984)
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Questions ouvertes
PDMP ?
3/ 28
I
Mark Davis
Piecewise-deterministic Markov processes : a general class of
nondiffusion stochastic models, JRSS B (1984)
I
Espace d’état E
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Questions ouvertes
PDMP ?
3/ 28
I
Mark Davis
Piecewise-deterministic Markov processes : a general class of
nondiffusion stochastic models, JRSS B (1984)
I
Espace d’état E
I
Flot de trajectoires déterministes Φ : E × R+ → E
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Questions ouvertes
PDMP ?
3/ 28
I
Mark Davis
Piecewise-deterministic Markov processes : a general class of
nondiffusion stochastic models, JRSS B (1984)
I
Espace d’état E
I
Flot de trajectoires déterministes Φ : E × R+ → E
I
Intensité λ : E → R+
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Questions ouvertes
PDMP ?
3/ 28
I
Mark Davis
Piecewise-deterministic Markov processes : a general class of
nondiffusion stochastic models, JRSS B (1984)
I
Espace d’état E
I
Flot de trajectoires déterministes Φ : E × R+ → E
I
Intensité λ : E → R+
I
Noyau markovien K : E × E → [0, 1]
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Questions ouvertes
PDMP ?
3/ 28
I
Mark Davis
Piecewise-deterministic Markov processes : a general class of
nondiffusion stochastic models, JRSS B (1984)
I
Espace d’état E
I
Flot de trajectoires déterministes Φ : E × R+ → E
I
Intensité λ : E → R+
I
Noyau markovien K : E × E → [0, 1]
Partant de x , on suit le flot jusqu’au temps T1 tel que
Z T1
λ(Φ(x , s)) ds = E1 ∼ E(1)
0
puis on saute en y avec la loi K (Φ(x , T1 ), ·).
On recommence partant de y . . .
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Questions ouvertes
PDMP ?
À ce stade :
4/ 28
I
Construction trajectorielle (Xt )06t<T∞
I
Contient les chaînes de Markov à temps continu. . .
I
Mais permet un mouvement déterministe entre les sauts
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Questions ouvertes
PDMP ?
À ce stade :
I
Construction trajectorielle (Xt )06t<T∞
I
Contient les chaînes de Markov à temps continu. . .
I
Mais permet un mouvement déterministe entre les sauts
Questions naturelles :
4/ 28
I
Critère de non-explosion P(T∞ = ∞) = 1
I
Critère d’ergodicité Xt → µ (Costa-Dufour)
I
Vitesse de convergence à l’équilibre d(Xt , µ) 6 ϕ(X0 , t)
I
Propriétés de l’équilibre µ
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Questions ouvertes
Exemple
Sur E = R générateur infinitésimal
Z
(Lf )(x ) = µf 0 (x ) + λ(x ) (f (x − y ) − f (x )) K (x , dy )
∂t Pt (f )(x ) = L(Pt f )(x ) où Pt (f )(x ) = E(f (Xt )|X0 = x )
Processus de Poisson marqué ((Tn , Zn ))n>1
Xt = X0 + µt −
Nt
X
Zn
où Nt := card{n ∈ N : Tn 6 t}.
n=1
G. Last Properties of stress release, repairable system and workload
models, AAP (2004). Conditions sur K et λ pour non-explosion,
ergodicité, vitesse (distance ad hoc).
5/ 28
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Questions ouvertes
Processus TCP Window Size
6/ 28
PDMP sur E = R+ de générateur infinitésimal
0
Z 1
(f (hx ) − f (x )) H(dh)
(Lf )(x ) = f (x ) + λ(x )
0
où H est une loi de probabilité sur [0, 1).
I
Croissance linéaire entre les sauts
I
Sauts aléatoires multiplicatifs (décroissance, rappel vers 0)
I
Taux de saut inhomogène. Exemple : λ(x ) = x .
I
En pratique, H est la masse de Dirac en 1/2
I
Ott, Robert, Guillemin, Zwart, Dumas, Graham, . . .
I
Relié à des fonctionnelles exponentielles de processus de Lévy
I
Additive Increase Multiplicative Decrease (AIMD)
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Trajectoires du processus quand λ(x ) = x
Si X0 = x le premier temps de saut T1 vérifie
Z T1
0
7/ 28
λ(Xs ) ds = E1 ∼ E(1).
Questions ouvertes
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Trajectoires du processus quand λ(x ) = x
Si X0 = x le premier temps de saut T1 vérifie
Z T1
λ(Xs ) ds = E1 ∼ E(1).
0
Avant le saut, Xs = x + s et donc
T1 =
7/ 28
q
x 2 + 2E1 − x .
Questions ouvertes
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Trajectoires du processus quand λ(x ) = x
Si X0 = x le premier temps de saut T1 vérifie
Z T1
λ(Xs ) ds = E1 ∼ E(1).
0
Avant le saut, Xs = x + s et donc
T1 =
q
x 2 + 2E1 − x .
Lorsque le saut a lieu avec un facteur multiplicatif Q ∼ H
(
Xs =
et ainsi de suite. . .
7/ 28
x +s
Q(x + T1 )
si s < T ,
si s = T1 ,
Questions ouvertes
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Questions ouvertes
Structure récursive auto-regressive quand λ(x ) = x
8/ 28
I
Temps de saut (Tn )n>1 avec T0 = 0
I
Positions après les sauts (XTn )n>1
Tn = Tn−1 +
q
XT2n−1 + 2En − XTn−1
q
XTn = Qn XT2n−1 + 2En
où (En )n>1 ⊥⊥ (Qn )n>1 iid de lois E(1) et H.
Xt =
∞
X
n=0
(XTn + t − Tn ) 1[Tn ,Tn+1 ) (t).
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Questions ouvertes
Trajectoire et lois invariantes
9/ 28
2.2
2
1.8
1.6
1.4
1.2
1
0.8
0.6
0.4
0
1
2
3
4
5
6
7
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Questions ouvertes
Trajectoire et lois invariantes
9/ 28
0.8
0.7
0.6
0.5
0.4
0.3
0.2
0.1
0
delta=1/4
delta=1/2
delta=3/4
0
0.5
1
1.5
2
2.5
3
3.5
4
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Loi invariante
Le processus (Xt )t>0 de générateur infinitésimal
Lf (x ) = f 0 (x ) + x
Z 1
(f (hx ) − f (x )) H(dh)
0
est irréductible et possède une unique loi invariante (série).
10/ 28
Questions ouvertes
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Questions ouvertes
Loi invariante
Le processus (Xt )t>0 de générateur infinitésimal
Lf (x ) = f 0 (x ) + x
Z 1
(f (hx ) − f (x )) H(dh)
0
est irréductible et possède une unique loi invariante (série).
Fonction de Lyapounov ϕ : x →
7 1+x
Lϕ(x ) = 1 − 1 −
Z 1
0
10/ 28
h H(dh) x 2 6 −aϕ(x ) + b1[0,R] (x ).
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Questions ouvertes
Loi invariante
Le processus (Xt )t>0 de générateur infinitésimal
Lf (x ) = f 0 (x ) + x
Z 1
(f (hx ) − f (x )) H(dh)
0
est irréductible et possède une unique loi invariante (série).
Fonction de Lyapounov ϕ : x →
7 1+x
Lϕ(x ) = 1 − 1 −
Z 1
0
h H(dh) x 2 6 −aϕ(x ) + b1[0,R] (x ).
Mais processus irréversible et espace d’état non compact.
Difficile d’obtenir une vitesse de convergence en Wasserstein.
Vitesse de convergence pour des distances modifiées.
10/ 28
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Questions ouvertes
Loi invariante ν de la chaîne incluse λ(x ) = x
Pour la chaîne incluse X̂ := (X̂n )n>0 := (XTn )t>0 :
2
2
2
X̂n+1
= Qn+1
X̂n2 + 2Qn+1
En+1
Théorème (Cf. Dumas-Guillemin-Robert, 04)
Si H est la masse de Dirac en δ ∈ (0, 1) alors X̂ admet une unique
loi invariante ν de densité
∞
X
1
(−1)n−1 δ −2n
−2n 2
xe −δ x /2 .
Q
n−1
2n
−2k
|
n=1 (1 − δ ) n=1
k=1 |1 − δ
x ∈ R+ 7→ Q∞
Unimodale.
O(x exp(−δ 2 x 2 /2)) quand x → ∞.
Toutes les dérivées sont nulles en x = 0.
11/ 28
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Questions ouvertes
Loi invariante µ du processus. λ(x ) = x .
Théorème (Cf. Dumas-Guillemin-Robert, 04)
Si H est la masse de Dirac en δ ∈ (0, 1) alors X admets une
unique loi invariante µ de densité
∞
X
2/π
(−1)n δ −2n
−2n 2
Q
e −δ x /2 .
n
2n+1 )
−2k |
(1
−
δ
|1
−
δ
n=0
k=1
n=0
p
x ∈ R+ 7→ Q∞
Unimodale.
O(exp(−x 2 /2)) quand x → ∞.
Toutes les dérivées nulles en x = 0.
Si E ⊥⊥ Z avec E ∼ E(1) et Z ∼ ν alors
Z ∞
0
12/ 28
1
√
f (x ) µ(dx ) =
E
2
E( Z + 2E − Z )
Z √Z 2 +2E
!
f (x ) dx
Z
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Lois invariantes µ et ν. λ(x ) = x .
13/ 28
Pour H quelconque :
ν(x 7→ exp(sx 2 )) < +∞
ssi
2sq 2 < 1,
µ(x 7→ exp(sx 2 )) < +∞
ssi
2s < 1,
où
q := inf {x ∈ [0, 1) : P(Q > x ) = 1}.
À l’infini :
I
ν ressemble à une gaussienne de variance q 2 6 1
I
µ ressemble à une gaussienne standard.
Questions ouvertes
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Questions ouvertes
Distance de Wasserstein (couplage)
I
Pour tout p > 1 et toutes lois µ, ν sur Rn :
Z
p
Wp (µ1 , µ2 ) := inf
Π
|x − y |p Π(dx , dy )
E ×E
I
Convergence en Wp ⇔ Convergence en loi + moments 6 p
I
En statistique : distance de Mallows (de Fréchet pour p = 2)
I
En analyse : distance de transport
I
Note but : trouver ϕ telle que Wp (L(Xt ), µ) 6 ϕ(X0 , t)
I
Méthode de couplage :
Wp (µ1 , µ2 )p = inf E(|X1 − X2 |p ).
(X1 ,X2 )
14/ 28
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Questions ouvertes
Distance de Wasserstein
15/ 28
Formulation duale de Kantorovich-Rubinstein :
Z
W1 (µ1 , µ2 ) =
f dµ1 −
sup
Z
f dµ2
Lip(f )61
Sur R :
Wp (µ1 , µ2 )p =
Z 1
p
−1
F1 (u) − F2−1 (u) du
0
et
Z
W1 (µ1 , µ2 ) =
|F1 (x ) − F2 (x )| dx .
R
Brenier-McCann : sur Rn il existe ϕ : Rn → Rn convexe t.q.
2
W2 (f dµ, µ) =
Z
|x − ∇ϕ(x )|2 dµ(x ).
Monge-Ampère : si dµ(x ) = e −V (x ) dx alors
f (x )e −V (x ) = det(Hess(ϕ)(x ))e −V (∇ϕ(x ))
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Questions ouvertes
Vitesse exponentielle chaîne incluse. λ(x ) = x .
Théorème (Vitesse exponentielle pour chaîne incluse)
Soient (Xt )t> et (Yt )t>0 deux copies du processus dont les lois
initiales ont un moment d’ordre p > 1 fini. Si X̂ et Ŷ sont les
chaînes incluses alors pour tout n > 0 et avec Q ∼ H,
Wp (L(X̂n ), L(Ŷn )) 6 E(Q p )n/p Wp (L(X0 ), L(Y0 )).
En particulier, si ν désigne la loi invariante de X̂ alors
Wp (L(X̂n ), ν) 6 E(Q p )n/p Wp (L(X0 ), ν).
Méthode : couplage horloges-sauts + auto-régression Lipschitz
16/ 28
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Questions ouvertes
Concentration pour chaîne incluse. λ(x ) = x .
Théorème (Concentration pour chaîne incluse)
Soit X̂ la chaîne incluse partant de x , de loi invariante ν. Si H est
la masse de Dirac en δ ∈ (0, 1) alors pour tout u > 0 et toute
fonction 1-Lipschitz f : R+ → R,
!
Z
n
1 X
δ
f (X̂k ) − f dν > u +
W1 (δx , ν)
P n
1−δ
k=1
!
n(1 − δ 2 )u 2
6 2 exp −
.
2δ 2
Concentration fonctionnelles additives dans théorème ergodique
Méthode : inégalité de Sobolev logarithmique pour noyau de saut
17/ 28
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Questions ouvertes
Concentration pour chaîne incluse. λ(x ) = x .
18/ 28
Une loi η vérifie une inégalité de Sobolev logarithmique (Gross) si
Z
(∃c > 0)(∀f )
2
2
Z
2
f log(f ) dη − f dη log
Z
2
Z
f dη 6 c
|∇f |2 dη.
Entraîne une borne supérieure gaussienne sur la log-Laplace :
Z
(∀u > 0)(∀f ) log
c
exp(uf ) dη 6 Lip(f )u 2 + u
4
Z
f dη.
Le noyau K (x , ·) de la chaîne incluse X̂ vérifie une ISL avec
c = 2δ 2 .
Ensuite, stabilité par tensorisation de ISL.
Que peut-on faire pour le processus (Xt )t>0 ?
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Questions ouvertes
Moments transitoires du cas λ(x ) = λ.
19/ 28
Le générateur L conserve les polynômes de degré n
On applique le générateur L à f (x ) = x n :
∂t E((Xt )n )|X0 = x ) = E(L(x 7→ x n )(Xt )|X0 = x ) = · · ·
d’où par récurrence :


E((Xt )n |X0 = x ) = Qn
n!
k=1 θk
+ n!
n
X
m=1
n
X


m=1
n
xk Y
k!
j=k
j6=m
1 
e −θm t
θ i − θj 
avec θk = λ(1 − E(Q k )) et Q ∼ H.
Van Leeuwaarden et Löpker Transient moments of the TCP
window size process JAP (2008)
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Questions ouvertes
Vitesse exponentielle. λ(x ) = λ.
Théorème (Vitesse pour λ constant)
Si (Xt )t>0 et (Yt )t>0 sont deux copies du processus dont les lois
initiales ont des moments d’ordre p > 1 finis alors pour tout t > 0,
Wp (L(Xt ), L(Yt )) 6 Wp (L(X0 ), L(Y0 ))e −p
−1 θ t
p
En particulier, si µ est la loi invariante de (Xt )t>0 ,
Wp (L(Xt ), µ) 6 Wp (L(X0 ), µ)e −p
Preuve élémentaire. . .
20/ 28
−1 θ t
p
.
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Questions ouvertes
Vitesse exponentielle. λ(x ) = λ.
Comme λ est constant, on peut construire un couplage (Xt , Yt )t>0
avec des marges de mêmes sauts (Qn )n>0 et de même temps de
sauts associés à un processus de Poisson (Nt )t>0 :
E(|Xt − Yt |p ) =
∞
X
E(|Xt − Yt |p 1{Nt =k} )
k=0
p
= |x − y |
∞
X
E(Q p )P(Nt = k)
k=0
p −λt(1−E(Q p ))
= |x − y | e
.
Ainsi, si Π est un couplage des lois initiales :
Wp (L(Xt ), L(Yt ))p 6 e −θp t
Z
R2+
Ne marche pas si λ n’est pas constant.
21/ 28
|x − y |p Π(dx , dy ).
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Questions ouvertes
Vitesse exponentielle. λ(x ) = a + x , a > 0.
Théorème (Vitesse pour λ minoré par a)
Si (Xt )t>0 et (Yt )t>0 sont deux copies du processus dont les lois
initiales ont un moment d’ordre 1 fini alors pour tout t > 0,
W1 (L(Xt ), L(Yt )) 6 e −aκ1 t W1 (L(X0 ), L(Y0 ))
où
κ1 = 1 −
Z 1
h H(dh).
0
Si µ est la loi invariante de (Xt )t>0 :
W1 (L(Xt ), µ) 6 e −aκ1 t W1 (L(X0 ), µ).
Méthode : couplage au mieux des temps et contrôle à la Gronwall.
22/ 28
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Questions ouvertes
Vitesse exponentielle. λ(x ) = a + x , a > 0.
Générateur du couple pour x > y :
(Lf )(x , y ) = ∂1 f (x , y ) + ∂2 f (x , y )
+ (x − y )
Z 1
(f (hx , y ) − f (x , y )) H(dh)
0
Z 1
(f (hx , hy ) − f (x , y )) H(dh)
+ (y + a)
0
Le second composant ne saute jamais seul.
Les sauts simultanés vont au même point.
α(t) := E(|Xt − Yt ||X0 = x , Y0 = y )
On montre que
α0 (t) 6 −aκ1 α(t).
23/ 28
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Questions ouvertes
Ergodicité forte. λ(x ) = a + x .
Théorème (Ergodocité forte pour λ minoré par a)
Si (Xt )t>0 et (Yt )t>0 sont deux copies du processus de lois initiales
quelconques alors pour tous 0 < s < t
W1 (L(Xt ), L(Yt )) 6 √
2e aκ1 s
e −aκ1 t .
√
κ1 tanh(s κ1 )
Preuve : observer que
L(x 7→ x )(x ) 6 1 − κ1 x (x + a) 6 1 − κ1 x 2
puis via Ricatti supx >0 E(Xt |X0 = x ) 6
W1 (L(Xt ), L(Yt )) 6 √
24/ 28
√
1 √
κ1 tanh( κ1 t)
2
.
√
κ1 tanh( κ1 s)
qui donne
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Questions ouvertes
Problèmes ouverts sur la vitesse
I
PDMP plus généraux (pas grand chose sur diffusions à saut)
Z
(Lf )(x ) = (∆f )(x ) − ∇V · ∇f + λ(x ) (f (y ) − f (x ))K (x , dy ).
Récemment : Wang sur Lévy-Ornstein-Uhlenbeck (couplage)
I
I
I
Particules suivant la même dynamique de type TCP mais en
interaction (Graham-Robert)
Interactions champs moyen (McKean-Vlasov)
Versions branchantes → ÉDP transport-fragmentation
∂t n(t, x ) + ∂x n(t, x ) + B(x )n(t, x ) = 4B(2x )n(t, 2x )
(Mischler-Perthame-Ryzhik)
(Perthame-Laurençot)
(Baccelli-McDonald-Reynier)
25/ 28
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Questions ouvertes
Travaux récents de Baccelli et al sur TCP
26/ 28
I
Baccelli, Kim, McDonald, Equilibria of a Class of Transport
Equations Arising in Congestion Control, Queue. Sys. (2007)
I
Baccelli, McDonald, A Stochastic Model for the Throughput
of Non-Persistent TCP Flows, Performance Evaluation (2008)
I
Baccelli, Carofiglio, Foss, Proxy Caching in Split TCP :
Dynamics, Stability and Tail Asymptotics, Proc. IEEE (2008).
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Questions ouvertes
Problème ouvert : critère de type Hörmander ?
27/ 28
Champs de vecteurs lisses V0 , . . . , Vn sur Rd .
Processus de diffusion (Xt )t>0 de générateur infinitésimal
L=
n
X
Vk2 + V0
k=1
Si Lie(V0 , . . . , Vn )(x ) = Rd pour tout x ∈ Rd
Alors Xt a une densité lisse pour tout t > 0.
Critère type Hörmander pour absolue continuité de µ d’un PDMP ?
Régularité de solution d’équations intégro-différentielles.
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Une petite curiosité pour la fin. . .
W2 (N (m1 , Σ1 ), N (m2 , Σ2 ))
28/ 28
Questions ouvertes
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Questions ouvertes
Une petite curiosité pour la fin. . .
W2 (N (m1 , Σ1 ), N (m2 , Σ2 ))2
−1/2
km1 − m2 k22 + Tr(Σ1 + Σ2 − 2(Σ1
28/ 28
−1/2 1/2
Σ2 Σ1
)
)
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Questions ouvertes
Une petite curiosité pour la fin. . .
W2 (N (m1 , Σ1 ), N (m2 , Σ2 ))2
−1/2
km1 − m2 k22 + Tr(Σ1 + Σ2 − 2(Σ1
et si Σ1 Σ2 = Σ2 Σ1 alors
28/ 28
−1/2 1/2
Σ2 Σ1
)
)
Introduction
Un cas spécial et sa chaîne incluse
Le processus à temps continu
Questions ouvertes
Une petite curiosité pour la fin. . .
W2 (N (m1 , Σ1 ), N (m2 , Σ2 ))2
−1/2
km1 − m2 k22 + Tr(Σ1 + Σ2 − 2(Σ1
−1/2 1/2
Σ2 Σ1
et si Σ1 Σ2 = Σ2 Σ1 alors
1/2
km1 − m2 k22 + Tr((Σ1
28/ 28
1/2
− Σ2 )2 )
)
)

Documents pareils