Posting_exam2_GEL7000_A2014 (667.97 KB, 2016-09-21)

GEL-7000 Processus aléatoires : méthodes d’étude et applications
Examen partiel 2 (automne 2014)
Enseignant : Jean-Yves Chouinard
Durée : 2 heure 50 minutes
Remarques importantes : Examen à livre fermé. Seules les calculatrices approuvées par la Faculté des sciences et de génie sont permises. Pour chaque question,
donnez les détails de vos calculs.
po
Question 1 :
(25 points)
ur
We have seen in class that the moments mn = E [X n ] of a random
variable X can be
jωX
. Let X be a Laplacian
determined from its characteristic function ΦX (ω) = E e
random variable :
α −α|x|
e
,
2
co
fX (x) =
where α > 0.
ta
ul
ns
a) Determine the characteristic function ΦX (ω).
(15 points)
b) Give the moment of order 1, m1 , from the characteristic function ΦX (ω). Indicate
clearly the computation steps.
(10 points)
Question 2 :
n
tio
Let random variable Y = 5X − 3.
(25 points)
a) Find the mean µY and variance σY2 of Y in terms of the mean µX and variance
2
σX
of X.
(9 points)
b) Give the mean and variance of Y if X is a Laplacian random variable with α = 0.4.
(8 points)
c) Find the cumulative distribution function FY (y) and the probability density function fY (y) of Y for the Laplacian random variable X.
(8 points)
GEL-7000
Examen partiel 2 (automne 2014)
page 2
Question 3 :
(25 points)
The cumulative distribution function of a pair of random variables (X, Y ) is given by :
(
1 − x12 1 − y12 , for x > 1, y > 1
FXY (x, y) =
0,
elsewhere
a) Find the marginal cumulative distribution functions FX (x) and Fy (y) of X and
Y respectively.
(8 points)
(5 points)
c) What is the probability of event A = {X ≤ 5, Y ≤ 3} ?
(6 points)
d) What is the probability of event B = {X > 4, Y > 6} ?
(6 points)
po
b) Are random variables X and Y independent ? Justify your answer.
ur
Question 4 :
(25 points)
su
n
co
Let X and Y be jointly Gaussian random variables aléatoires with probability density
function :
1
− 8
2
2
q e
x + 4y − 3xy + 3y − 2x + 1
fXY (x, y) =
7
7
2π 16
for −∞ < x < ∞ and −∞ < y < ∞.
(8 points)
(8 points)
n
c) Knowing that :
tio
2
b) Find the variances σX
and σY2 .
lta
a) Find the means µX and µY .
ρXY
=
COV (X, Y )
E [XY ] − E [X] E [Y ]
=
σ X σY
σ X σY
compute the covariance COV (X, Y ) of X and Y .
(9 points)
GEL-7000
Examen partiel 2 (automne 2014)
Distributions de variables aléatoires discrètes
Loi de Bernoulli :
SX = {0, 1}
p0 = q = 1 − p et p1 = p
E [X] = p et VAR [X] = p (1 − p)
Loi binomiale :
po
SX = {0, 1, . . . , n}
n k
pk =
p (1 − p)n−k , k = 0, 1, . . . , n
k
E [X] = np et VAR [X] = np (1 − p)
ur
Loi géométrique :
n
co
lta
Loi uniforme :
su
SX = {1, 2, . . . }
pk = p (1 − p)k , k = 1, 2, . . .
1
1−p
E [X] =
et VAR [X] =
p
p2
n
tio
SX = {1, 2, . . . , L}
1
pk =
, k = 1, 2, . . . , L
L
L+1
L2 − 1
E [X] =
et VAR [X] =
2
12
Loi de Poisson :
SX = {0, 1, . . . }
αk −α
pk =
e , k = 0, 1, . . .
k!
E [X] = α et VAR [X] = α
et α > 0
page 3
GEL-7000
Examen partiel 2 (automne 2014)
Distributions de variables aléatoires continues
Loi uniforme :
SX = [a, b]
1
fX (x) =
,
b−a
a+b
,
E [X] =
2
a≤x≤b
(b − a)2
12
et VAR [X] =
Loi exponentielle :
po
SX = [0, ∞)
fX (x) = λe−λx , x ≥ 0 et λ > 0
1
1
E [X] =
et VAR [X] = 2
λ
λ
ur
Loi normale (gaussienne) :
n
co
Loi laplacienne :
lta
su
SX = (−∞, +∞)
2
1
2
e−(x−µ) /2σ , −∞ < x < +∞ et σ > 0
fX (x) = √
2πσ
E [X] = µ et VAR [X] = σ 2
Loi de Rayleigh :
n
tio
SX = (−∞, +∞)
α −α|x|
e
, −∞ < x < +∞ et α > 0
fX (x) =
2
2
E [X] = 0 et VAR [X] = 2
α
SX = [0, ∞)
x −x2 /2α2
fX (x) =
e
, x ≥ 0 et α > 0
2
αp
E [X] = α π/2 et VAR [X] = (2 − π/2) α2
Loi de Cauchy :
SX = (−∞, +∞)
α/π
fX (x) = 2
, x ≥ 0 et α > 0
x + α2
La moyenne E [X] et la variance VAR [X] n’existent pas.
page 4
GEL-7000
Examen partiel 2 (automne 2014)
page 5
Loi de Pareto :
SX = [xm , ∞) , xm > 0
0,
x < xm
fX (x) =
xα
m
α xα+1 , x ≥ xm
αxm
αx2m
,
E [X] =
, α > 1 et VAR [X] =
α−1
(α − 2) (α − 1)2
α>2
Probabilités
Probabilité conditionnelle :
po
P [A ∩ B]
où P [B] > 0
P [B]
P [A ∩ B] = P [A|B] P [B] = P [B|A] P [A]
P [A|B] =
ur
n
co
Indépendance :
P [A ∩ B] = P [A] P [B]
Théorème de la probabilité totale :
su
P [A] = P [A|B1 ] P [B1 ] + P [A|B2 ] P [B2 ] + · · · + P [A|Bn ] P [Bn ]
lta
où B1 , B2 , . . . , Bn est une partition de l’espace d’échantillonnage S.
Règle de Bayes :
tio
P [Bj |A] =
n
P [A ∩ Bj ]
P [A|Bj ] P [Bj ]
= Pn
P [A]
k=1 P [A|Bk ] P [Bk ]
Coefficient binomial :
n
n!
=
k
k! (n − k)!
Fonction indicatrice :
IA (ζ) =
0
1
si ζ n’est pas dans A
si ζ est dans A
GEL-7000
Examen partiel 2 (automne 2014)
Séries :
∞
X
i=0
n
X
xi =
1
,
1−x
xi =
1 − xn+1
1−x
i=0
n
X
i =
i=0
∞
X
iri =
po
i=1
ex =
ur
(a + b)
n
=
|x| < 1
n (n + 1)
2
r
(1 − r)2
∞
X
xk
k!
k=0
n X
n
co
k=0
n k n−k
a b
k
Variables aléatoires discrètes
su
Probabilité :
pX (x) = P [X = x] = P [{ζ : X (ζ) = x}]
X
x∈SX
X
tio
µX = E [X] =
lta
Espérance mathématique :
xpX (x) =
xk pX (xk )
k
n
Probabilité totale :
pX (x) =
n
X
pX (x|Bi ) P [Bi ]
(où les {Bi } forment une partition)
i=1
Probabilité conditionnelle :
pX (x|C) =
P [{X = x} ∩ C]
P [C]
Espérance mathématique conditionnelle :
X
X
µX|B = E [X|B] =
xpX (x|B) =
xk pX (xk |B)
x∈SX
k
page 6
GEL-7000
Examen partiel 2 (automne 2014)
Variables aléatoires continues
Fonction de répartition (cdf ) :
FX (x) = P [X ≤ x]
P [a < X ≤ b] = FX (b) − FX (a)
P [X = b] = FX (b) − FX b−
Densité de probabilité (pdf ) :
po
fX (x) =
dFX (x)
dx
ur
Espérance mathématique :
Z
∞
n
co
E [X] =
= c
= cE [X]
= E [X] + c
n
X
E [gk (X)]
=
lta
su
E [c]
E [cX]
E [X + c]
" n
#
X
E
gk (X)
xfX (x) dx
−∞
k=1
k=1
avec P [C] > 0
n
P [{X ≤ x} ∩ C]
P [C]
dFX (x|C)
fX (x|C) =
dx
FX (x|C) =
tio
Fonction de répartition et densité de probabilité conditionnelles :
Fonction génératrice :
GN (z) = E z N
Fonction d’une variable aléatoire :
Y
= g (X)
X
dx fY (y) =
fX (x) dy x=xk
k
page 7
GEL-7000
Examen partiel 2 (automne 2014)
page 8
Fonction caractéristique :
ΦX (ω) = E ejωX =
ΦX (ω) = GN ejω
Z
∞
fX (x) ejωx dx
−∞
ΦX (ω) = 1 + jωE [X] +
dn
Φ
(ω)
= j n E [X n ]
X
dω n
ω=0
(jω)2 E [X 2 ]
(jω)n E [X n ]
+ ··· +
+ ...
2!
n!
Indépendance :
po
P [X ∈ A1 , Y ∈ A2 ] = P [X ∈ A1 ] P [Y ∈ A2 ]
E [g1 (X) g2 (Y )] = E [g1 (X)] E [g2 (Y )]
ur
Variance :
=
=
=
=
=
VAR [X] = E (X − µX )2 = E X 2 − µ2X
0
VAR [X]
c2 VAR [X]
VAR [X] + VAR [Y ] + 2COV [X, Y ]
su
n
co
2
σX
VAR [c]
VAR [X + c]
VAR [cX]
VAR [X + Y ]
Écart-type :
lta
σX = STD [X] =
p
VAR [X]
tio
Densités de probabilité et fonctions de répartitions conditionnelles et conjointes
n
Probabilité, fonction de répartition et densité de probabilité conjointes :
h
i
\
pXY (x, y) = P {X = x} {Y = y} = P [X = x, Y = y] , pour (x, y) ∈ R2
FXY (x1 , y1 ) = P [X ≤ x1 , Y ≤ y1 ]
∂ 2 FXY (x, y)
fXY (x, y) =
∂x∂y
Probabilité, fonction de répartition et densité de probabilité marginales :
pX (xj ) = P [X = xj ] =
∞
X
pXY (xj , yk )
k=1
FX (x1 ) = FXY (x1 , ∞) et FY (y1 ) = FXY (∞, y1 )
Z ∞
fY (y) =
fXY (x, y) dx
−∞
GEL-7000
Examen partiel 2 (automne 2014)
page 9
Probabilité, fonction de répartition et densité de probabilité conditionnelles :
fXY (x, y)
dFY (y|x)
=
dy
fX (x)
Z ∞
P [Y ∈ A|X = x] fX (x) dx
P [Y ∈ A] =
Z−∞
fY (y|x) dy
P [Y ∈ A|X = x] =
Y ∈A
Z ∞
yfY (y|x) dy
E [Y |x] =
fY (y|x) =
−∞
po
Distribution gaussienne :
ur
X ∼ N µ, σ 2
2
1
2
fX (x) = √
e−(x−µ) /2σ ,
−∞ < x < ∞
2πσ
Z (x−µ)/σ
1
2
FX (x) = √
e−t /2 dt
2π −∞
n
co
Distribution gaussienne conjointe :
(
2πσX σY
su
fXY (x, y) =
−
1
p
1−
ρ2XY
e
1
(
2 1−ρ2
XY
)
x−µX
σX
2
−2ρXY
x−µX
σX
y−µY
σY
)
y−µY 2
+ σ
Y
lta
Distributions gaussiennes marginales :
n
tio
2
X ∼ N µX , σX
Y ∼ N µY , σY2
Distribution gaussienne conditionnelle :
fX (x|y) =
fXY (x, y)
fX (x)
(
1
fX (x|y) = p
e
2
2πσX (1 − ρ2XY )
1
−
2 1−ρ2
XY
(
E [X|y] = µX + ρXY
2
VAR [X|y] = σX
1 − ρ2XY
h
)σX2
σX
σY
x−ρXY
σX
σY
(y − µY )
i2
(y−µY )−µX
)
GEL-7000
Examen partiel 2 (automne 2014)
Bornes et inégalités
Inégalité de Markov :
P [X ≥ a] ≤
E [X]
a
où X est non négatif
Inégalité de Chebyshev :
P [|X − µX | ≥ a] ≤
2
σX
a2
po
Borne de Chernoff :
ur
P [X ≥ a] = e−sa E esX
pour tous les s > 0
Identités trigonométriques
n
co
n
tio
lta
su
sin (α ± β) = sin α cos β ± cos α sin β
cos (α ± β) = cos α cos β ∓ sin α sin β
sin2 θ + cos2 θ = 1
1
cos2 θ =
[1 + cos(2θ)]
2
1
sin2 θ =
[1 − cos(2θ)]
2
1
[cos(α − β) − cos(α + β)]
sin α sin β =
2
1
cos α cos β =
[cos(α − β) + cos(α + β)]
2
1
sin α cos β =
[sin(α − β) + sin(α + β)]
2
page 10
GEL-7000
Examen partiel 2 (automne 2014)
Dérivées
d n
x = nxn−1
dx
= a exp(ax)
= −a sin(ax)
= a cos(ax)
dv
du
+v
dx
dx
1 du
u dv
=
−
v dx v 2 dx
1 du
= − 2
u dx
= u
po
d
exp(ax)
dx
d
cos(ax)
dx
d
sin(ax)
dx
d
(uv)
dx
d u
dx v
d 1
dx u
où u et v sont des fonctions de x
ur
n
co
Intégrales
Z
Z
exp(ax)dx =
cos(ax)dx =
=
=
=
=
=
=
=
n
sin(ax)dx
Z
xecx dx
Z
x2 ecx dx
Z
xn ecx dx
Z
sinn xdx
Z
cosn xdx
Z
udv
tio
Z
lta
Z
xn+1
(n 6= −1)
n+1
1
exp(ax)
a
1
sin(ax)
a
1
− cos(ax)
a
ecx
(cx − 1)
c2
2
x
2x
2
cx
e
− 2 + 3
c
c
c
Z
1 n cx n
x e −
xn−1 ecx dx
c
c
Z
sinn−1 x cos x n − 1
sinn−2 xdx
+
−
n
n
Z
cosn−1 x sin x n − 1
+
cosn−2 xdx
n
n
Z
uv − vdu
où u et v sont des fonctions de x
su
xn dx =
page 11