Des réseaux de contraintes valuées aux problèmes de

Introduction
Exemple
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
Des réseaux de contraintes valuées aux problèmes de
décision séquentielle
Conclusion
Thomas Schiex, Cédric Pralet
3 Juillet 2007
Introduction
Introduction
VCSP: cadre générique pour l’optimisation
incapable de représenter efficacement certains problèmes :
Exemple
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
COUVERT
Conclusion
Logique
SAT, maxSAT
(x ∨ y ) ∧ (y ∨ ¬z)
Réseaux
bayésiens
MPE
maxxyzt Px Pz|x Py |x Pt|x,z
Décision dans
l’incertain
Introduction
Introduction
VCSP: cadre générique pour l’optimisation (NP-complet)
incapable de représenter efficacement certains problèmes :
Exemple
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
COUVERT
NON COUVERT
Logique
SAT, maxSAT
(x ∨ y ) ∧ (y ∨ ¬z)
QBF (PSPACE-complet)
∀x∃y ∀z(x ∨ y ) ∧ (y ∨ ¬z)
Réseaux
bayésiens
MPE
maxxyzt Px Pz|x Py |x Pt|x,z
Conclusion
Décision dans
l’incertain
Introduction
Introduction
VCSP: cadre générique pour l’optimisation (NP-complet)
incapable de représenter efficacement certains problèmes :
Exemple
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
COUVERT
NON COUVERT
Logique
SAT, maxSAT
(x ∨ y ) ∧ (y ∨ ¬z)
QBF (PSPACE-complet)
∀x∃y ∀z(x ∨ y ) ∧ (y ∨ ¬z)
Réseaux
bayésiens
MPE
maxxyzt Px Pz|x Py |x Pt|x,z
MAPP(NPPP -complet)
maxxy zt Px Pz|x Py |x Pt|x,z
Conclusion
Décision dans
l’incertain
Introduction
Introduction
VCSP: cadre générique pour l’optimisation (NP-complet)
incapable de représenter efficacement certains problèmes :
Exemple
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
COUVERT
NON COUVERT
Logique
SAT, maxSAT
(x ∨ y ) ∧ (y ∨ ¬z)
QBF (PSPACE-complet)
∀x∃y ∀z(x ∨ y ) ∧ (y ∨ ¬z)
Réseaux
bayésiens
MPE
maxxyzt Px Pz|x Py |x Pt|x,z
MAPP(NPPP -complet)
maxxy zt Px Pz|x Py |x Pt|x,z
Conclusion
Décision dans
l’incertain
Diagrammes d’influence
MDP
Introduction
Introduction
Exemple
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
Conclusion
Question
Peut-on définir un cadre générique à base de fonctions valuées pour
modéliser et résoudre une plus grande classe de problèmes?
Idée générale du passage des VCSP à un cadre plus large
Introduction
Exemple
min ( ⊗ ϕ)
Faisabilités
F
x ,y ,z ,t ϕ∈Φ
x
y
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
Conclusion
f
z
VCSP
t
min max
x
y ,t
fp
X
Plausibilités
P
z
x
y
p
z
t
pu
u
Cadre PFU
(Plausibilité, Faisabilité, Utilité)
U
Utilités
x
y
z
t
Idée générale du passage des VCSP à un cadre plus large
Introduction
Exemple
min ( ⊗ ϕ)
Faisabilités
F
x ,y ,z ,t ϕ∈Φ
x
y
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
Conclusion
f
z
VCSP
t
min max
x
y ,t
fp
X
Plausibilités
P
z
x
y
p
z
t
pu
u
Cadre PFU
(Plausibilité, Faisabilité, Utilité)
U
Utilités
x
y
z
t
Introduction
Exemple
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
1
Exemple de problème incluant plausibilités, faisabilités et utilités
Conclusion
2
Le cadre PFU
3
Algorithmes génériques sur le cadre PFU
Plan
Introduction
Exemple
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
1
Exemple de problème incluant plausibilités, faisabilités et utilités
Conclusion
2
Le cadre PFU
3
Algorithmes génériques sur le cadre PFU
Exemple introductif
Introduction
Exemple
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
Conclusion
Jean doit décider d’ouvrir une porte
Un trésor derrière une des portes
Un voleur derrière une des portes
Exemple introductif
Introduction
Exemple
Le cadre PFU
Jean doit décider d’ouvrir une porte
Un trésor derrière une des portes
Un voleur derrière une des portes
po
Algorithmes
génériques sur
le cadre PFU
Conclusion
Variables de décision
(contrôlables)
Exemple introductif
Introduction
Exemple
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
Jean doit décider d’ouvrir une porte
Un trésor derrière une des portes
Un voleur derrière une des portes
tr
po
vo
Conclusion
Variables de décision
(contrôlables)
Variables d’environnement
(incontrôlables)
Exemple introductif
Introduction
Exemple
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
Conclusion
Trésor: +10, 000e
Voleur: −4, 000e
tr
po
vo
Exemple introductif
Introduction
Exemple
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
Trésor: +10, 000e
Voleur: −4, 000e
U1
tr
po
U2
vo
Conclusion
Fonctions locales d’utilité
U1 : po = tr (+10 Ke)
U2 : po = vo (−4 Ke)
Exemple introductif
Introduction
Exemple
Incertitudes sur l’état de
l’environnement (plausibilités):
Conclusion
tr
po
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
U1
Le trésor et le voleur ne sont pas derrière
la même porte et toutes les situations
possibles sont équiproblables.
U2
vo
Exemple introductif
Introduction
Exemple
Incertitudes sur l’état de
l’environnement (plausibilités):
Conclusion
tr
P1 P2
po
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
U1
Le trésor et le voleur ne sont pas derrière
la même porte et toutes les situations
possibles sont équiproblables.
U2
vo
Fonctions locales de
plausibilité
P1 : vo 6= tr
P2 : 1/6
Exemple introductif
Introduction
Exemple
Incertitudes sur l’état de
l’environnement (plausibilités):
Conclusion
tr
P1 P2
po
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
U1
Le trésor et le voleur ne sont pas derrière
la même porte et toutes les situations
possibles sont équiproblables.
U2
vo
Jean et son compagnon Pierre peuvent
chacun écouter à une porte.
Probabilité d’entendre quelque chose:
fonction de la position du voleur.
Fonctions locales de
plausibilité
P1 : vo 6= tr
P2 : 1/6
Exemple introductif
Introduction
Exemple
Incertitudes sur l’état de
l’environnement (plausibilités):
Conclusion
tr
P1 P2
po
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
U1
Le trésor et le voleur ne sont pas derrière
la même porte et toutes les situations
possibles sont équiproblables.
U2
vo
ecJ
enJ
Jean et son compagnon Pierre peuvent
chacun écouter à une porte.
Probabilité d’entendre quelque chose:
fonction de la position du voleur.
ecP
enP
Fonctions locales de
plausibilité
P1 : vo 6= tr
P2 : 1/6
Exemple introductif
Introduction
Exemple
Incertitudes sur l’état de
l’environnement (plausibilités):
P1 P2
po
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
Conclusion
tr
U1
Le trésor et le voleur ne sont pas derrière
la même porte et toutes les situations
possibles sont équiproblables.
U2
vo
ecJ
P3
enJ
Jean et son compagnon Pierre peuvent
chacun écouter à une porte.
Probabilité d’entendre quelque chose:
fonction de la position du voleur.
P4
ecP
enP
Fonctions locales de
plausibilité
P3 : P(enJ | ecJ , vo)
P4 : P(enP | ecP , vo)
Exemple introductif
Introduction
Exemple
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
Règles:
tr
U1
Jean et Pierre ne peuvent pas écouter à
la même porte et ouvrir la porte A est
interdit.
P1 P2
po
U2
vo
Conclusion
ecJ
P3
enJ
P4
ecP
enP
Exemple introductif
Introduction
Exemple
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
Règles:
F2
tr
U1
Jean et Pierre ne peuvent pas écouter à
la même porte et ouvrir la porte A est
interdit.
P1 P2
po
U2
vo
Conclusion
ecJ
P3
enJ
F1
P4
ecP
enP
Fonctions locales de
faisabilité
F1 : ecJ 6= ecP
F2 : po 6= A
Exemple introductif
Introduction
Exemple
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
Règles:
F2
tr
U1
Jean et Pierre ne peuvent pas écouter à
la même porte et ouvrir la porte A est
interdit.
P1 P2
po
U2
vo
Conclusion
ecJ
P3
enJ
F1
P4
ecP
enP
Modèle graphique
composite
Requête sur le problème
Introduction
Exemple
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
Conclusion
Règles de décision maximisant l’utilité espérée si d’abord Pierre et
Jean écoutent chacun à une porte, et ensuite Jean choisit une porte à
ouvrir en fonction de ce qui a été entendu?
Requête sur le problème
Introduction
Exemple
Règles de décision maximisant l’utilité espérée si d’abord Pierre et
Jean écoutent chacun à une porte, et ensuite Jean choisit une porte à
ouvrir en fonction de ce qui a été entendu?
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
A
ecP
A
B
Conclusion
enJ
0.4 yes
ecJ
C
B
C
no 0.6
enP
2/3 yes
no 1/3
po
A
C
B
vo
A
2/3
B
1/3
tr
A
0
0
10
0
tr
B C
0.5
C
A
0.5
0
0.5
−4
0
6
Arbre de décision
tr
B C
0.5
−4
A
0.5
0
B C
0.5
10
0
0
Requête sur le problème
Introduction
Exemple
Répondre à la requête en utilisant un arbre de décision
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
Conclusion
m
Calculer des règles de décision optimales pour la quantité
max
ecJ ,ecP
X
enJ ,enP
max
po
X
vo,tr
0
„
@
∧
i∈[1,2]
«
Fi
0
?@
1
Y
i∈[1,4]
0
Pi A × @
11
X
Ui AA
i∈[1,2]
? = opérateur de troncature qui masque les décisions infaisables
Autres modèles de plausibilité/utilité
Introduction
Exemple
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
Conclusion
Forme générale des requêtes:
1 0
11
0
0
«
Y
X
X
XX „
@ ∧ Fi ? @
min max
Pi A × @
Ui A A
max
ecP
ecJ
enJ
po
enP vo,tr
i∈[1,2]
i∈[1,4]
i∈[1,2]
Autres modèles de plausibilité/utilité
Introduction
Exemple
Le cadre PFU
Forme générale des requêtes:
1 0
11
0
0
«
Y
X
X
XX „
@ ∧ Fi ? @
min max
Pi A × @
Ui A A
max
ecP
ecJ
enJ
po
i∈[1,2]
enP vo,tr
Algorithmes
génériques sur
le cadre PFU
i∈[1,4]
i∈[1,2]
⇓
Conclusion
„
min max ⊕u max ⊕u ⊕u
ecP
ecJ
enJ
po
enP vo,tr
EU additive probabiliste
Satisfaction esp. probabiliste
EU possibiliste optimiste
EU possibiliste pessimiste
EU with κ-rankings
EU booléenne 1
EU booléenne 2
!
«
∧ Fi
Fi ∈F
⊕p
+
+
max
max
min
∨
∨
?
⊗p
Pi ∈P
⊗p
×
×
min
min
+
∧
∧
Pi
«!
„
⊗pu
⊗u
Ui ∈U
Ui
⊕u
⊗pu
+
×
+
×
max
min
min max(1−p, u)
min
+
∨
∧
∧
→
⊗u
+
×
min
min
min
∧
∨
Vers un cadre générique
Introduction
Exemple
Le cadre PFU
„
min max ⊕u max ⊕u ⊕u
Algorithmes
génériques sur
le cadre PFU
ecP
ecJ
enJ
po
enP vo,tr
!
«
∧ Fi
Fi ∈F
?
⊗p
Pi ∈P
Pi
«!
„
⊗pu
⊗u
Ui ∈U
Ui
Conclusion
Trois éléments clé à définir:
1
une structure algébrique
2
un réseau de fonctions locales
3
une séquence d’élimination de variables
Formalisme obtenu: le cadre PFU (Plausibilité-Faisabilité-Utilité)
Plan
Introduction
Exemple
Le cadre PFU
1
Exemple de problème incluant plausibilités, faisabilités et utilités
2
Le cadre PFU
Une structure algébrique générique
Réseau de fonctions locales
Requêtes
Analyse du cadre
3
Algorithmes génériques sur le cadre PFU
Une structure
algébrique
générique
Réseau de
fonctions locales
Requêtes
Analyse du cadre
Algorithmes
génériques sur
le cadre PFU
Conclusion
Plan
Introduction
Exemple
Le cadre PFU
1
Exemple de problème incluant plausibilités, faisabilités et utilités
2
Le cadre PFU
Une structure algébrique générique
Réseau de fonctions locales
Requêtes
Analyse du cadre
3
Algorithmes génériques sur le cadre PFU
Une structure
algébrique
générique
Réseau de
fonctions locales
Requêtes
Analyse du cadre
Algorithmes
génériques sur
le cadre PFU
Conclusion
Premier élément clé: une structure algébrique
Introduction
Exemple
But: spécifier comment les informations sont combinées et
synthétisées
Le cadre PFU
Une structure
algébrique
générique
Réseau de
fonctions locales
Requêtes
Analyse du cadre
Algorithmes
génériques sur
le cadre PFU
Conclusion
Différents éléments:
1
une structure de plausibilité: (Ep , p , ⊕p , ⊗p )
ex: (R+ , ≤, +, ×) pour les probabilités
Premier élément clé: une structure algébrique
Introduction
Exemple
But: spécifier comment les informations sont combinées et
synthétisées
Le cadre PFU
Une structure
algébrique
générique
Réseau de
fonctions locales
Requêtes
Analyse du cadre
Algorithmes
génériques sur
le cadre PFU
Conclusion
Différents éléments:
1
une structure de plausibilité: (Ep , p , ⊕p , ⊗p )
ex: (R+ , ≤, +, ×) pour les probabilités
2
une structure d’utilité: (Eu , u , ⊗u )
ex: (R, ≤, +) pour les utilités additives
Premier élément clé: une structure algébrique
Introduction
Exemple
But: spécifier comment les informations sont combinées et
synthétisées
Le cadre PFU
Une structure
algébrique
générique
Réseau de
fonctions locales
Requêtes
Analyse du cadre
Algorithmes
génériques sur
le cadre PFU
Différents éléments:
1
une structure de plausibilité: (Ep , p , ⊕p , ⊗p )
ex: (R+ , ≤, +, ×) pour les probabilités
2
une structure d’utilité: (Eu , u , ⊗u )
ex: (R, ≤, +) pour les utilités additives
3
une structure d’utilité espérée: (Ep , Eu , ⊕u , ⊗pu )
X
(px × ux ) devient ⊕u (px ⊗pu ux )
Conclusion
x
x
Premier élément clé: une structure algébrique
Introduction
Exemple
But: spécifier comment les informations sont combinées et
synthétisées
Le cadre PFU
Une structure
algébrique
générique
Réseau de
fonctions locales
Requêtes
Analyse du cadre
Algorithmes
génériques sur
le cadre PFU
Différents éléments:
1
une structure de plausibilité: (Ep , p , ⊕p , ⊗p )
ex: (R+ , ≤, +, ×) pour les probabilités
2
une structure d’utilité: (Eu , u , ⊗u )
ex: (R, ≤, +) pour les utilités additives
3
une structure d’utilité espérée: (Ep , Eu , ⊕u , ⊗pu )
X
(px × ux ) devient ⊕u (px ⊗pu ux )
Conclusion
x
4
x
des axiomes sur ces structures inspirés par
[Friedman-Halpern’95] et [Chu-Halpern’03]
Plan
Introduction
Exemple
Le cadre PFU
1
Exemple de problème incluant plausibilités, faisabilités et utilités
2
Le cadre PFU
Une structure algébrique générique
Réseau de fonctions locales
Requêtes
Analyse du cadre
3
Algorithmes génériques sur le cadre PFU
Une structure
algébrique
générique
Réseau de
fonctions locales
Requêtes
Analyse du cadre
Algorithmes
génériques sur
le cadre PFU
Conclusion
Deuxième élément clé: réseau PFU
Introduction
Exemple
Le cadre PFU
Une structure
algébrique
générique
Réseau de
fonctions locales
Requêtes
Analyse du cadre
Définition
Un réseau PFU est un tuple (V , G, P, F , U) où
V : ensemble fini de variables de décision et d’environnement
G: DAG représentant des conditions de normalisation
Algorithmes
génériques sur
le cadre PFU
P = {P1 , P2 , . . .}: ensemble fini de fonctions de plausibilité
Conclusion
F = {F1 , F2 , . . .}: ensemble fini de fonctions de faisabilité
U = {U1 , U2 , . . .}: ensemble fini de fonctions d’utilité
Les fonctions locales expriment des quantités globales (factorisation
justifiée par la notion d’indépendance conditionnelle).
Réseau PFU du problème du trésor
Introduction
Réseau de fonctions locales
Graphe acyclique orienté (DAG)
Exemple
Le cadre PFU
Une structure
algébrique
générique
F2
tr
U1
Réseau de
fonctions locales
Requêtes
Analyse du cadre
P1 P2
po
Algorithmes
génériques sur
le cadre PFU
U2
F2
ecJ,ecP
vo
P1,P2
vo,tr
Conclusion
po
ecJ
P3
enJ
F1
P4
ecP
enP
enJ
P3
enP
P4
F1
Plan
Introduction
Exemple
Le cadre PFU
1
Exemple de problème incluant plausibilités, faisabilités et utilités
2
Le cadre PFU
Une structure algébrique générique
Réseau de fonctions locales
Requêtes
Analyse du cadre
3
Algorithmes génériques sur le cadre PFU
Une structure
algébrique
générique
Réseau de
fonctions locales
Requêtes
Analyse du cadre
Algorithmes
génériques sur
le cadre PFU
Conclusion
Troisième élément clé: requêtes sur un réseau PFU
Introduction
Exemple
But: définir des problèmes de décision
Le cadre PFU
Une structure
algébrique
générique
Réseau de
fonctions locales
Requêtes
Analyse du cadre
Algorithmes
génériques sur
le cadre PFU
Conclusion
Définition
Requête = séquence de couples opérateur-variables = Sov
ex: Sov = minecP maxecJ ⊕u enJ maxpo ⊕u enP ⊕u vo,tr
Troisième élément clé: requêtes sur un réseau PFU
Introduction
Exemple
But: définir des problèmes de décision
Le cadre PFU
Une structure
algébrique
générique
Réseau de
fonctions locales
Requêtes
Analyse du cadre
Algorithmes
génériques sur
le cadre PFU
Définition
Requête = séquence de couples opérateur-variables = Sov
ex: Sov = minecP maxecJ ⊕u enJ maxpo ⊕u enP ⊕u vo,tr
Conclusion
Sémantique:
ordre d’élimination → ordre des décisions et des observations
Troisième élément clé: requêtes sur un réseau PFU
Introduction
Exemple
But: définir des problèmes de décision
Le cadre PFU
Une structure
algébrique
générique
Réseau de
fonctions locales
Requêtes
Analyse du cadre
Algorithmes
génériques sur
le cadre PFU
Définition
Requête = séquence de couples opérateur-variables = Sov
ex: Sov = minecP maxecJ ⊕u enJ maxpo ⊕u enP ⊕u vo,tr
Conclusion
Sémantique:
ordre d’élimination → ordre des décisions et des observations
min ou max sur une décision → attitude optimiste ou pessimiste
Troisième élément clé: requêtes sur un réseau PFU
Introduction
Répondre à une requête = calculer des utilités espérées optimales
et/ou des règles de décision optimales
Exemple
Le cadre PFU
Une structure
algébrique
générique
Réseau de
fonctions locales
Requêtes
Analyse du cadre
Algorithmes
génériques sur
le cadre PFU
Conclusion
Réponse à une requête Q:
„
Ans(Q) = Sov
!
«
∧ Fi
Fi ∈F
?
⊗p
Pi ∈P
Pi
«!
„
⊗pu
⊗u
Ui ∈U
Ui
Troisième élément clé: requêtes sur un réseau PFU
Introduction
Répondre à une requête = calculer des utilités espérées optimales
et/ou des règles de décision optimales
Exemple
Le cadre PFU
Une structure
algébrique
générique
Réseau de
fonctions locales
Requêtes
Réponse à une requête Q:
„
Ans(Q) = Sov
Analyse du cadre
!
«
∧ Fi
Fi ∈F
?
⊗p
Pi ∈P
Pi
«!
„
⊗pu
⊗u
Ui ∈U
Ui
Algorithmes
génériques sur
le cadre PFU
Conclusion
Théorème
La définition de Ans(Q) est équivalente à une définition à base d’arbre
de décision
Troisième élément clé: requêtes sur un réseau PFU
Introduction
Répondre à une requête = calculer des utilités espérées optimales
et/ou des règles de décision optimales
Exemple
Le cadre PFU
Une structure
algébrique
générique
Réseau de
fonctions locales
Requêtes
Réponse à une requête Q:
„
Ans(Q) = Sov
Analyse du cadre
!
«
∧ Fi
Fi ∈F
?
⊗p
Pi ∈P
Pi
«!
„
⊗pu
⊗u
Ui ∈U
Ui
Algorithmes
génériques sur
le cadre PFU
Conclusion
Théorème
La définition de Ans(Q) est équivalente à une définition à base d’arbre
de décision
Théorème
Savoir si Ans(Q) > α est un problème PSPACE-complet
Plan
Introduction
Exemple
Le cadre PFU
1
Exemple de problème incluant plausibilités, faisabilités et utilités
2
Le cadre PFU
Une structure algébrique générique
Réseau de fonctions locales
Requêtes
Analyse du cadre
3
Algorithmes génériques sur le cadre PFU
Une structure
algébrique
générique
Réseau de
fonctions locales
Requêtes
Analyse du cadre
Algorithmes
génériques sur
le cadre PFU
Conclusion
Des VCSP au cadre PFU
Introduction
Exemple
Le cadre PFU
VCSP
PFU
Structure de valuation
Structure d’utilité espérée
Contraintes valuées
Fonctions de plausibilité,
de faisabilité et d’utilité
Optimisation
Optimisation et calcul
d’utilité espérée
NP-complet
PSPACE-complet
Une structure
algébrique
générique
Réseau de
fonctions locales
Requêtes
Analyse du cadre
Algorithmes
génériques sur
le cadre PFU
Conclusion
Théorème d’unification
Introduction
Exemple
Théorème: le cadre PFU permet d’exprimer des requêtes sur:
Le cadre PFU
Une structure
algébrique
générique
Réseau de
fonctions locales
Requêtes
Analyse du cadre
Algorithmes
génériques sur
le cadre PFU
Conclusion
CSP
Valued CSP
Quantified CSP
Mixed and probabilistic CSP
Stochastic CSP
Théorème d’unification
Introduction
Exemple
Théorème: le cadre PFU permet d’exprimer des requêtes sur:
Le cadre PFU
Une structure
algébrique
générique
Réseau de
fonctions locales
Requêtes
Analyse du cadre
CSP
Valued CSP
Quantified CSP
Mixed and probabilistic CSP
Stochastic CSP
Algorithmes
génériques sur
le cadre PFU
Conclusion
SAT
Quantified boolean formulas
Stochastic SAT
Extended stochastic SAT
Théorème d’unification
Introduction
Exemple
Théorème: le cadre PFU permet d’exprimer des requêtes sur:
Le cadre PFU
Une structure
algébrique
générique
Réseau de
fonctions locales
Requêtes
Analyse du cadre
CSP
Valued CSP
Quantified CSP
Mixed and probabilistic CSP
Stochastic CSP
Algorithmes
génériques sur
le cadre PFU
Conclusion
SAT
Quantified boolean formulas
Stochastic SAT
Extended stochastic SAT
Bayesian networks
Hybrid networks
Markov Random Fields
Chain graphs
Probability computation
MPE (Most Probable Explanation)
MAP (Maximum A Posteriori hyp.)
Théorème d’unification
Introduction
Exemple
Théorème: le cadre PFU permet d’exprimer des requêtes sur:
Le cadre PFU
Une structure
algébrique
générique
Réseau de
fonctions locales
Requêtes
Analyse du cadre
CSP
Valued CSP
Quantified CSP
Mixed and probabilistic CSP
Stochastic CSP
Algorithmes
génériques sur
le cadre PFU
Conclusion
SAT
Quantified boolean formulas
Stochastic SAT
Extended stochastic SAT
Bayesian networks
Hybrid networks
Markov Random Fields
Chain graphs
Probability computation
MPE (Most Probable Explanation)
MAP (Maximum A Posteriori hyp.)
Influence diagrams
Valuation networks
Théorème d’unification
Introduction
Exemple
Théorème: le cadre PFU permet d’exprimer des requêtes sur:
Le cadre PFU
Une structure
algébrique
générique
Réseau de
fonctions locales
Requêtes
Analyse du cadre
CSP
Valued CSP
Quantified CSP
Mixed and probabilistic CSP
Stochastic CSP
Algorithmes
génériques sur
le cadre PFU
Conclusion
SAT
Quantified boolean formulas
Stochastic SAT
Extended stochastic SAT
Finite−horizon Markov decision processes (MDP)
probabilistic/possibilistic/with kappa rankings
competely or partially (POMDP) observable
factored or not
Bayesian networks
Hybrid networks
Markov Random Fields
Chain graphs
Probability computation
MPE (Most Probable Explanation)
MAP (Maximum A Posteriori hyp.)
Influence diagrams
Valuation networks
Théorème d’unification
Introduction
Exemple
Théorème: le cadre PFU permet d’exprimer des requêtes sur:
Le cadre PFU
Une structure
algébrique
générique
Réseau de
fonctions locales
Requêtes
Analyse du cadre
CSP
Valued CSP
Quantified CSP
Mixed and probabilistic CSP
Stochastic CSP
Algorithmes
génériques sur
le cadre PFU
Conclusion
SAT
Quantified boolean formulas
Stochastic SAT
Extended stochastic SAT
Finite−horizon Markov decision processes (MDP)
probabilistic/possibilistic/with kappa rankings
competely or partially (POMDP) observable
factored or not
Bayesian networks
Hybrid networks
Markov Random Fields
Chain graphs
Influence diagrams
Valuation networks
Probability computation
MPE (Most Probable Explanation)
MAP (Maximum A Posteriori hyp.)
Finite−horizon
STRIPS planning,
Conformant planning,
Probabilistic planning
Expressivité étendue
Introduction
Exemple
Le cadre PFU
Une structure
algébrique
générique
Flexibilité en terme de problèmes exprimables
Réseau de
fonctions locales
Requêtes
Analyse du cadre
Algorithmes
génériques sur
le cadre PFU
Conclusion
Définition implicite de nouveaux formalismes
ex: diagrammes d’influence possibiliste [Garcia-Sabbadin’06]
VCSP quantifiés
Cependant, existence de cadres non couverts
ex: fonctions de croyance
Plan
Introduction
Exemple
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
1
Exemple de problème incluant plausibilités, faisabilités et utilités
Conclusion
2
Le cadre PFU
3
Algorithmes génériques sur le cadre PFU
Algorithme d’élimination de variables multi-opérateur
Introduction
Exemple
Algorithme d’élimination de variables utilisable pour PFU
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
Conclusion
Particularité: contraintes
sur l’ordre d’élimination
P
ex: Sov = maxx,y z maxt
⇒
x, y ≺Sov z ≺Sov t
Algorithme d’élimination de variables multi-opérateur
Introduction
Exemple
Algorithme d’élimination de variables utilisable pour PFU
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
Conclusion
Particularité: contraintes
sur l’ordre d’élimination
P
ex: Sov = maxx,y z maxt
⇒
x, y ≺Sov z ≺Sov t
Théorème
Complexité théorique exponentielle en un paramètre appelé largeur
induite contrainte
Structuration des requêtes
Introduction
Exemple
Certaines aspects non utilisées par VE:
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
Conclusion
Décompositions
utilisant plus
P
P que la distributivité
P
ex: x px · (uxy + uxz ) = ( x px · uxy ) + ( x px · uxz )
Libertés
P cachées
P dans l’ordre d’élimination
P
ex: x maxy z (ϕxy · ϕxz · ϕxt ) = xz maxy (ϕxy · ϕxz · ϕxt )
Conditions
de normalisations
P
ex: x Px | pa(x) = 1
Introduction d’un système de règles de réécriture des requêtes
Macro-structuration
„
Introduction
Exemple
Le cadre PFU
Sov
!
«
∧ Fi
Fi ∈F
?
⊗ Pi
!!
⊗
Pi ∈P
Ui ∈U
{z
|
}
⇓
Algorithmes
génériques sur
le cadre PFU
Requête
multi-opérateur
⊕ Ui
Conclusion
L(x1,x3)
x1,x2,x3
min
x4,x5
max
x6,x7,x8
L(x1,x4)
L(x2,x4)
L(x2,x5)
L(x3,x4)
L(x4,x7)
L(x5,x8)
L(x6,x7)
L(x7,x8)
max
x10,x11
x12,x13
x9
L(x2,x10)
L(x2,x12)
L(x10,x11)
L(x10,x12)
L(x10,x13)
L(x4,x9)
DAG de requêtes
mono-opérateur
Structuration plus fine
Introduction
Exemple
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
L(x1,x3)
x1,x2,x3
Conclusion
min
x4,x5
max
x6,x7,x8
L(x1,x4)
L(x2,x4)
L(x2,x5)
L(x3,x4)
L(x4,x7)
L(x5,x8)
L(x6,x7)
L(x7,x8)
max
x10,x11
x12,x13
x9
L(x2,x10)
L(x2,x12)
L(x10,x11)
L(x10,x12)
L(x10,x13)
L(x4,x9)
Structuration plus fine
Utilisation de techniques de décomposition en arbre
Introduction
Exemple
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
x1
Conclusion
x2
min
x4
min
x5
x3
L(x1,x4)
L(x2,x4)
L(x3,x4)
L(x1,x3)
L(x2,x10)
L(x2,x12)
L(x10,x11)
max
x10,x12
max
L(x2,x5)
x11
L(x10,x12)
max
x13
max
x7,x8
max
x6
L(x4,x7)
L(x5,x8)
L(x7,x8)
x9
L(x6,x7)
L(x4,x9)
L(x10,x13)
Structuration plus fine
Utilisation de techniques de décomposition en arbre
Introduction
Exemple
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
Conclusion
Architecture de calcul obtenue:
MCDAG
(Multi-operator Cluster DAG)
min
x4
min
x5
x1
x2
x3
L(x1,x4)
L(x2,x4)
L(x3,x4)
L(x1,x3)
L(x2,x10)
L(x2,x12)
L(x10,x11)
max
x10,x12
max
L(x2,x5)
x11
L(x10,x12)
max
x13
max
x7,x8
max
x6
L(x4,x7)
L(x5,x8)
L(x7,x8)
x9
L(x6,x7)
L(x4,x9)
L(x10,x13)
Architecture de calcul MCDAG
Introduction
Exemple
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
Conclusion
Théorème
La structuration ne change pas ou fait diminuer la largeur induite.
Elle peut générer des gains exponentiels de complexité théorique.
Recherche arborescente sur un MCDAG
Introduction
Exemple
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
x1
x2
Conclusion
min
x4
min
x5
x3
L(x1,x4)
L(x2,x4)
L(x3,x4)
L(x1,x3)
L(x2,x10)
L(x2,x12)
L(x10,x11)
max
x10,x12
max
L(x2,x5)
x11
L(x10,x12)
max
x13
max
x7,x8
max
x6
L(x4,x7)
L(x5,x8)
L(x7,x8)
x9
L(x6,x7)
L(x4,x9)
L(x10,x13)
Recherche arborescente sur un MCDAG
Introduction
Exemple
Bornes et propagation
de contraintes
temps O(d h ), espace linéaire
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
x1
x2
Conclusion
min
x4
min
x5
x3
L(x1,x4)
L(x2,x4)
L(x3,x4)
L(x1,x3)
L(x2,x10)
L(x2,x12)
L(x10,x11)
max
x10,x12
max
L(x2,x5)
x11
L(x10,x12)
Exigence
2 < result < 4
max
x13
max
x7,x8
max
x6
L(x4,x7)
L(x5,x8)
L(x7,x8)
x9
L(x6,x7)
L(x4,x9)
L(x10,x13)
Recherche arborescente sur un MCDAG
Introduction
Exemple
Bornes et propagation
de contraintes
temps O(d h ), espace linéaire
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
Mémorisation pour
éviter les redondances
w
Conclusion
x1
s
temps O(d ), espace O(d )
x2
min
x4
min
x5
x3
L(x1,x4)
L(x2,x4)
L(x3,x4)
L(x1,x3)
L(x2,x10)
L(x2,x12)
L(x10,x11)
max
x10,x12
max
L(x2,x5)
x11
L(x10,x12)
Exigence :
2 < result < 4
max
x13
max
x7,x8
max
x6
L(x4,x7)
L(x5,x8)
L(x7,x8)
x9
L(x6,x7)
L(x4,x9)
L(x10,x13)
Conclusion
Introduction
Exemple
PFU = cadre générique et flexible pour la décision séquentielle
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
Structure algébrique plus complexe que celle des VCSP, mais
gain en “pouvoir couvrant”
Conclusion
Algorithmes génériques
Moins matures que ceux des VCSP
(ex: propagation de contraintes)
VCSP et PFU dans la même veine: fédérer des résultats théoriques et
des développements algorithmiques
Quelques références...
Introduction
Exemple
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
Conclusion
N. Friedman, J.Y. Halpern. Plausibility Measures: A User’s Guide - UAI, 1995.
F.C. Chu, J.Y. Halpern. Great Expectations. Part I: On the Customizability of Generalized
Expected Utility - IJCAI, 2003.
J.Y. Halpern. Reasoning about Uncertainty - MIT Press, 2003.
D. Dubois, H. Prade. Possibility Theory as a Basis for Qualitative Decision Theory - IJCAI,
1995.
J. Pearl. Probabilistic Reasoning in Intelligent Systems: Networks of Plausible Inference Morgan Kaufmann, 1988.
T. Schiex, H. Fargier, G. Verfaillie. Valued Constraint Satisfaction Problems : Hard and Easy
Problems - IJCAI, 1995.
L. Bordeaux, E. Monfroy. Beyond NP: Arc-consistency for Quantified Constraints - CP, 2002.
H. Fargier, J. Lang, T. Schiex. Mixed Constraint Satisfaction: a Framework for Decision
Problems under Incomplete Knowledge - AAAI, 1996.
Quelques références...
Introduction
Exemple
T. Walsh. Stochastic Constraint Programming - ECAI, 2002.
Le cadre PFU
M. Littman, S. Majercik, T. Pitassi. Stochastic Boolean Satisfiability - Journal of Automated
Reasoning, 2001.
Algorithmes
génériques sur
le cadre PFU
Conclusion
R. Howard, J. Matheson. Influence Diagrams - Readings on the Principles and Applications of
Decision Analysis, 1984.
M. Puterman. Markov Decision Processes, Discrete Stochastic Dynamic Programming - John
Wiley & Sons, 1994.
R. Sabbadin. A Possibilistic Model for Qualitative Sequential Decision Problems under
Uncertainty in Partially Observable Environments - UAI, 1999.
C. Boutilier, T. Dean, S. Hanks. Decision-Theoretic Planning: Structural Assumptions and
Computational Leverage - JAIR, 1999.
P.P. Shenoy. Valuation Network Representation and Solution of Asymmetric Decision
Problems - European Journal of Operational Research, 2000.
Quelques références...
Introduction
P.P. Shenoy. Valuation-based Systems for Discrete Optimization - UAI, 1991.
Exemple
U. Bertelé, F. Brioschi. Nonserial Dynamic Programming - Academic Press, 1972.
Le cadre PFU
Algorithmes
génériques sur
le cadre PFU
R. Dechter. Bucket Elimination: a Unifying Framework for Reasoning - Artificial Intelligence,
1999.
J. Kolhas. Information Algebras: Generic Structures for Inference - Springer, 2003.
Conclusion
C. Pralet, G. Verfaillie, T. Schiex. An algebraic graphical model for decision with uncertainties,
feasibilities, and utilities - JAIR, à paraître.
C. Pralet, G. Verfaillie, T. Schiex. Decision with uncertainties, feasibilities and utilities: towards
a unified algebraic framework - ECAI, 2006.
C. Pralet, T. Schiex, G. Verfaillie. From influence diagrams to multi-operator cluster DAGs - UAI,
2006
C. Pralet, T. Schiex, G. Verfaillie. Decomposition of multi-operator queries on semiring-based
graphical models - CP, 2006
C. Pralet, T. Schiex, G. Verfaillie. Algorithmes et complexités génériques pour différents
cadres de décision séquentielle dans l’incertain - RIA, à paraître.