Thèse de doctorat Ondelettes et problèmes mal posés : la

Thèse de doctorat
Ondelettes et problèmes mal posés : la mesure
du flot optique et l’interpolation irrégulière
Christophe B ERNARD
Version finale
2
E
C
I
M
E
N
M
T
R
E
E
R
S
Je tiens tout d’abord à exprimer ma profonde reconnaissance pour mon directeur de
thèse Stéphane Mallat, qui a consacré à l’encadrement de ma thèse un temps et une
disponibilité d’esprit considérables, auxquels j’ai été d’autant plus sensible que son emploi
du temps est très chargé. J’ai ainsi largement pu profiter de sa grande acuı̈té scientifique et
de son enthousiasme indéfectible et communicatif pour le travail de ses étudiants. Je lui suis
donc redevable d’avoir pu faire une thèse dans des conditions exceptionnelles.
Je remercie également Jean-Jacques Slotine, qui m’a accompagné tout au long de ce
travail de thèse, au cours de longues et fructueuses discussions à Paris ou à Boston, où il
m’a reçu de nombreuses fois.
Je tiens à remercier Albert Benveniste, Patrick Bouthémy et Ronald DeVore d’avoir
accepté la tâche ingrate de lire ma thèse et d’écrire un rapport. Albert Cohen a très tôt
manifesté un grand intérêt pour l’ensemble de ma thèse, et a pris la peine de la lire en détail
et de me faire part de ses commentaires. Je lui en suis très reconnaissant. Jean Serra a
également montré son intérêt pour les divers volets de mon travail et m’a donné l’occasion
de le présenter au centre de morphologie mathématique, dont il est le fondateur.
Je remercie enfin Patrick Bouthémy, Ronald DeVore et Ingrid Daubechies de m’avoir
donné l’occasion de présenter mon travail à différents séminaires qu’ils organisent.
J’ai eu la chance de faire ma thèse au CMAP, un centre de recherches accueillant et vivant,
où règne une ambiance conviviale et dynamique. Parmi les artisans de ce bel équilibre, je
dois d’abord citer Geo Boléat, d’un abord bourru, mais qui a un cœur d’or, ainsi que
Jeanne Bailleul, toujours gaie, active et ardente défenseuse de la veuve et de l’orphelin.
Je dois également parler de Liliane Doaré, pilier du CMAP et de Nathalie Limonta, une
nouvelle recrue.
Je remercie Jean-Claude Nédélec, directeur au long cours du centre, qui gère ses troupes
avec la bienveillance d’un père de famille. Pierre-Arnaud Raviart qui a régné sur le CMAP
avec une voix de stentor, Vincent Giovangigli.
Je salue Carl Graham, grand spécialiste de la bible, qui élève heureusement le niveau
de la discussion que François Jouve amène périodiquement au-dessous de la ceinture, Eric
Bonnetier, qui se pique d’aimer le bon vin et les bons mots, Marc Schoenauer, Pedro
Ferreira, Josselin Garnier, Aldjia Mazari, qui m’a spontanément proposé de faire une
répétition de soutenance qui m’a été extrêmement utile. Je salue également Habib Ammari,
Kamel Hamdache, Toufic Abboud, Frédéric Nataf, Robert “Bob” Brizzi et Geneviève
Allain. Je remercie Jean-François Colonna qui m’a consacré du temps et de la patience
pour réaliser un film de présentation, malgré un emploi du temps chargé.
Je salue les autres membres de l’équipe ondelettes, Emmanuel Bacry, Maureen Clerc,
Jérôme Kalifa qui vient de convoler en justes noces, Rémi Gribonval, Erwan Le Pennec, Jérôme Fraleu, Yann Samuelides, ainsi que tous les autres membres du CMAP qui
ont ajouté leur pierre à l’harmonie de l’équipe, à savoir Shiraz Latiri qui nous a souvent
conduits, Rita et moi, dans sa shirazmobile, Sofiane Oussedik, Daniel Delahaye, Annalisa Ambroso, Paul Seignourel, Florence Bailly, Natacha Vialle, Rama Cont et
ses plaisanteries homéopathiques, Erik Burmån et Jonås Ribbe, Denis Barbier et Snorre
Christiansen sans oublier mes collègues de bureau Alain Racine, Sana Ben Hamida et
Jean-Philippe Ayanidès.
4
Je dédie cette thèse à Rita, et à mes parents.
6
TABLE DES MATIÈRES
7
Table des matières
1 Introduction
1.1 La mesure du mouvement . . . . . . . . . . . . . . . . . . . . . . . . . . .
1.1.1 La mesure du mouvement est un problème mal posé . . . . . . . .
1.1.2 Aliasage en temps et localisation de la mesure . . . . . . . . . . . .
1.1.3 Plan de la première partie . . . . . . . . . . . . . . . . . . . . . . .
1.2 Interpolation multidimensionnelle irrégulière . . . . . . . . . . . . . . . . .
1.2.1 Choix d’une représentation. Approximation linéaire et non-linéaire
1.2.2 Méthode proposée pour construire un interpolant . . . . . . . . . .
1.2.3 Contrôle a posteriori de la stabilité et régularisation locale . . . . .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
1
2
3
4
7
8
10
12
15
2 Les ondelettes
2.1 Fréquence locale . . . . . . . . . . . . . . . . . . . . . . . .
2.2 Représentations temps–fréquence et temps–échelle . . . . .
2.3 Transformée en ondelettes continue . . . . . . . . . . . . . .
2.4 La transformée en ondelettes discrète . . . . . . . . . . . . .
2.5 Analyses multi-résolutions . . . . . . . . . . . . . . . . . . .
2.5.1 Cadre théorique . . . . . . . . . . . . . . . . . . . .
2.5.2 Les bases d’ondelettes . . . . . . . . . . . . . . . . .
2.5.3 Transformée en ondelettes . . . . . . . . . . . . . . .
2.5.4 Filtres duaux, ondelettes duales . . . . . . . . . . . .
2.5.5 L’algorithme de la transformée en ondelettes rapide
2.5.6 Les ondelettes orthogonales . . . . . . . . . . . . . .
2.6 Décroissance des coefficients, régularité et approximation . .
2.7 Création d’ondelettes régulières et choix de filtres . . . . . .
2.7.1 Conditions suffisantes dans le cas orthogonal . . . .
2.7.2 Condition suffisante de régularité . . . . . . . . . . .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
17
17
18
20
21
22
22
24
24
25
26
28
29
30
32
32
I
Mesure du flot optique
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
37
3 Le flot optique
39
3.1 Estimation différentielle projetée du flot optique . . . . . . . . . . . . . . . . 40
3.2 Aliasing temporel et échelle des fonctions de mesure . . . . . . . . . . . . . . 45
8
TABLE DES MATIÈRES
4 Présentation de la méthode
4.1 Les ondelettes sont un outil d’analyse multi-échelles naturel . .
4.1.1 Bases et frames d’ondelettes . . . . . . . . . . . . . . .
4.1.2 Convergence de l’estimation . . . . . . . . . . . . . . . .
4.1.3 Résolution de systèmes sur-déterminés . . . . . . . . . .
4.1.4 Raffinement progressif des mesures . . . . . . . . . . . .
4.2 Ondelettes analytiques . . . . . . . . . . . . . . . . . . . . . . .
4.2.1 Stabilité de l’estimation . . . . . . . . . . . . . . . . . .
4.2.2 Décentrement de la gamme de déplacements mesurables
delettes analytiques . . . . . . . . . . . . . . . . . . . .
4.3 Ondelettes en bancs de filtres . . . . . . . . . . . . . . . . . . .
4.3.1 Ondelettes analytiques en bancs de filtres . . . . . . . .
4.3.2 Conception des filtres . . . . . . . . . . . . . . . . . . .
5 Preuves de convergence
5.1 Frame analytique . . . . . . . . . . . . . . . . . . . . . . .
5.2 Consistance de l’estimation du flot optique . . . . . . . .
5.2.1 Erreur d’approximation d’un flot non uniforme par
5.2.2 Erreur d’aliasing . . . . . . . . . . . . . . . . . . .
. . . . .
. . . . .
. . . . .
. . . . .
. . . . .
. . . . .
. . . . .
avec des
. . . . .
. . . . .
. . . . .
. . . . .
. . . .
. . . .
un flot
. . . .
. . .
. . .
. . .
. . .
. . .
. . .
. . .
on. . .
. . .
. . .
. . .
. . . . . .
. . . . . .
uniforme
. . . . . .
6 Expérimentations numériques. Perspectives.
6.1 Expérimentions numériques . . . . . . . . . . . . . . . . . . . . . . . . .
6.1.1 Coût de calcul . . . . . . . . . . . . . . . . . . . . . . . . . . . .
6.1.2 Séquences réelles . . . . . . . . . . . . . . . . . . . . . . . . . . .
6.1.3 Séquences synthétiques . . . . . . . . . . . . . . . . . . . . . . .
6.1.4 Changement d’illumination . . . . . . . . . . . . . . . . . . . . .
6.2 Compression vidéo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
6.3 Introduction de l’éclairement comme variable explicative supplémentaire
6.4 Modèles non constants du flot optique . . . . . . . . . . . . . . . . . . .
6.4.1 Modèle de projection stéréographique d’éléments plans . . . . . .
6.4.2 Cas d’un modèle de caméra à projection orthogonale . . . . . . .
6.4.3 Estimation d’un flot non localement constant avec des ondelettes
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
51
51
52
53
56
57
59
60
64
67
68
68
.
.
.
.
75
75
79
79
84
.
.
.
.
.
.
.
.
.
.
.
93
93
94
94
94
98
100
101
103
103
105
105
A Bases et frames d’ondelettes dérivées
109
A.1 Ondelettes et filtres dérivés . . . . . . . . . . . . . . . . . . . . . . . . . . . . 109
A.2 Frames d’ondelettes dérivées . . . . . . . . . . . . . . . . . . . . . . . . . . . 113
II Apprentissage et interpolation
7 L’apprentissage
7.1 Les problèmes d’apprentissage . . . . . . . .
7.1.1 Quelle solution choisir? . . . . . . .
7.1.2 Quel problème choisir? . . . . . . . .
7.1.3 Mesure d’erreur et fonction objectif
7.1.4 Les différentes approches . . . . . .
119
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
121
121
121
122
123
123
TABLE DES MATIÈRES
7.2
7.3
7.4
7.5
7.6
7.7
9
Les réseaux de neurones . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
7.2.1 Le perceptron multi-couches . . . . . . . . . . . . . . . . . . . . . . . .
7.2.2 Capacité d’expression . . . . . . . . . . . . . . . . . . . . . . . . . . .
7.2.3 La règle d’apprentissage supervisé . . . . . . . . . . . . . . . . . . . .
7.2.4 Les trois étapes de la conception d’un réseau de neurones . . . . . . .
7.2.5 Le perceptron de Rosenblatt . . . . . . . . . . . . . . . . . . . . . .
Des ondelettes comme fonctions de transfert neuronales ... . . . . . . . . . . .
Le contrôle adaptatif . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
7.4.1 Contrôle adaptatif en dimension finie . . . . . . . . . . . . . . . . . . .
7.4.2 Apprentissage de fonctions . . . . . . . . . . . . . . . . . . . . . . . .
La régularisation et les fonctions radiales . . . . . . . . . . . . . . . . . . . . .
7.5.1 Le problème régularisé . . . . . . . . . . . . . . . . . . . . . . . . . . .
7.5.2 Résolution du problème régularisé . . . . . . . . . . . . . . . . . . . .
7.5.3 Noyaux auto–reproduisants de régression . . . . . . . . . . . . . . . .
7.5.4 Fonctions définies positives . . . . . . . . . . . . . . . . . . . . . . . .
7.5.5 Modèle bayésien . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
7.5.6 Limite de l’approche régularisée . . . . . . . . . . . . . . . . . . . . . .
Extension à des semi–normes . . . . . . . . . . . . . . . . . . . . . . . . . . .
7.6.1 Théorème du représentant . . . . . . . . . . . . . . . . . . . . . . . . .
7.6.2 Ordre d’approximation . . . . . . . . . . . . . . . . . . . . . . . . . . .
7.6.3 Calcul rapide avec des noyaux radiaux . . . . . . . . . . . . . . . . . .
Les machines à vecteurs support de Vapnik . . . . . . . . . . . . . . . . . . .
7.7.1 Dimension de Vapnik-Chervonenkis . . . . . . . . . . . . . . . . . .
7.7.2 Majoration de l’erreur d’estimation . . . . . . . . . . . . . . . . . . . .
7.7.3
Mise en œuvre du principe de minimisation de l’erreur structurelle :
les machines à vecteurs support . . . . . . . . . . . . . . . . . . . . . .
8 Approches multi-résolutions
8.1 Le choix d’une représentation . . . . . . . . . . . . . . . . . .
8.1.1 Approximation linéaire . . . . . . . . . . . . . . . . . .
8.1.2 Approximation non–linéaire et espaces de Besov . . .
8.1.3 Structure et approximation en arbres . . . . . . . . . .
8.1.4 Limites de l’approximation en ondelettes . . . . . . . .
8.1.5 Arbres d’ondelettes d’interpolation . . . . . . . . . . .
8.1.6 Apprentissage pour les réseaux d’ondelettes . . . . . .
8.2 Ondelettes d’interpolation et grilles d’approximation . . . . .
8.3 Schéma d’allocation . . . . . . . . . . . . . . . . . . . . . . .
8.3.1 Quasi unicité et existence d’un optimum . . . . . . . .
8.3.2 Schéma d’allocation itératif . . . . . . . . . . . . . . .
8.3.3 Comportement asymptotique . . . . . . . . . . . . . .
8.4 Allocation dans une base de Schauder . . . . . . . . . . . .
8.4.1 Conditionnement des matrices à diagonale dominante
8.4.2 La base de Schauder . . . . . . . . . . . . . . . . . .
8.4.3 La relocalisation . . . . . . . . . . . . . . . . . . . . .
8.5 Généralisation en dimension supérieure . . . . . . . . . . . . .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
124
124
124
125
126
127
128
128
129
132
133
133
134
135
136
137
139
139
139
142
143
147
148
149
151
157
157
158
159
163
166
169
171
172
174
175
176
178
179
180
181
182
189
8.6
8.7
8.5.1 Conditions de stabilité . . . . . . . . . . . . . . . . . . . . .
8.5.2 Stabilité de l’interpolation en cas de bon placement relatif .
8.5.3 Vitesse de convergence de l’approximation . . . . . . . . . .
8.5.4 Théorèmes d’approximation non uniforme . . . . . . . . . .
Exemples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
8.6.1 Décroissance de l’erreur avec le nombre de points de mesure
Commentaires et perspectives . . . . . . . . . . . . . . . . . . . . .
8.7.1 Comparaison avec les autres méthodes . . . . . . . . . . . .
8.7.2 Le cas des mesures bruitées . . . . . . . . . . . . . . . . . .
8.7.3 Densité de points de mesure non uniforme . . . . . . . . . .
9 Interpolation incrémentale. Perspectives.
9.1 Implémentation incrémentale de l’algorithme d’interpolation
9.1.1 Structure d’arbre . . . . . . . . . . . . . . . . . . . .
9.1.2 Calculs de mise à jour des matrices . . . . . . . . . .
9.2 Contrôle a posteriori de la stabilité . . . . . . . . . . . . . .
9.2.1 Vue d’ensemble . . . . . . . . . . . . . . . . . . . . .
9.2.2 Remplacement de mesures . . . . . . . . . . . . . . .
9.2.3 Contrôle de croissance . . . . . . . . . . . . . . . . .
9.3 Régularisation partielle . . . . . . . . . . . . . . . . . . . . .
9.3.1 Expériences numériques et perspectives . . . . . . .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
191
192
195
198
206
206
209
209
210
211
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
215
215
216
217
219
220
220
220
221
223
B Ondelettes d’interpolation
B.1 Fonctions d’échelle d’interpolation . . . . . . . . . . . . . . . .
B.2 Ondelettes d’interpolation . . . . . . . . . . . . . . . . . . . . .
B.3 Ondelettes de Deslauriers–Dubuc . . . . . . . . . . . . . . .
B.4 Ondelettes sur l’intervalle . . . . . . . . . . . . . . . . . . . . .
B.4.1 Périodisation . . . . . . . . . . . . . . . . . . . . . . . .
B.4.2 Ondelettes de bords et bases de fonctions sur l’intervalle
B.4.3 Ondelettes d’interpolation sur l’intervalle . . . . . . . .
B.5 Théorèmes d’approximation uniforme . . . . . . . . . . . . . .
B.6 Ondelettes de Deslauriers–Dubuc triadiques . . . . . . . . .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
227
227
228
229
230
230
231
232
235
236
.
.
.
.
.
.
.
.
.
Tout événement est écrit dans les astres et les phénomènes cycliques de la nature. Il
faut chercher ceux de ces phénomènes qui y participent, et dans quelle mesure chacun influe
sur l’événement. Cette tâche est difficile, mais possible car le destin de chaque chose est
étroitement liée à une conjugaison de ces cycles.
Fu-Hi,
Traité d’astrologie apocryphe,
28e siècle av JC.
Il résulte [...] que si l’on propose une fonction f x, dont la valeur est représentée dans un
intervalle déterminé, depuis x = 0 jusqu’à x = X, par l’ordonnée d’une ligne courbe tracée
arbitrairement on pourra toujours développer cette fonction en une série qui ne contiendra
que les sinus, ou les cosinus, ou les sinus et les cosinus des arcs multiples ou les seuls cosinus
des multiples impairs.
Joseph Fourier,
Théorie analytique de la chaleur,
Chap III, Section VI, Art. 235 (1822).