Orthogonalité, J–Paul K., Tsasa Laboratoire d`Analyse

Orthogonalité, J–Paul K., Tsasa
Laboratoire d’Analyse – Recherche en Economie Quantitative
One Pager
Mars 2013
Vol. 5 – Num. 017
Copyright © Laréq 2013
http://www.lareq.com
Produit Scalaire, Norme et Orthogonalité
Préalables à la Résolution du Problème des Moindres Carrés
Jean–Paul Kimbambu, Tsasa Vangu
« La logique est l’hygiène des mathématiques »
André Weil (1906 – 1998)
Résumé
Ce
papier
présente
et
illustre
par
des
exemples
intuitifs
un
ensemble
de
concepts
qui
apparaissent comme préalables à la méthode des moindres carrés. Il s’agit, notamment, de produit
scalaire, de norme d’un vecteur et d’orthogonalité.
Mots – clé : Produit scalaire, longueur, orthogonalité.
Abstract
This paper illustrates the concepts of scalar product, norm of a vector and orthogonality.
Introduction
La méthode des moindres carrés figure parmi les méthodes les plus sollicitées en sciences économiques.
Ainsi, tout au long de ce papier, je reviens sur les fondements mathématiques de cette approche
d’estimation. L’exposé que je propose, exige une connaissance générale sur la notion de structure
d’espaces vectoriels1. Le développement du papier se fait en trois sections. Dans chacune d’elles, je
définis et/ou illustre, successivement et succinctement les concepts de produit scalaire de deux vecteurs,
de longueur (norme d’un vecteur) et d’orthogonalité. Remarquons que les définitions présentées
considèrent l’espace
et que par ailleurs, je me suis servi de ce même cadre pour dériver, à la section
troisième, le coefficient de corrélation.
Produit scalaire
Le concept de produit scalaire étant largement défini dans Tombola – Tsasa (2013, p.96), cette section
se propose de présenter un ensemble de considérations théoriques qui permettra de définir les
propriétés fondamentales de produits scalaires de deux vecteurs. Soit
et
chacun de format
est de format
matrice produit
tels que : (i) le vecteur
est de format
donc un scalaire. Il vient donc que l’expression
simple nombre réel appelé produit scalaire de
1
transposée du vecteur
deux vecteurs de
et de
; (ii) la
est un
et noté :
Je renvoie l’intéréssé à consulter Tombola – Tsasa 2013 (papier disponible et téléchargeable sur le site web du
Laboratoire, http://www.lareq.com).
112
J–Paul Kimbambu, Tsasa Vangu
Laboratoire d’Analyse – Recherche en Economie Quantitative
Ainsi, pour
et pour
on obtient :
Partant de l’exemple précédent, il ressort que
Par ailleurs,
les propriétés suivantes sont également valides pour un produit scalaire : (i)
;
où
; (ii)
(iii)
;
si et seulement si
(iv)
Ces différentes propriétés seront appliquées, implicitement
ou explicitement, dans les développements qui suivent.
Norme d’un vecteur
Soit
un vecteur de
de composantes
Par la propriété (iv),
est une fonction bien définie. Soit
et par conséquent,
la norme euclidienne (longueur, distance ou métrique), par
définition, on a : (i)
; (ii)
En considérant le plan
et un vecteur
correspondant à un point, soit
1
théorème de Pythagore , il vient que la norme
et en appliquant le
est définie comme une longueur du segment reliant
l’origine des axes à
Figure 1. Dérivation de la norme d’un vecteur
module (valeur absolue), définit la distance sur une droite réelle.
La notion de longueur permet également de préciser celle de proximité entre vecteurs. En effet, dans
l’espace
la distance entre deux vecteurs
et
notée
correspond à la longueur du vecteur
Ainsi, on a :
1
Du nom du mathématicien de la Grèce antique Pythagore de Samos (vécu probablement entre 580 av. J.–C – 495 av.
J.–C). Ce théorème sera dérivé dans la section qui suit.
113
J–Paul Kimbambu, Tsasa Vangu
Laboratoire d’Analyse – Recherche en Economie Quantitative
On peut, à présent, montrer que pour tout scalaire
vecteur
la longueur
est égale à
fois la longueur du
:
Et donc,
Preuve.
Connaissant
on peut toujours trouver un vecteur
vecteur unitaire,
tel que
Par exemple, pour
tel que
où
est appelé
la longueur est donnée par la formule
Ainsi, on a
Pour trouver le vecteur unitaire
Dans
et
il suffit de « normer »
c’est–à–dire multiplier
par
:
cette définition permet de dériver les formules de la distance euclidienne entre deux
points.
Soient
et
deux vecteurs de
Alors, la distance
s’obtient
comme suit :
Il convient de noter au passage qu’un espace vectoriel muni d’une distance est appelé espace vectoriel
normé. Cette notion sera largement présentée dans les publications de la série Topologie pour
économistes.
Orthogonalité
Cette section transpose, dans l’espace
euclidienne. Soient
et
le concept de perpendicularité entre deux droites en géométrie
deux vecteurs non nuls, le plan
et deux droites passant par l’origine.
Figure 2. Orthogonalité dans
114
J–Paul Kimbambu, Tsasa Vangu
Laboratoire d’Analyse – Recherche en Economie Quantitative
Par définition, les deux droites, telles qu’illustrées, sont géométriquement perpendiculaires si et
seulement si la distance de
à
est égale à la distance de
à–
Les calculs suivants permettent d’expliciter la condition d’égalité des carrés de distances.

:

:
Il y a donc égalité entre
Soient
et
et
deux vecteurs non nuls de
si et seulement si
et
ou encore si et seulement
sont orthogonaux si et seulement si
Ainsi,
dérive–t–on le théorème de Pythagore :
Les différents concepts présentés et/ou illustrés peuvent dès lors faciliter l’extraction du coefficient de
corrélation. Soit la figure suivante telle que le produit scalaire des vecteurs
et
est donné par :
Figure 3. Dérivation du coefficient de corrélation
D’après la loi des cosinus1 :
1
Appelée aussi théorème de Pythagore généralisé ou théorème d’Al–Kashi, du nom du mathématicien perse Ghiyath
al–Kashi (1380 – 1429).
115
J–Paul Kimbambu, Tsasa Vangu
Laboratoire d’Analyse – Recherche en Economie Quantitative
Pour montrer que
il suffit de réaménager l’expression (9), puis procéder aux calculs
suivants :
On peut également montrer que la valeur de
En considérant les composantes
permet de définir le coefficient de corrélation :
et
des vecteurs
et
on obtient après les
avoir centré, puis appliqué le produit scalaire normé le résultat suivant :
Dès lors : (i) si
donc,
et
et donc,
et
sont colinéaires (parallèles) ; (ii) si
sont orthogonaux ; (iii) si
et donc,
et
et
sont colinéaires de sens opposé.
Pour plus de détails sur le coefficient de corrélation, l’intéressé peut se rapporter aux papiers suivants
insistant sur : (i) la distinction entre coefficient de Bravais–Galton–Pearson (BGP) et coefficient de
corrélation de Spearman (Tsasa, 2012) ; (ii) la dérivation du domaine de définition du coefficient BGP
(Makambo – Tsasa, 2012) ; (iii) le coefficient de détermination (Tombola, 2012b & 2012c) ; (iv) le calcul
du coefficient BGP à l’aide du logiciel Eviews (Tombola, 2012a) ; (v) la corrélation linéaire partielle
(Mayemba – Tombola, 2012), (vi) le rapport de corrélation (Tombola, 2013), (vii) le calcul des
coefficients BGP et de Spearman à l’aide du logiciel R (Lokota – Tsasa, 2012).
In fine, remarquons que ce papier pose uniquement le premier fondement de la méthode des moindres
carrés. A ce titre, il sera complété par un prochain en vue de fournir un ensemble des concepts
supplémentaires constituant la toile de fonds de la méthode en cause. En ce moment, il sera question et
l’occasion de présenter les concepts d’ensemble orthogonal, d’ensemble orthonormé et de projection
orthogonale, avant d’aborder le problème général des moindres carrés.
116
J–Paul Kimbambu, Tsasa Vangu
Laboratoire d’Analyse – Recherche en Economie Quantitative
Bibliographie

AIGNER Martin et Günter M. ZIEGLER, 1998, Raisonnements Divins : Quelques Démonstrations
Mathématiques Particulièrement Elégantes, 2ième édition Springer, Berlin, 270p.

HAMILTON James D., 1994, Times Series Analysis, Princeton University Press, Princeton, New
Jersey, 799p.

LOKOTA Michel – Ange et Jean – Paul TSASA, 2012, « Arbitrage Qualité de la gouvernance et Taille
du Gouvernement en RDC : Application du test de Shapiro – Wilk et Calcul Conjoint de Coefficients
de Bravais–Galton–Pearson et de Spearman », One Pager Laréq (août), vol. 3, num. 008, 89 – 97.

MAKAMBO Israël et Jean – Paul TSASA, 2012, "Dérivation du Domaine de Définition du Coefficient
de Corrélation de Bravais – Galton – Pearson : Application de l’Inégalité de Cauchy (1921),
Bunyakovski (1859) et Schwart (1885)", One Pager Laréq (août), vol. 3, num. 008, 97 – 101.

MAYEMBA Foura et Cédrick TOMBOLA, 2012, "Corrélation Linéaire Partielle: Comment Prévenir la
Dépendance Linéaire des Régresseurs", One Pager Laréq (septembre), vol. 3, num. 009, 102 – 109.

OK Efe A., 2007, Real Analysis with Economic Applications, Princeton University Press, Princeton,
802p.

TOMBOLA Cédrick et Jean – Paul TSASA, 2013, « Analyse de la Structure d’Espaces Vectoriels »,
One Pager Laréq (février), vol. 5, num. 15, 93 – 99.

TOMBOLA Cédrick, 2012a, "Premier pas avec Eviews : Estimation du Coefficient de Corrélation de
Bravais – Pearson", One Pager Laréq (avril), vol. 1, num. 007, 41 – 47.

TOMBOLA Cédrick, 2012b, "Réflexions sur le Coefficient de Détermination : Comment Éviter les
Pièges d’une Interprétation à Problèmes", vol. 3, num. 008, One Pager Laréq (août), 83 – 8.

TOMBOLA Cédrick, 2012c, Économétrie 1 : Rappels et Recueils d’Exercices (suite), Guide Laréq pour
étudiant (juin), GLEN 010, 52p.

TOMBOLA Cédrick, 2013, « Au–delà de la Corrélation Linéaire : Métrique du khi – Deux et Rapport
de Corrélation », One Pager Laréq (février), vol. 5, num. 009, 54 – 59.

TSASA Jean – Paul, 2012, Économétrie (Module 1), Guide Laréq pour étudiants (mars), GLEN 002,
70p.

TSASA Jean – Paul, 2013, « Ensemble R et Extraction de Quelques Théorèmes Fondamentaux »,
One Pager Laréq (janvier), vol. 5, num. 006, 31 – 36.
117
J–Paul Kimbambu, Tsasa Vangu
Laboratoire d’Analyse – Recherche en Economie Quantitative