Pseudo-inverse

En mathématiques, et plus précisément en algèbre linéaire, la notion de pseudo-inverse (ou inverse généralisé) généralise celle d’inverse d’une application linéaire ou d’une matrice[1] aux cas non inversibles en lui supprimant certaines des propriétés demandées aux inverses, ou en l’étendant aux espaces non algébriques plus larges.

En général, il n’y a pas unicité du pseudo-inverse. Son existence, pour une application linéaire entre espaces de dimension éventuellement infinie, est équivalente à l'existence de supplémentaires du noyau et de l'image. Selon les propriétés demandées, le pseudo-inverse défini permet toutefois de généraliser la notion d'inverse en se restreignant au semi-groupe associatif multiplicatif seul, même s'il ne respecte pas les autres contraintes du corps ou de l'algèbre (en particulier les propriétés de distributivité ou de commutativité ne sont plus vraies dans le cas général, là où le véritable inverse peut les respecter).

Ont été étudiés en particulier les types de pseudo-inverses suivants :

  • le pseudo-inverse de Moore-Penrose dans le cas des matrices carrées non inversibles, mais généralisable à toute algèbre de matrices à valeurs dans un corps.
  • le pseudo-inverse de Drazin qui détermine la matrice qui constitue un point fixe dans la multiplication par l'exponentiation de matrices carrées au-delà d'un degré fini.
  • le pseudo-inverse à gauche et le pseudo-inverse à droite, utiles dans le cas des matrices non carrées qui ne sont jamais inversibles pour déterminer la factorisation en valeurs singulières, et qui ne sont pas nécessairement égaux non plus dans le cas de transformées non commutatives comme les opérateurs fonctionnels et distributions non discrètes.

Le pseudo-inverse se calcule à l’aide d’une généralisation du théorème spectral aux matrices non carrées.

Il est notamment utile dans le calcul de régressions (méthode des moindres carrés) pour un système d'équations linéaires.

Pseudo-inverse de Moore-PenroseModifier

Pour une matrice à coefficients réels ou complexes (pas nécessairement carrée), ou pour une application linéaire entre espaces euclidiens ou hermitiens, il existe un unique pseudo-inverse satisfaisant certaines conditions supplémentaires et appelé pseudo-inverse de Moore-Penrose (ou simplement « pseudo-inverse »), décrit par Eliakim Hastings Moore[2] dès 1920 et redécouvert indépendamment par Roger Penrose[3] en 1955. Erik Ivar Fredholm avait déjà introduit le concept de pseudo-inverse pour un opérateur intégral en 1903.

Cas général pour une application linéaireModifier

Définition et premières propriétésModifier

Soient   une application linéaire entre deux espaces vectoriels   et   et   une application linéaire de   dans  . Ces deux applications sont pseudo-inverses l'une de l'autre si les deux conditions suivantes sont satisfaites :

  et  .

Dans ce cas, les propriétés suivantes sont vérifiées :

  • l'espace   est la somme directe du noyau de   et de l'image de   ;
  • l'espace   est la somme directe du noyau de   et de l'image de   ;
  • les applications   et   induisent des isomorphismes réciproques entre leurs images ;
  • si l'application   est inversible, alors son inverse est l'application  .

Cette définition se traduit naturellement sous forme matricielle dans le cas d'espaces vectoriels de dimension finie.

Existence et constructionModifier

Réciproquement, soit   une application linéaire entre deux espaces vectoriels   et  , dont le noyau admette un supplémentaire   dans   et dont l'image admette un supplémentaire   dans  . Alors la restriction de   à   induit un isomorphisme entre   et son image. L'application réciproque de l'image de   vers   s'étend de façon unique par l'application nulle sur  , en une application linéaire   de   dans   qui est par construction pseudo-inverse de  .

Il y a donc correspondance biunivoque entre les pseudo-inverses d'une application linéaire et les couples de supplémentaires pour son noyau et son image.

Remarque : ceci s'applique évidemment aux cas où l'un des supplémentaires   et   est réduit à l'origine ou à l'espace vectoriel tout entier, ce qui a lieu en particulier lorsque   est inversible :   est alors égal à   et   est réduit à l'origine.

Choix des supplémentairesModifier

Il n'y a pas de choix canonique d'un supplémentaire en général, mais une structure d'espace euclidien ou hermitien sur les espaces vectoriels source et but permet d'en déterminer un par la définition de l'orthogonal. Cette définition du pseudo-inverse correspond au « pseudo-inverse de Moore-Penrose » pour les matrices.

Cas matricielModifier

DéfinitionModifier

Étant donné une matrice   à coefficients réels ou complexes avec   lignes et   colonnes, son pseudo-inverse   est l'unique matrice à   lignes et   colonnes vérifiant les conditions suivantes :

  1.   ;
  2.         (  est un inverse pour le semi-groupe multiplicatif) ;
  3.         (  est une matrice hermitienne) ;
  4.         (  est également hermitienne).

Ici, la notation   désigne la matrice adjointe à  , c'est-à-dire la transposée pour le cas réel.

Cette matrice peut s'obtenir comme une limite :

 

qui existe même si les matrices produits ( ) et ( ) ne sont pas inversibles.

PropriétésModifier

 

Identités valables pour toute matrice  
(à coefficients réels ou complexes)

L’opération de pseudo-inversion :

Cependant, la pseudo-inversion n’est pas continue. En effet, elle est inversement linéaire par rapport à la multiplication par un scalaire : pour tout   ≠ 0,

 .

Soit   est un produit de deux matrices. Si l’une au moins est unitaire, ou si les deux matrices sont de rang maximal égal à leur dimension commune, alors la pseudo-inversion est anti-commutative sur le produit :

 .

ProjectionsModifier

Si   et   sont des projecteurs orthogonaux, soient des matrices hermitiennes ( ,  ) et idempotentes (  et  ), on a les résultats suivants[4] :

  •   et  
  •   est le projecteur orthogonal sur l'image de   (équivalent au complément orthogonal du noyau de  ).
  •   est le projecteur orthogonal sur l'image de   (équivalent au complément orthogonal du noyau de  ).
  •   est le projecteur orthogonal sur le noyau de  .
  •   est le projecteur orthogonal sur le noyau de  .

Calcul effectifModifier

Si la matrice  , avec   lignes et   colonnes, est de rang  , alors elle peut s'écrire comme un produit de matrices de même rang  , où   possède   lignes et   colonnes et   possède   lignes et   colonnes. Dans ce cas les produits ( ) et ( ) sont inversibles et la relation suivante est vérifiée :

 .

Des approches optimisées existent pour le calcul de pseudoinverses de matrices par blocs.

Algorithmiquement, le pseudo-inverse s'obtient à partir de la décomposition en valeurs singulières : muni de cette décomposition  , on calcule

 ,

 , pseudo-inverse de la matrice diagonale  , est une matrice diagonale dont les éléments non nuls sont obtenus en inversant les éléments non nuls (de la diagonale) de  .

À partir d'une matrice dont le pseudo-inverse est connu, il existe des algorithmes spécialisés qui effectuent le calcul plus rapidement pour des matrices en rapport avec la première. En particulier, si la différence n'est que d'une ligne ou colonne changée, supprimée ou ajoutée, des algorithmes itératifs peuvent exploiter cette relation.

Cas particuliersModifier

 

Pseudo-inverse d'un vecteur colonne

  • Le pseudo-inverse d’une matrice nulle est sa transposée (également nulle).
  • Le pseudo-inverse d’un vecteur colonne non nul est son vecteur adjoint multiplié par l’inverse de sa norme au carré. En particulier, le pseudo-inverse d’un scalaire (matrice à 1 ligne et 1 colonne) réel ou complexe non nul est son inverse.
  • Si le rang de   est égal à son nombre de lignes[1], la matrice   peut être choisie égale à l’identité et dans ce cas :
     .
  • De même, si le rang de   est égal à son nombre de colonnes,
     .
  • A fortiori si la matrice   est inversible, son pseudo-inverse est son inverse.
  • Si le pseudo-inverse de ( ) est connu, on peut en déduire   par l’égalité :
      ;
  • De même, si   est connu, le pseudo-inverse de   est donné par :
     ;

Exemple d’utilisationModifier

Le pseudo-inverse donne une solution à un système d’équations linéaires, équivalente à celle que donnerait la méthode des moindres carrés[5].

Soit un système  , on cherche un vecteur   qui minimise  , où on a noté   la norme euclidienne.

La solution générale à un système linéaire   est somme d'une solution particulière et de la solution générale de l'équation homogène  .

Lemme : Si   existe, alors la solution   peut toujours être écrite comme somme des pseudo-inverses de la solution du système et d’une solution au système homogène :

 

Démonstration :  .

Ici, le vecteur   est arbitraire (si ce n'est sa dimension). Le pseudo-inverse   apparaît deux fois : si on l’écrit  , on obtient

 

Le premier terme de la somme est la solution pseudo-inverse. Dans l’approche des moindres carrés, c’est la meilleure approximation linéaire de la solution. Cela signifie que le second terme de la somme est de norme minimale.

Ce second terme représente une solution au système homogène  , puisque   est la projection orthogonale sur le noyau de  , alors que   est la projection orthogonale sur l’image de  .

Notes et référencesModifier

NotesModifier

  1. a et b (en) Adi Ben-Israel et Thomas N. E. Greville, Generalized Inverses : Theory and Applications, Springer-Verlag, , 2e éd. (1re éd. 1974) (ISBN 0-387-00293-6)
  2. (en) Eliakim Hastings Moore, « On the reciprocal of the general algebraic matrix », Bull. AMS, vol. 26,‎ , p. 394-395 (lire en ligne, consulté le 19 décembre 2010)
  3. (en) Roger Penrose, « A generalized inverse for matrices », Proceedings of the Cambridge Philosophical Society, vol. 51,‎ , p. 406-413
  4. Gene H. Golub, Charles F. Van Loan, Matrix computations, Johns Hopkins, , 257–258 p. (ISBN 0-8018-5414-8)
  5. (en) Roger Penrose, « On best approximate solution of linear matrix equations », Proceedings of the Cambridge Philosophical Society, vol. 52,‎ , p. 17-19

RéférencesModifier

Voir aussiModifier

Liens externesModifier

Sur les autres projets Wikimedia :

Articles connexesModifier