Une procédure dans un espace à produit scalaire qui transforme un ensemble fini de vecteurs linéairement indépendants en un ensemble orthogonal (ou orthonormé) engendrant le même sous-espace en soustrayant successivement des projections.

Principe

Pour chaque vecteur dans l'ordre, enlever sa projection sur l'espace engendré par les vecteurs déjà orthonormés, puis normaliser éventuellement ; cela impose l'orthogonalité par paires tout en préservant l'enveloppe linéaire.

Démonstration

Avec v1 = (1,1,0), v2 = (1,0,1) dans R3 muni du produit scalaire usuel, soustraire la projection de v2 sur v1 pour obtenir u2 = v2 − (⟨v2,v1⟩/⟨v1,v1⟩) v1 orthogonal à v1, puis normaliser u1,u2 pour obtenir une base orthonormée de leur span.

Mauvaise application

Appliquer l'algorithme classique à un ensemble linéairement dépendant produit des vecteurs nuls et doit être traité avec précaution ; numériquement, Gram–Schmidt classique est instable pour des vecteurs presque dépendants, de sorte que l'usage naïf en virgule flottante peut donner une orthogonalité incorrecte.

Conséquence

Produit une base orthogonale ou orthonormée du sous-espace engendré, permet la factorisation QR des matrices à colonnes indépendantes et offre une méthode constructive pour les projections orthogonales et les représentations en coordonnées par rapport à une base orthonormée.

Inversion

Remplacer la soustraction séquentielle des projections par une diagonalisation directe (par exemple SVD) ou par des réflexions de Householder donne des procédures alternatives d'orthonormalisation ; inverser Gram–Schmidt reviendrait à recomposer des vecteurs orthogonaux en l'ensemble d'origine, ce qui n'est généralement pas unique.

Limite

S'applique aux suites finies dans les espaces à produit scalaire ; les bases orthonormées complètes dans les espaces de Hilbert de dimension infinie exigent des considérations de convergence et l'orthonormalisation d'une suite infinie peut échouer si la suite n'est pas convenablement contrôlée.

Tension sémantique

Entre en tension avec des méthodes d'orthonormalisation numériquement stables (Gram–Schmidt modifié, Householder, SVD) : Gram–Schmidt est conceptuellement simple et constructif mais peut être numériquement défavorable ; il diffère aussi de l'orthogonalisation statistique comme l'ACP qui repose sur la décomposition en valeurs propres.

Synthèse

Algorithme progressif de suppression de projections qui transforme un ensemble indépendant fini en une base orthogonale (et éventuellement normalisée) de son span, fondamental pour la factorisation QR et la construction de projections orthogonales, mais sensible à la dépendance et aux erreurs d'arrondi.