Le résultat selon lequel, dans le modèle linéaire classique de régression avec des erreurs de moyenne nulle, non corrélées et homoscédastiques, l'estimateur par moindres carrés ordinaires (MCO) des coefficients de régression est le meilleur estimateur linéaire sans biais (BLUE), c'est‑à‑dire qu'il possède la plus petite variance parmi tous les estimateurs linéaires sans biais.

Principe

Sous les conditions de Gauss–Markov, le problème d'estimation est une projection dans un espace de Hilbert des observables sur l'espace engendré par les régressors ; l'absence de biais linéaire combinée à l'orthogonalité à l'espace des résidus garantit une variance minimale parmi les estimateurs linéaires.

Démonstration

Dans une régression linéaire simple avec intercept et erreurs i.i.d. de même variance, la pente et l'ordonnée à l'origine MCO sont des fonctions linéaires des réponses observées ; toute autre estimation linéaire sans biais peut se montrer, par algèbre des variances, avoir une matrice de covariance égale ou plus grande, démontrant la propriété BLUE.

Mauvaise application

Supposer que le théorème garantit l'optimalité au sein d'une classe non linéaire (il se limite aux estimateurs linéaires) ou que la normalité est nécessaire ; appliquer les MCO comme BLUE quand les erreurs sont hétéroscédastiques, autocorrélées ou que les régresseurs sont endogènes invalide la conclusion.

Conséquence

Justifie l'utilisation des MCO pour l'estimation et motive les formules d'erreur standard et l'inférence sous les hypothèses énoncées ; indique quand des estimateurs alternatifs (moindres carrés pondérés, GLS, variables instrumentales) sont requis si les hypothèses échouent.

Inversion

Si l'homoscédasticité ou l'indépendance est violée, l'estimateur MCO n'est plus garanti de minimiser la variance parmi les estimateurs linéaires sans biais ; la méthode des moindres carrés généralisés (GLS) ou d'autres estimateurs peuvent dominer, inversant l'affirmation BLUE.

Limite

S'applique uniquement aux estimateurs linéaires dans le modèle linéaire classique avec moments seconds finis et les conditions d'erreur spécifiées ; il ne traite pas de l'efficacité parmi les estimateurs non linéaires ou biaisés, ni de l'optimalité en échantillon fini hors de la classe linéaire.

Tension sémantique

Souvent comparé à la notion d'efficience de Cramér–Rao qui porte sur la borne inférieure pour tous les estimateurs sans biais dans des modèles paramétriques ; Gauss–Markov restreint l'attention aux estimateurs linéaires et ne requiert pas d'hypothèses distributionnelles comme la normalité.

Synthèse

Gauss–Markov affirme que, dans la classe des estimateurs linéaires sans biais sous erreurs de moyenne nulle, non corrélées et homoscédastiques, les MCO minimisent la variance ; c'est une assertion d'optimalité fondée sur la projection qui oriente le choix d'estimateur et signale le recours au GLS ou IV si les hypothèses échouent.