Une borne inférieure sur la variance (ou la matrice de covariance) de tout estimateur sans biais d'un paramètre, exprimée en fonction de l'information de Fisher : pour un paramètre scalaire, Var(theta_hat) ≥ 1 / I(theta) ; en forme multivariée, la matrice de covariance est minorée par l'inverse de la matrice d'information de Fisher sous conditions de régularité.

Principe

Dérivée de l'inégalité de Cauchy–Schwarz appliquée à la fonction score, l'inégalité d'information quantifie comment la courbure de la log‑vraisemblance (information de Fisher) limite la précision réalisable des estimateurs sans biais.

Démonstration

Estimer la moyenne d'une loi normale de variance connue : la moyenne empirique est sans biais et atteint Var = sigma^2 / n, qui égale la borne de Cramér–Rao calculée à partir de l'information de Fisher, illustrant l'atteignabilité quand existe un estimateur efficace.

Mauvaise application

Employer la borne pour des estimateurs biaisés, pour des paramètres au bord de l'espace des paramètres, ou lorsque les conditions de régularité (dérivabilité sous le signe intégral, information de Fisher finie) sont violées ; un calcul incorrect de l'information de Fisher mène à des bornes trompeuses.

Conséquence

Fournit un repère d'efficience fondamental : si un estimateur sans biais atteint la borne on l'appelle efficace ; la borne oriente la comparaison d'estimateurs et la théorie asymptotique (par ex. le MLE atteint asymptotiquement la borne sous régularité).

Inversion

Pour des modèles où la borne n'est pas atteignable, ou si l'on accepte un biais pour réduire l'erreur quadratique moyenne, la borne de Cramér–Rao n'est ni atteignable ni le seul critère ; en cadre bayésien, la perte postérieure ou le risque bayésien remplacent la borne fréquentiste.

Limite

Valide sous conditions de régularité et de différentiabilité pour des familles paramétrées et pour des estimateurs sans biais ; elle ne s'applique pas à tous les estimateurs, peut être lâche en petit échantillon, et échoue pour des modèles singuliers ou avec information de Fisher infinie.

Tension sémantique

Confronte d'autres bornes inférieures (par ex. Bhattacharyya, Hammersley–Chapman–Robbins) et des bornes permettant des estimateurs biaisés ou des critères minimax ; la tension apparaît entre optimalité paramétrique et atteignabilité pratique.

Synthèse

La Borne Inférieure de Cramér–Rao utilise l'information de Fisher pour fixer une limite théorique à la variance des estimateurs sans biais sous régularité ; elle fournit un repère d'efficacité et d'optimalité asymptotique tout en admettant des cas où elle n'est pas atteignable ou n'est pas appropriée.