##  [Erwartungs-Maximierungs-Algorithmus (EM)](/de/node/60678) 

 Definition

Ein iteratives Verfahren zur Maximum-Likelihood-(oder Maximum-a-posteriori-)Parameterschätzung in probabilistischen Modellen mit latenten (nicht beobachteten) Variablen, das zwischen der Berechnung erwarteter hinreichender Statistiken bei gegebenen aktuellen Parametern (E‑Schritt) und der Optimierung der Parameter zur Maximierung der erwarteten Voll-Daten-Log‑Likelihood (M‑Schritt) wechselt.

 

 

 

 

 

 





## Prinzip

Prinzip

Nutze die Zerlegung der beobachteten Likelihood als Erwartung über latente Variablen und die Voll-Daten-Likelihood; wechsle zwischen Berechnung der Erwartung latenter hinreichender Statistiken unter der aktuellen Parameterschätzung und Maximierung der erwarteten Voll-Daten-Zielgröße, sodass die beobachtete Likelihood monoton erhöht (oder nicht verringert) wird.

 

 

 

 

 





## Demonstration

Demonstration

Schätzung der Parameter eines gaußschen Mischmodells durch iteratives Berechnen der posterioren Verantwortlichkeiten jeder Komponente für Datenpunkte im E‑Schritt und Aktualisierung der Mischgewichte, Mittelwerte und Kovarianzen im M‑Schritt bis zur Konvergenz oder Stagnation der Likelihood.

 

 

 

 

## Fehlanwendung

Fehlanwendung

Verlassen auf EM mit schlechter zufälliger Initialisierung oder ohne Überwachung der Konvergenzkriterien, wodurch es in suboptimale lokale Maxima konvergiert, in der Nähe von Sattelstellen sehr langsam wird oder bei Mischmodellen ohne Regularisierung singuläre Kovarianzschätzungen liefert.

 

 

 

 

 





## Konsequenz

Konsequenz

Ist EM anwendbar und richtig initialisiert mit berechenbaren E‑ und M‑Schritten, liefert es ein einfaches, oft verlässliches Schema, das die Likelihood mit jeder Iteration erhöht, fehlende oder latente Daten natürlich behandelt und Parameterabschätzungen im Voll-Daten-Rahmen interpretierbar macht.

 

 

 

 

## Umkehrung

Umkehrung

Direkte, unbeschränkte Likelihood-Maximierung mit gradientenbasierten Optimierern durchführen oder Variationsinferenz/Monte‑Carlo‑Erwartungsapproximationen verwenden; diese kehren EM um, indem sie die unvollständige Likelihood direkt optimieren oder Posteriorverteilungen approximieren anstatt Erwartung und Maximierung zu alternieren.

 

 

 

 

 





## Abgrenzung

Abgrenzung

Setzt voraus, dass der E‑Schritt (Erwartung unter den aktuellen Parametern) und der M‑Schritt (Maximierung der erwarteten Voll‑Daten‑Zielfunktion) in geschlossener Form berechenbar oder praktikabel approximierbar sind; garantiert nur Konvergenz zu stationären Punkten, nicht zu globalen Maxima; die Leistung ist sensitiv gegenüber Initialisierung und Modellidentifizierbarkeit.

 

 

 

 

 





## Semantische Spannung

Semantische Spannung

Spannung zu direkten Gradientenverfahren und Variationsmethoden: EM bietet monotone Likelihood-Verbesserung und modulare E/M-Struktur, kann jedoch langsamer sein und in lokalen Maxima stecken bleiben, während Gradienten- oder Variationsmethoden lokale Optima umgehen oder Unsicherheitsabschätzungen liefern können, allerdings mit höherer Komplexität.

 

 

 

 

 





## Synthese

Synthese

Ein alternierender Erwartungs‑ und Maximierungsrahmen, der latente Variablenstruktur nutzt, um die beobachtete Likelihood iterativ zu erhöhen, indem bedingte Erwartungswerte der verborgenen Variablen berechnet und Parameter in Bezug auf diese Erwartungen optimiert werden.