Eine Klasse von Stichprobenalgorithmen, die eine Markov-Kette konstruieren, deren stationäre Verteilung der Zielwahrscheinlichkeitsverteilung entspricht, und abhängige Stichproben erzeugen, um Erwartungen und Wahrscheinlichkeitsintegrale komplexer oder hochdimensionaler Verteilungen zu approximieren.

Prinzip

Einen Übergangskernel konstruieren, der Detailliertes Gleichgewicht oder Ergodizität bezüglich der Zielverteilung erfüllt, so dass die Stichproben entlang der Kette asymptotisch dieser Verteilung folgen; praktisch werden Mixing, Burn-in und Thinning genutzt, um Abhängigkeiten und Initialisierungsbias zu mindern.

Demonstration

Anwendung des Metropolis-Hastings-Verfahrens, um eine bayessche Posteriorverteilung eines hierarchischen Modells zu sampeln: Parametervorschlag generieren, mit der Akzeptanzwahrscheinlichkeit aus dem Verhältnis der Zielwahrscheinlichkeiten (ggf. korrigiert durch den Vorschlagskern) annehmen und wiederholen, sodass empirische Mittelwerte die Posteriorwerte approximieren.

Fehlanwendung

Korrelationen in MCMC-Proben als unabhängig behandeln bei Varianzschätzungen oder unzureichendes Burn-in, wodurch frühe Proben fälschlich als repräsentativ gelten und Unsicherheit unterschätzt sowie Schätzungen verzerrt werden.

Konsequenz

Bei korrekter Implementierung und Überprüfung liefert MCMC asymptotisch richtige Approximationen von Erwartungen, Glaubwürdigkeitsintervallen und Marginaldichten für analytisch unzugängliche Modelle und ermöglicht fundierte bayessche Inferenz in hohen Dimensionen.

Umkehrung

Unabhängige Stichprobenverfahren (exakte i.i.d.-Stichproben oder Importance Sampling mit unabhängigen Vorschlägen) erzeugen unkorrelierte Ziehungen und vermeiden die Kettenabhängigkeit, erfordern jedoch handhabbare Vorschlagsverteilungen oder leiden in hohen Dimensionen unter großer Varianz.

Abgrenzung

Anwendbar für Zielverteilungen, für die ein geeigneter Markov-Kernel konstruiert werden kann und in akzeptabler Zeit mischt; garantiert keine schnelle Konvergenz für multimodale, stark gekrümmte oder extrem hochdimensionale Ziele ohne spezialisierte Algorithmen oder Feinabstimmung.

Semantische Spannung

Spannung zwischen MCMC und variationaler Inferenz oder Importance Sampling: MCMC strebt asymptotische Genauigkeit durch abhängige Stichproben an, während variationale Methoden Genauigkeit zugunsten von Geschwindigkeit durch approximative unabhängige Familien opfern; beide nähern dieselben Ziele an, zeigen aber unterschiedliche Fehlercharakteristika.

Synthese

MCMC ist ein Rahmen, der lokale Übergangsregeln in globale Approximationen schwer handhabbarer Wahrscheinlichkeitsverteilungen verwandelt; seine Wirksamkeit beruht auf ergodischen Kernen, deren empirische Verteilungen gegen das Ziel konvergieren, wobei praktische Leistungsfähigkeit von Diagnose, Anpassung und Rechenressourcen abhängt.