Metropolis-Algorithmus
Der Metropolis-Algorithmus ist ein Markov-Chain-Monte-Carlo-Verfahren (MCMC) zur Erzeugung von Zuständen eines Systems entsprechend der Boltzmann-Verteilung. Der davon abgeleitete, allgemeinere Metropolis-Hastings-Algorithmus[1] ermöglicht es, Folgen von Zufallsvariablen, genauer Markow-Ketten, zu simulieren, die eine gewünschte Verteilung als stationäre Verteilung besitzen, insbesondere in vielen Fällen, bei denen die Verteilungen der Zufallsvariablen nicht direkt simuliert werden können.
Metropolis-Algorithmus
Der Metropolis-Algorithmus wurde 1953 von Nicholas Metropolis,
Marshall Rosenbluth,
Edward Teller,
Augusta H. Teller,
Arianna W. Rosenbluth publiziert[2]
(zur Geschichte siehe auch Monte-Carlo-Simulation). Er wird dazu genutzt,
eine Markow-Kette und damit die Zustände eines Systems entsprechend der Boltzmann-Verteilung zu erzeugen.
Dabei hängt der neue Zustand des Systems nur vom vorherigen Zustand
ab.
Im Folgenden wird der Algorithmus für den Fall beschrieben, dass das System von einem mehrdimensionalen Ort
abhängt.
sei kontinuierlich und der aktuelle Ort nach
Iterationen wird mit
bezeichnet. Der Metropolis-Algorithmus ergibt sich dann durch Wiederholung der folgenden Schritte:
- Ein neuer Ort
wird ausgewählt, wobei
ein Zufallsvektor aus Komponenten zwischen −1 und +1 und r ein fest gewählter Suchradius ist, das heißt, der neue Ortsvektor wird als Zufallsvektor in einer festen Umgebung von
gewählt, wobei die verschiedenen Komponenten der räumlichen Dimensionen nicht notwendigerweise gleich sein müssen.
- Die Energie-Differenz
wird berechnet und die neue Konfiguration mit der Wahrscheinlichkeit
akzeptiert, wobei
für die Temperatur des Systems und
für die Boltzmann-Konstante steht.
Dies bedeutet:- Ist
, die neue Position also energetisch gleichwertig oder günstiger, wird
in jedem Fall als neuer aktueller Ort akzeptiert,
.
- Ist
, die neue Position also energetisch ungünstiger, wird
dagegen nur mit der Wahrscheinlichkeit
als neuer aktueller Ort akzeptiert, wozu man praktisch eine Zufallszahl q zwischen 0 und 1 bestimmt und anschließend mit
vergleicht: Ist q kleiner als
, wird
als neuer aktueller Ort akzeptiert,
andernfalls nicht,
.
- Ist
Das oben beschriebene Verfahren lässt sich einfach auch auf andere Fälle wie beispielsweise diskrete Zustände übertragen. Für Systeme aus vielen wechselwirkenden Teilchen wird der Metropolis-Algorithmus dabei zunächst lokal für ein einzelnes Teilchen angewandt und anschließend – entweder nacheinander oder zufällig – auf alle Teilchen.
Eigenschaften
Autokorrelation
Kleine Werte für die Vorschlagsänderungen |r| führen dabei zu großen Akzeptanzraten, haben jedoch den Nachteil hoher Autokorrelationszeiten
Große Werte von |r| dagegen verkürzen zwar die Autokorrelationszeit, haben dafür aber nun den Nachteil einer geringeren Akzeptanzrate, so dass in der Praxis stets ein Mittelweg gesucht werden muss.
Burn-In Phase
Da die Markovkette an einem beliebigen Punkt startet, welcher eventuell sehr unwahrscheinlich ist, sind die anfänglich vorgeschlagenen Zustände aufgrund der Autokorrelation immer noch unwahrscheinlich. Erst nach einer gewissen Zahl an akzeptierten Vorschlägen erreicht das Verfahren Zustände, welche „repräsentative“ Stichproben aus der stationären Verteilung sind. Daher werden anfänglich gezogene Stichproben verbrannt, sie stammen aus der „Burn-In Phase“. Zur Diagnostik der Konvergenz von Markovketten[3], kann z. B. die Gelman-Rubin Diagnostik durchgeführt werden, bei der mehrere Markov-Ketten simuliert werden und durch Zusammenfassungsstatiken überprüft wird, ob diese Ketten zu ähnlichen Werten konvergiert sind. Während der Burn-In Phase unterscheiden sich die simulierten Markov-Ketten typischerweise deutlich in den Zusammenfassungsstatistiken.
Metropolis-Hastings-Algorithmus
W. Keith Hastings generalisierte 1970
das Verfahren.[1] Der Metropolis-Hastings-Algorithmus kann Zustände für eine beliebige
Wahrscheinlichkeitsverteilung
erzeugen. Voraussetzung ist lediglich, dass die Dichte an jedem Ort
berechnet werden kann. Der Algorithmus benutzt eine Vorschlagsdichte
, die vom derzeitigen Ort
und möglichem nächsten Ort
abhängt. Beim Metropolis-Hastings-Algorithmus wird ein Vorschlag
anhand der Vorschlagsdichte zufällig erzeugt und mit der Wahrscheinlichkeit
akzeptiert.
Für eine Vorschlagsdichte, die symmetrisch ist
(),
sowie eine Boltzmann-Verteilung als Wahrscheinlichkeitsverteilung
ergibt sich hieraus der ursprüngliche Metropolis-Algorithmus.
Anwendungen
Monte-Carlo-Simulation
Bei Monte-Carlo-Simulationen werden Konfigurationen mittels des Metropolis-Algorithmus erzeugt und Mittelwerte/Erwartungswerte physikalisch relevanter Größen berechnet, beispielsweise der Erwartungswert des Drucks oder der Dichte:
mit
Dazu werden von den Iterationsschritten des Metropolis-Algorithmus zunächst so viele ausgeführt, bis sich das System hinreichend nah an das
thermische Gleichgewicht angenähert hat, d.h. bis die Wahrscheinlichkeit
der einzelnen Konfigurationen der Boltzmann-Verteilung entspricht. Befindet sich das System im thermischen Gleichgewicht, so entspricht die Wahrscheinlichkeitsverteilung
der Boltzmann-Verteilung, d.h. die Konfigurationen werden mit der Wahrscheinlichkeit
erzeugt
(Importance Sampling) und es muss lediglich über jeden Messwert, bzw. Messwerte
in konstantem Abstand, gemittelt werden:
.
Der Metropolis-Algorithmus erzeugt Systeme im kanonischen Zustand, d.h. mit konstanter Temperatur. Um mikrokanonische Zustände zu erzeugen, können Molekulardynamik-Algorithmen verwendet werden.
In der Originalarbeit von Nicholas Metropolis et al. wurde der Algorithmus für die Monte-Carlo-Simulation eines zweidimensionalen Harte-Scheiben-Modells verwendet. Der Algorithmus wurde später für eine Vielzahl unterschiedlichster Monte-Carlo-Simulationen in Bereichen wie z. B. bei der Thermodynamik bzw. der Statistischen Physik, Festkörperphysik, Quantenelektrodynamik oder Quantenchromodynamik eingesetzt. Dabei muss der Algorithmus gegebenenfalls angepasst werden; beispielsweise muss man die Energie durch den Hamiltonoperator oder die Wirkung ersetzen.
Der Metropolis-Algorithmus ist leicht zu implementieren, jedoch nicht immer der effizienteste Algorithmus. Alternativ können andere lokale oder nicht-lokale Verfahren Verwendung finden.
Optimierungsverfahren
Der Metropolis-Algorithmus kann auch als stochastisches Optimierungsverfahren zum Finden eines globalen Minimums einer Funktion verwendet werden. Hierzu wird mit einer hohen Temperatur begonnen, damit möglichst ein großes Gebiet der Wertelandschaft besucht wird. Anschließend wird die Temperatur langsam abgesenkt, sodass man sich mit immer höherer Wahrscheinlichkeit einem Minimum nähert. Ein solcher Metropolis-Algorithmus mit von der (Simulations-)Zeit abhängiger Temperatur heißt simulierte Abkühlung (simulated annealing). Für bestimmte Formen der simulierten Abkühlung konnte bewiesen werden, dass sie das globale Minimum einer Wertelandschaft finden.
Das Verfahren ähnelt dem Bergsteigeralgorithmus (hill climbing), akzeptiert jedoch im Gegensatz zu diesem auch Schritte weg vom nächsten Minimum, so dass das „Hängen bleiben“ in lokalen Minima vermieden wird, die noch nicht das absolute Minimum ergeben. Der Metropolis-Algorithmus überwindet so kleine Hügel, bevor weiter in Richtung Tal gegangen wird, da der Anstieg in Richtung Hügel klein ist und somit die Akzeptanzwahrscheinlichkeit relativ groß ist.
Bayessches Lernen

Zum Ziehen von Stichproben (engl. Sample) aus der Posterior-Verteilung wird folgende Akzeptanzwahrscheinlichkeit verwendet um von einem Zustand
zu einem vorgeschlagenen Zustand
überzugehen:
wobei
die
Likelihood der Daten ist,
die Prior-Wahrscheinlichkeitsdichte und
die (bedingte) Vorschlagsdichte.
Literatur
Einzelnachweise
- ↑ Hochspringen nach: a b
W. K. Hastings: Monte Carlo sampling methods using Markov chains and their applications. In:
Biometrika. Band 57,
Nr. 1, 1. April 1970, ISSN 1464-3510,
S. 97–109,
doi:
10.1093/biomet/57.1.97 (englisch,
oup.com
- ↑ Nicholas Metropolis, Arianna W. Rosenbluth, Marshall N. Rosenbluth, Augusta H. Teller, Edward Teller:
Equation of State Calculations by Fast Computing Machines. In:
The Journal of Chemical Physics.
Band 21,
Nr. 6, 1. Juni 1953, ISSN 0021-9606,
S. 1087–1092,
doi:
10.1063/1.1699114 (englisch).
- ↑ Vivekananda Roy: Convergence Diagnostics for Markov Chain
Monte Carlo. In: Annual Review of Statistics and Its Application.
Band 7,
Nr. 1, 9. März 2020, ISSN 2326-8298,
S. 387–412,
doi:
10.1146/annurev-statistics-031219-041300 (englisch,
annualreviews.org



© biancahoegel.de
Datum der letzten Änderung: Jena, den: 03.06. 2024