Bayes-Theorem -- Mit neuen Evidenzen Ihr Urteil aktualisieren
Das Bayes-Theorem ist der Eckpfeiler des probabilistischen Schlussfolgerns.Prior-Überzeugung + neue Evidenz → aktualisierte Überzeugung.
Konzeptanalyse
P(E) ist der Normalisierungsfaktor: \( P(E) = P(E|H)P(H) + P(E|\text{not }H)P(\text{not }H) \).
Kernidee:Unser Urteil kontinuierlich mit neuen Daten aktualisieren. Dies ist das grundlegende Muster aller Bayes-Methoden.
Alltagsbeispiel
Die Falsch-Positiv-Falle bei Krankheitstests
Eine bestimmte Krankheit hat eine Prävalenz von 0.1% und eine Testgenauigkeit von 99%. Wenn Sie positiv getestet werden – die tatsächliche Wahrscheinlichkeit, die Krankheit zu haben, beträgt nur etwa 9%.
Warum? Weil die Krankheit extrem selten ist, übersteigt die absolute Zahl falsch-positiver Ergebnisse (1% der gesunden Menschen werden falsch diagnostiziert) die echten positiven Ergebnisse bei Weitem.
Das Bayes-Theorem offenbart diese kontraintuitive Schlussfolgerung:Wenn die A-priori-Wahrscheinlichkeit extrem niedrig ist, bedeutet selbst ein hochgenauer Test, dass ein positives Ergebnis wahrscheinlich ein falsch-positives Ergebnis ist.。
Praktische Python-Übung
Beispiel
P_H = 0.001 # Prior: Prävalenzrate 0.1%
P_E_given_H = 0.99 # Sensitivität 99%
P_E_given_notH = 0.01 # Falsch-positiv-Rate 1%
P_E = P_E_given_H * P_H + P_E_given_notH * (1 - P_H)
P_H_given_E = P_E_given_H * P_H / P_E
print("=== BEISPIEL Krankheitstest ===")
print(f"A-priori-Prävalenz: {P_H:.1%}")
print(f"Nach positivem Test, tatsächliche Krankheitswahrscheinlichkeit: {P_H_given_E:.1%}")
print(f"Schlussfolgerung: Bei extrem niedriger Basiswahrscheinlichkeit übersteigen falsch-positive Ergebnisse die echten positiven Ergebnisse bei Weitem")
Ausgabe:
=== EXAMPLE 疾病检测 === 先验患病率: 0.1% 检测阳性后，实际患病概率: 9.0% 结论：极低基础概率下，假阳性远超真阳性
Anwendungsszenarien in der KI
Naive-Bayes-Klassifikator
Angenommen, die Merkmale sind bedingt unabhängig, verwenden Sie den Satz von Bayes, um die Posterior-Wahrscheinlichkeit P(category|features) zu berechnen, und wählen Sie die Kategorie mit dem größten Posterior. Es funktioniert bei der Textklassifikation (Spamfilterung, Sentimentanalyse) überraschend gut – obwohl die „naive“ Unabhängigkeitsannahme in der Praxis oft nicht gilt, ist die Klassifikationsgenauigkeit dennoch sehr hoch.
Bayes'sche Optimierung für Hyperparameter-Tuning
Bei der Auswahl von Hyperparametern wie Lernrate und Anzahl der Schichten ist jeder Trainingslauf zeitaufwändig. Die Bayes'sche Optimierung verwendet einen Gauß-Prozess als Prior, aktualisiert die Posterior-Verteilung basierend auf bewerteten Hyperparameter-Kombinationen (Evidenz) und wählt intelligent den nächsten vielversprechendsten Satz von Hyperparametern aus. Sie ist deutlich effizienter als Rastersuche und Zufallssuche.
Variational Autoencoder (VAE)
Der Encoder eines VAE gibt den Mittelwert μ und die Varianz σ² der latenten Verteilung aus und verwendet dann die KL-Divergenz, um diese Verteilung so einzuschränken, dass sie nahe am Standardnormal-Prior N(0,1) liegt. Das Framework „Prior → Posterior“ ist hier der Satz von Bayes – der Prior ist N(0,1), die Likelihood stammt aus dem Rekonstruktionsfehler des Decoders, und der Posterior ist die vom Encoder ausgegebene Verteilung.
Weitere Erweiterungen