Théorème de Bayes -- Utiliser de nouvelles preuves pour mettre à jour votre jugement
Le théorème de Bayes est la pierre angulaire du raisonnement probabiliste.Croyance a priori + nouvelles preuves → croyance mise à jour.
Analyse du concept
P(E) est le facteur de normalisation : \( P(E) = P(E|H)P(H) + P(E|\text{not }H)P(\text{not }H) \).
Idée centrale :Mettre continuellement à jour notre jugement avec de nouvelles données. C'est le schéma de base de toutes les méthodes bayésiennes.
Exemple du quotidien
Le piège des faux positifs dans le dépistage des maladies
Une certaine maladie a une prévalence de 0.1% et une précision de test de 99%. Si vous testez positif — la probabilité réelle d'avoir la maladie n'est que d'environ 9%.
Pourquoi ? Parce que la maladie est extrêmement rare, le nombre absolu de faux positifs (1% de personnes en bonne santé mal diagnostiquées) dépasse largement celui des vrais positifs.
Le théorème de Bayes révèle cette conclusion contre-intuitive :Lorsque la probabilité a priori est extrêmement faible, même un test très précis signifie qu'un résultat positif est probablement un faux positif.。
Exercice pratique Python
Exemple
P_H = 0.001 # A priori : taux de prévalence 0.1%
P_E_given_H = 0.99 # Sensibilité 99%
P_E_given_notH = 0.01 # Taux de faux positifs 1%
P_E = P_E_given_H * P_H + P_E_given_notH * (1 - P_H)
P_H_given_E = P_E_given_H * P_H / P_E
print("=== EXEMPLE Dépistage de maladie ===")
print(f"Prévalence a priori : {P_H:.1%}")
print(f"Après un test positif, probabilité réelle de maladie : {P_H_given_E:.1%}")
print(f"Conclusion : avec une probabilité de base extrêmement faible, les faux positifs dépassent largement les vrais positifs")
Sortie :
=== EXAMPLE 疾病检测 === 先验患病率: 0.1% 检测阳性后，实际患病概率: 9.0% 结论：极低基础概率下，假阳性远超真阳性
Scénarios d'application en IA
Classificateur bayésien naïf
En supposant que les caractéristiques sont conditionnellement indépendantes, utilisez le théorème de Bayes pour calculer la probabilité a posteriori P(category|features), et sélectionnez la catégorie avec la plus grande probabilité a posteriori. Cela fonctionne étonnamment bien en classification de texte (filtrage de spam, analyse de sentiments) — bien que l'hypothèse d'indépendance « naïve » ne soit souvent pas vérifiée en pratique, la précision de classification reste très élevée.
Optimisation bayésienne pour le réglage des hyperparamètres
Lors de la sélection d'hyperparamètres tels que le taux d'apprentissage et le nombre de couches, chaque exécution d'entraînement prend du temps. L'optimisation bayésienne utilise un processus gaussien comme a priori, met à jour la distribution a posteriori en fonction des combinaisons d'hyperparamètres évaluées (évidence), et sélectionne intelligemment l'ensemble d'hyperparamètres suivant le plus prometteur. Elle est bien plus efficace que la recherche par grille et la recherche aléatoire.
Autoencodeur variationnel (VAE)
L'encodeur d'un VAE produit la moyenne μ et la variance σ² de la distribution latente, puis utilise la divergence KL pour contraindre cette distribution à être proche de l'a priori normal standard N(0,1). Le cadre « a priori → a posteriori » ici est le théorème de Bayes — l'a priori est N(0,1), la vraisemblance provient de l'erreur de reconstruction du décodeur, et l'a posteriori est la distribution produite par l'encodeur.
Autres extensions