Grundlagen der Logik und Mengenlehre
In den vorherigen Kapiteln haben wir Algebra, Funktionen und Geometrie eingeführt, die sich alle auf "Zahlen" und "Figuren" konzentrieren.
In diesem Kapitel behandeln wir etwas Grundlegenderes:Wie man "Bedingungen" beschreibt(Logik),Wie man "eine Sammlung von Dingen" beschreibt(Mengenlehre).
Im maschinellen Lernen wird fast aller Inhalt, der "Wahrscheinlichkeit" und "Unsicherheit" betrifft, grundlegend in der Mengenlehre ausgedrückt; aller Inhalt, der "bedingte Entscheidungen" und "Algorithmusabläufe" betrifft, grundlegend in der Logik.
Grundlegende logische Operationen: UND, ODER, NICHT, IMPLIES
Logisches UND (AND, Symbol ∧)
ist genau dann wahr, wenn p und qbeide wahr sind。
Intuition: Die beiden Bedingungen müssen gleichzeitig erfüllt sein; fehlt eine von beiden, funktioniert es nicht – genau wie "du wirst nur nass, wenn es regnet und du keinen Regenschirm hast."
Logisches ODER (OR, Symbol ∨)
ist wahr, solange von p und qmindestens eines wahr ist。
Das "oder" in der Mathematik ist ein "inklusives Oder": Wenn beide wahr sind, ist die gesamte Aussage ebenfalls wahr. Es bedeutet nicht das "entweder/oder" der Alltagssprache.
Logisches NICHT (NOT, Symbol ¬)
Es kehrt einfach den Wahrheitswert von p um: Wenn p wahr ist,ist es falsch; wenn p falsch ist,ist es wahr.
Logische Implikation (IMPLIES, Symbol ⇒)
Gelesen als "wenn p, dann q", ist sie diejenige, die am ehesten der Intuition widerspricht:
| p (das Antezedens) | q (das Konsequens) | Erklärung | |
|---|---|---|---|
| wahr | wahr | wahr | Normalfall |
| wahr | false | false | Der einzige falsche Fall: "Antezedens wahr, Konsequens falsch" |
| false | wahr | wahr | Wenn das Antezedens falsch ist, ist die gesamte Aussage wahr |
| false | false | wahr | Wenn das Antezedens falsch ist, ist die gesamte Aussage wahr |
Die beiden kontraintuitivsten Zeilen: Wenn p falsch ist, egal was q ist,wird alswahr bewertet。
Ein Beispiel zum besseren Verständnis: "Wenn es morgen regnet (p), bringe ich einen Regenschirm mit (q)."
Wenn es morgennicht regnet(p ist falsch), dann kannst du, egal ob du einen Regenschirm mitbringst oder nicht, nicht sagen, die Aussage sei "falsch" – sie macht einfach keine Zusage über die Situation "kein Regen".
Logische Äquivalenz (IFF, Symbol ⇔)
Gelesen als "p genau dann, wenn q", bedeutet, dass p und q immer denselben Wahrheitswert haben (entweder beide wahr oder beide falsch).
Klicke unten auf die Schalter, um jede Kombination selbst "aufleuchten" zu lassen und die Ergebnisse der vier Operationen zu beobachten.
Warum diese Symbole für KI wichtig sind
Wenn man Algorithmus-Pseudocode und bedingte Entscheidungen beim Modelltraining liest (etwa die Auslösebedingung für "Early Stopping"), handelt es sich dabei allesamt um Kombinationen logischer Ausdrücke.
Ein Entscheidungsbaummodell besteht im Wesentlichen aus Ebenen von "Wenn...dann..."-Entscheidungen (Implikationen).
Viele Theoreme der Wahrscheinlichkeitstheorie nutzen in Beweisen umfangreich logische Operationen, um Beziehungen zwischen Ereignissen zu beschreiben.
Beispiele
# Hinweis: Python hat keinen "Implikation"-Operator; p ⇒ q ist äquivalent zu (not p) or q
print('p q p∧q p∨q ¬p p⇒q')
for p in [True, False]:
for q in [True, False]:
implies = (not p) or q # Implikation: der einzige falsche Fall ist "p wahr und q falsch"
print(p, q, p and q, p or q, not p, implies)
Das Ausführen des obigen Codes liefert die folgende Ausgabe:
p q p∧q p∨q ¬p p⇒q True True True True False True True False False True False False False True False True True True False False False False True True
Die zweite Zeile ist dieses einzige "falsch": p wahr, q falsch, die Implikation gilt nicht.
Übung: p = "Heute ist Wochenende" ist falsch, q = "Ich muss zur Arbeit gehen" ist wahr. Bitte bestimmen Sieden Wahrheitswert von.
Klicken Sie, um die Antwort zu sehen
p ist falsch. Gemäß der Wahrheitstabelle istes wahr, egal was q ist.
Mengenkonzepte: Schnittmenge, Vereinigung, Teilmenge
Was ist eine Menge?
Eine Menge ist ein Ganzes, das aus "einer Ansammlung bestimmter Dinge" besteht, zum Beispielsteht für die Menge, die die drei Elemente 1, 2, 3 enthält.
| Symbol | Bedeutung | Beispiel |
|---|---|---|
| x ist ein Element der Menge A (gehört zu) | ||
| x ist kein Element der Menge A | ||
| Leere Menge, enthält keine Elemente | ||
| Grundmenge, "alles" im Rahmen der Betrachtung | Alle möglichen Ergebnisse beim Werfen eines Würfels |
Teilmenge
Wenn jedes Element der Menge A auch ein Element der Menge B ist, dann ist A eineTeilmengevon B, bezeichnet als。
Zum Beispiel, dann。
Vereinigung, Schnittmenge, Differenz, Komplement
Darstellung：
| Aktion | Symbol | Bedeutung | Ergebnis |
|---|---|---|---|
| Vereinigung | Die Elemente von A und B zusammengefasst (Duplikate werden nur einmal gezählt) | ||
| Schnittmenge | Elemente, die sowohl in A als auch in B sind | ||
| Unterschied | Gehört zu A, aber nicht zu B | ||
| Komplement | Der Teil der Grundmenge U, der nicht in A liegt, d. h. | Hängt von U ab |
Entsprechung zwischen Mengenoperationen und logischen Operationen
Mengenlehre und logische Operationen sind tatsächlich "zwei Sprachen für dieselbe Sache":
| Mengensprache | Logische Sprache |
|---|---|
Das ist auch der Grund, warum diese beiden Abschnitte im selben Kapitel stehen: Sie sind zwei Ausdrucksformen derselben zugrunde liegenden Logik.
Klicken Sie auf die Schaltfläche, um zwischen Mengenoperationen zu wechseln und die hervorgehobenen Bereiche im Venn-Diagramm zu sehen.
Beispiele
A = {1, 2, 3, 4, 5}
B = {4, 5, 6, 7}
U = set(range(1, 11)) # Grundmenge {1, 2, ..., 10}
print(A | B) # Vereinigung A ∪ B
print(A & B) # Schnittmenge A ∩ B
print(A - B) # Differenz A \ B
print(A ^ B) # Symmetrische Differenz A △ B (Elemente, die nur in einer der Mengen liegen)
print(U - A) # Komplement Ā = U \ A
Die Ausgabe nach Ausführung des obigen Codes ist:
{1, 2, 3, 4, 5, 6, 7}
{4, 5}
{1, 2, 3}
{1, 2, 3, 6, 7}
{6, 7, 8, 9, 10}
Übung：，(Im Bereich 1~12). Bestimmen Sieund。
Klicken Sie, um die Antwort zu sehen
Warum die Wahrscheinlichkeitstheorie auf der Mengenlehre aufbaut
Ereignisse sind Mengen
Ein "Ereignis" in der Wahrscheinlichkeitstheorie ist im Wesentlichen eine Menge: die Menge aller "möglichen Ergebnisse", die eine bestimmte Bedingung erfüllen.
Zum Beispiel ist beim Werfen eines Würfels die Menge, die dem Ereignis "eine gerade Zahl würfeln" entspricht:。
Wahrscheinlichkeitsoperationen entsprechen direkt Mengenoperationen
| Wahrscheinlichkeitssprache | Mengensprache | Bedeutung |
|---|---|---|
| A oder B tritt ein | Mindestens eines der Ereignisse A und B tritt ein | |
| Sowohl A als auch B treten ein | Ereignisse A und B treten gleichzeitig ein | |
| A tritt nicht ein | Komplement von A | |
| A und B schließen sich gegenseitig aus | Die beiden Ereignisse können nicht gleichzeitig eintreten |
Additionsformel: Inklusions-Exklusions-Prinzip
Die geometrische Intuition dieser Formel: Der Überlappungsbereich zweier Kreise wird zweimal gezählt, also muss er einmal abgezogen werden.
Dies lässt sich sehr intuitiv anhand eines Venn-Diagramms (einer grafischen Darstellung von Mengen) erkennen.
Bedingte Wahrscheinlichkeit
Man liest ihn als "die Wahrscheinlichkeit, dass A eintritt, unter der Bedingung, dass B bereits eingetreten ist."
Intuition: Sobald wir wissen, dass B eingetreten ist, schrumpft das betrachtete "Universum" vom ursprünglichen U zu B.
Zu diesem Zeitpunkt ist die Wahrscheinlichkeit, dass A eintritt, natürlich der Anteil der "Schnittmenge von A und B" am "neuen Universum B".
Der Prototyp des Bayes-Theorems
Die bedingte Wahrscheinlichkeit lässt sich auch umgekehrt schreiben:
Durch Umstellen erhält man die Kernformel des Bayes-Theorems:
Es ist die theoretische Grundlage vieler Machine-Learning-Modelle (wie des Naive-Bayes-Klassifikators), und seine Herleitung beginnt genau bei der einfachen Mengenintuition, dass "die bedingte Wahrscheinlichkeit der Anteil einer Schnittmenge ist."
Das klassische Problem der Krankheitserkennung zeigt die Stärke von Bayes am besten: Ein Test mit "einer Genauigkeit von 95%" ist nicht dasselbe wie "eine 95%ige Wahrscheinlichkeit, nach einem positiven Test erkrankt zu sein". Ziehen Sie den Schieberegler und rechnen Sie selbst.
Beispiele
# A = hat die Krankheit, B = positiv getestet
p_a = 0.01 # Prävalenz (A-priori-Wahrscheinlichkeit)
p_b_given_a = 0.95 # Sensitivität: Wahrscheinlichkeit, dass eine erkrankte Person positiv getestet wird
p_b_given_na = 0.05 # Falsch-positiv-Rate: Wahrscheinlichkeit, dass eine gesunde Person positiv getestet wird
# Formel der totalen Wahrscheinlichkeit: P(B) = P(B|A)P(A) + P(B|¬A)P(¬A)
p_b = p_b_given_a * p_a + p_b_given_na * (1 - p_a)
# Bayes-Theorem: P(A|B) = P(B|A)P(A) / P(B)
p_a_given_b = p_b_given_a * p_a / p_b
print(p_b) # Die Gesamtwahrscheinlichkeit eines positiven Tests beträgt ungefähr 5.9%
print(p_a_given_b) # Anteil der richtig Positiven unter den Positiven: nur etwa 16.1%!
Die Ausgabe beim Ausführen des obigen Codes ist:
0.059000000000000004 0.16101694915254236
Das Fazit ist sehr kontraintuitiv: Der Test hat eine "Genauigkeit von 95%", aber die Wahrscheinlichkeit, bei einem positiven Ergebnis tatsächlich erkrankt zu sein, liegt nur bei etwa 16% -- weil die Prävalenz selbst nur 1% beträgt, übertönt eine große Zahl falsch-positiver Ergebnisse die richtig Positiven.
Genau das ist der Wert des Bayes-Theorems: Es zeigt Ihnen, wie Sie neue Evidenz (Testergebnis) nutzen, um alte Überzeugungen (Prävalenz) zu aktualisieren, was auch der gemeinsame geistige Ursprung des Naive-Bayes-Klassifikators und der Bayes'schen Optimierung ist.
Übung: In einem Standardkartenspiel mit 52 Karten, Ereignis A = 'eine Herz-Karte ziehen' (13 Karten), Ereignis B = 'ein Ass ziehen' (4 Karten, von denen 1 das Herz-Ass ist). Bestimmen Sieund。
Klicken, um die Antwort anzuzeigen
Kapitelzusammenfassung
| Thema | Kern in einem Satz |
|---|---|
| Logische Operationen | ∧ erfordert, dass beide wahr sind, ∨ erfordert nur, dass eines wahr ist, ⇒ ist nur dann falsch, wenn "Voraussetzung wahr und Folgerung falsch" (am kontraintuitivsten) |
| Mengenoperationen | ∪ ist die Vereinigung, ∩ ist der Durchschnitt, und sie entsprechen eins zu eins den logischen Operationen |
| Wahrscheinlichkeit und Mengen | Ereignisse sind Mengen; P(A∪B), P(A∩B) und die bedingte Wahrscheinlichkeit lassen sich alle intuitiv mithilfe der Überlappungsbeziehungen von Mengen verstehen |