Algebra-Grundlagen
Dieses Kapitel führt in die Umformung von Gleichungen und Ungleichungen, die Kernkonzepte von Funktionen, Exponenten- und Logarithmusoperationen sowie das Summenzeichen Σ und die Konvergenz von Reihen ein.
Der Inhalt dieses Kapitels ist die gemeinsame mathematische Grundlage für Sigmoid, Softmax, Kreuzentropie und Informationsentropie. Jeder Wissenspunkt wird von interaktiven grafischen Demonstrationen begleitet. Das Ziehen eines Schiebereglers fördert die Intuition besser, als Formeln zehnmal zu lesen.
Lösen und Umformen von Gleichungen und Ungleichungen
Die algebraische Umformung beruht auf einem einzigen Satz.
Wenn man auf beiden Seiten einer Gleichung dieselbe Operation ausführt, bleibt die Gleichung wahr.
Solange du beide Seiten der Gleichung gleich behandelst – addieren, subtrahieren, multiplizieren, dividieren (mit einem Divisor ungleich null) oder Wurzeln ziehen (achte auf das Vorzeichen) – ändern sich die Lösungen der Gleichung nicht.
Lineare Gleichungen mit einer Variablen
Die grundlegendste Form ist。
lösenDie vollständigen Schritte:
3x + 5 = 20 3x = 20 - 5 ← 两边同减 5（移项） 3x = 15 x = 15 / 3 ← 两边同除以 3 x = 5
Es gibt nur zwei Kernaktionen:Umstellen (Terme verschieben)(Im Wesentlichen auf beiden Seiten denselben Betrag subtrahieren) undBeide Seiten dividieren。
Quadratische Gleichungen mit einer Variablen und die Diskriminante
Die Form ist, zwei gängige Lösungsmethoden.
Methode 1: Faktorisieren。
x² - 5x + 6 = 0 (x - 2)(x - 3) = 0 → x = 2 oder x = 3
Methode 2: Die quadratische Formel, in allen Fällen anwendbar, aber mit mehr Rechenaufwand:
Wobeiman sie alsDiskriminantebezeichnet, notiert als, bestimmt sie direkt die Anzahl der Wurzeln:
| Diskriminante | Wurzelsituation | Geometrische Bedeutung (Parabel und x-Achse) |
|---|---|---|
| Zwei verschiedene reelle Wurzeln | Die Parabel schneidet die x-Achse an zwei Punkten. | |
| Eine doppelte Wurzel | Die Parabel berührt die x-Achse gerade (Tangente) | |
| Keine reellen Wurzeln | Die Parabel liegt vollständig über oder unter der x-Achse |
Unten kannst du die Schieberegler ziehen, umzu ändern, und beobachten, wie die Form der Parabel und die Diskriminante zusammenhängen.
LösenDer Einsetzungsprozess in die quadratische Formel:
a=1, b=-2, c=-3 Δ = (-2)² - 4×1×(-3) = 4 + 12 = 16 x = (2 ± √16) / 2 = (2 ± 4) / 2 → x = 3 oder x = -1
Bruchgleichungen: müssen am Ende überprüft werden
Finde zuerst einen gemeinsamen Nenner oder beseitige die Nenner, dann forme es in eine gewöhnliche Gleichung um und löse sie.
Schließlich musst du die Lösung wieder in die ursprüngliche Gleichung einsetzen, um zu bestätigen, dass sie keinen Nenner zu null macht.
Lösungen, die den Nenner zu null machen, müssen verworfen werden; sie heißenfremde Wurzeln。
Ungleichungen: die Regel, die am leichtesten falsch gemacht wird
Die Umformungsregeln für Ungleichungen ähneln denen für Gleichungen, aber es gibt einen entscheidenden Unterschied.
Wenn beide Seiten einer Ungleichung mit einer negativen Zahl multipliziert (oder dividiert) werden, muss das Ungleichheitszeichen umgekehrt werden.
Lösen：
-2x > -6 ← 两边同减 6 x < 3 ← 两边同除以 -2（负数，不等号从 > 变成 <）
Diese Regel ist im maschinellen Lernen sehr wichtig: Wenn man die Konvergenzrichtung von Optimierungsalgorithmen oder die Bedingungen für die Abnahme der Verlustfunktion herleitet, wird die Schlussfolgerung völlig umgekehrt, wenn das Vorzeichen in die falsche Richtung behandelt wird.
UngleichungssystemDie Lösungsmenge eines Systems ist dieSchnittmenge der Lösungsmengen mehrerer Ungleichungen.：
x > 1 x < 5 → 解集为 1 < x < 5
Häufige Umformungstechniken
| Technik | Methode | Typische Verwendung |
|---|---|---|
| Umstellen | Verschiebe einen Term auf die andere Seite des Gleichheitszeichens und ändere sein Vorzeichen. | Die grundlegende Operation zum Lösen aller Gleichungen. |
| Quadratische Ergänzung | Den Scheitelpunkt einer quadratischen Funktion finden, Ableitungen von Verlustfunktionen vereinfachen. | |
| Substitutionsmethode | Ersetze einen komplexen Teilausdruck, der wiederholt vorkommt, durch eine neue Variable. | Ausdrücke mit komplexer Struktur vereinfachen. |
Beispiele
import math
def solve_quadratic(a, b, c):
"""Löse ax^2 + bx + c = 0, gib alle reellen Wurzeln zurück"""
delta = b * b - 4 * a * c # Diskriminante Δ = b² - 4ac
if delta > 0: # Δ > 0: zwei verschiedene reelle Wurzeln
r = math.sqrt(delta)
return [(-b + r) / (2 * a), (-b - r) / (2 * a)]
elif delta == 0: # Δ = 0: eine doppelte Wurzel
return [-b / (2 * a)]
else: # Δ < 0: keine reellen Wurzeln
return []
# Überprüfe x² - 2x - 3 = 0; die frühere manuelle Berechnung ergab x = 3 oder x = -1
print(solve_quadratic(1, -2, -3))
# Fall Δ = 0: x² - 4x + 4 = 0, d. h. (x-2)² = 0
print(solve_quadratic(1, -4, 4))
# Fall Δ < 0: x² + x + 1 = 0
print(solve_quadratic(1, 1, 1))
Das Ausführen des obigen Codes liefert die folgende Ausgabe:
[3.0, -1.0] [2.0] []
Übung: Löse die Ungleichung。
Klicken, um die Antwort anzuzeigen
Subtrahiere 9 auf beiden Seiten:; dividiere beide Seiten durch -3 (negative Zahl, Ungleichheitszeichen kehrt sich um):。
Das Konzept der Funktionen: Definitionsbereich, Wertebereich, zusammengesetzte Funktionen
Funktionbeschreibt eine Zuordnungsregel von "Eingabe zu Ausgabe":Zu jeder Eingabe x gibt es genau eine Ausgabe y, die ihr entspricht。
Geschrieben als, gelesen als "y ist eine Funktion von x."
Definitionsbereich: die Menge aller "gültigen Eingaben"
Den Definitionsbereich zu bestimmen bedeutet im Wesentlichen, Werte auszuschließen, die den Ausdruck "bedeutungslos" machen:
| Merkmal des Ausdrucks | Einschränkung | Beispiel |
|---|---|---|
| Nenner | darf nicht 0 sein | |
| Wurzel mit geradem Index | Der Wert unter der Wurzel darf nicht negativ sein | |
| Logarithmus | Das Argument muss größer als 0 sein |
Diese Logarithmusregel ist in der KI besonders wichtig: Wo immer log verwendet wird (etwa beim Cross-Entropy-Verlust), muss man sicherstellen, dass die Eingabe positiv ist. Deshalb schreiben viele Code-Implementierungen es als– wobei eine sehr kleine Konstante ε hinzugefügt wird, um zu verhindernFehler oder unendliche Werte.
Wertebereich: die Menge aller "möglichen Ausgaben"
Der Wertebereich von ist, weil ein Quadrat immer nichtnegativ ist.
Die Sigmoid-Funktionhat als Wertebereich das offene Intervall, ist nie gleich 0 oder 1, sondern nähert sich ihnen nur unendlich an.
Genau das ist der mathematische Grund, warum sie zur Darstellung von "Wahrscheinlichkeit" verwendet wird: Wahrscheinlichkeiten können sich theoretisch unendlich 0% oder 100% nähern, aber niemals wirklich gleich diesen werden.
Verkettete Funktion: Funktion in einer Funktion
Man nimmt die Ausgabe einer Funktion als Eingabe einer anderen, geschrieben als。
Die Berechnungsreihenfolge istZuerst wird die innere Funktion g(x) berechnet, dann wird das Ergebnis in die äußere Funktion f eingesetzt。
entwirf，, um zu finden：
f(g(x)) = f(x+1) = (x+1)²
ist normalerweise nicht gleich, die Reihenfolge kann nicht beliebig geändert werden.
Warum verkettete Funktionen für die KI wichtig sind: Ein neuronales Netz ist im Wesentlichen eine Verkettung vieler Schichten von Funktionen.
Ein zweischichtiges Netz kann alsgeschrieben werden, wobeidie erste Schicht ist (lineare Transformation + Aktivierungsfunktion),die zweite Schicht ist.
Der Backpropagation-Algorithmus berechnet Gradienten "Schicht für Schicht" genau wegen derKettenregelzum Differenzieren verketteter Funktionen (wird in späteren Analysis-Kursen ausführlich behandelt).
Beispiele
def f(x):
return x ** 2 # Äußere Funktion f(x) = x²
def g(x):
return x + 1 # Innere Funktion g(x) = x + 1
# f(g(x)): zuerst g(3) = 4 berechnen, dann in f einsetzen, um 16 zu erhalten
print(f(g(3)))
# g(f(x)): zuerst f(3) = 9 berechnen, dann in g einsetzen, um 10 zu erhalten
# Die beiden sind nicht gleich, was bedeutet, dass die Verkettungsreihenfolge nicht vertauscht werden kann
print(g(f(3)))
Die Ausgabe beim Ausführen des obigen Codes ist:
16 10
Übung: Sei，, findeund, und vergleiche, ob die beiden gleich sind.
Klicken, um die Antwort anzuzeigen
Die beiden unterscheiden sich, was zeigt, dass die Reihenfolge der Funktionsverkettung nicht vertauscht werden kann.
Potenzierung und Logarithmen
Ein Satz, um die Arbeitsteilung zwischen diesen beiden Funktionen zu verstehen:Die Exponentialfunktion ist für das "Verstärken/Komprimieren von Zahlenbereichen" zuständig; die Logarithmusfunktion ist dafür zuständig, "Multiplikation/Division in Addition/Subtraktion umzuwandeln und Werte mit großem Bereich in einen kontrollierbaren Bereich zu komprimieren"。
Sie tauchen immer wieder beim Entwurf von Verlustfunktionen und Aktivierungsfunktionen in der KI auf.
| KI-Szenarien | Formel | Verwendete Eigenschaft |
|---|---|---|
| Sigmoid-Funktion | Strebt mit wachsendem x gegen 0 und komprimiert jede reelle Zahl in (0,1) | |
| Softmax-Funktion | Exponentialfunktionen verstärken Unterschiede und normalisieren dann zu einer Wahrscheinlichkeitsverteilung | |
| Cross-Entropy-Verlust | Der Logarithmus verwandelt "Multiplikation von Wahrscheinlichkeiten" in "Addition von Werten" und vermeidet Underflow | |
| Informationsentropie | log ergibt die Additivität der Entropie |
Regeln, die Sie sicher beherrschen müssen
Regeln für Exponentialoperationen:
Logarithmus-Rechenregeln, die eins zu eins den Exponentialregeln entsprechen:
Basiswechsel-Formel, die Logarithmen beliebiger Basis in natürliche Logarithmen umwandelt:
Exponenten und Logarithmen sind Spiegelbilder voneinander
Exponentialfunktionund Logarithmusfunktionsind Umkehrfunktionen voneinander, und ihre Graphen sind symmetrisch zur Geradensymmetrisch.
Ziehen Sie den Schieberegler, um die Basis a zu ändern, und beobachten Sie, wie sich die beiden Kurven gemeinsam bewegen.
Herleitungsübung: Warum Kreuzentropie log verwendet
Angenommen, das wahre Label ist "cat" (Wahrscheinlichkeit 1), und das Modell gibt die Wahrscheinlichkeit für "is cat" als。
Wenn man nicht log verwendet, sondern direktals Verlust nutzt, wächst der Verlust, wenn p von 0.5 auf 0.1 fällt, nur "linear", und die Bestrafung ist unzureichend.
verwende: wenn(das Modell ist extrem sicher und liegt dennoch falsch),, verhänge eine extrem schwere Strafe; wenn(die Beurteilung korrekt ist),, fast keine Bestrafung.
Dies ist eine direkte Anwendung der Form der Logarithmusfunktion – "steil bei 0, flach bei 1" – beim Entwurf von Verlustfunktionen. Kapitel 2 wird ein interaktives Bild verwenden, um diese Kurve gezielt zu demonstrieren.
Beispiele
import math
m, n = 8, 4
# Links: log₂(8×4) direkt berechnen
left = math.log(m * n, 2)
# Rechts: log₂(8) + log₂(4)
right = math.log(m, 2) + math.log(n, 2)
print(left) # log₂32 = 5
print(right) # 3 + 2 = 5, sie sind gleich, die Regel gilt
print(abs(left - right) < 1e-12)
Wenn man den obigen Code ausführt, erhält man:
5.0 5.0 True
Übung: Berechne, und verwende Logarithmusregeln, um zu einem einzigen Logarithmus zu vereinfachen.
Klicken Sie, um die Antwort zu sehen
Folgen und Reihen: Σ und Konvergenz verstehen
Eine Folge ist eine geordnete Abfolge von Zahlen, bezeichnet als, abgekürzt als。
Die zwei grundlegendsten Arten von Folgen:
| Type | Eigenschaft | Beispiel | Formel des allgemeinen Glieds |
|---|---|---|---|
| Arithmetische Folge | Die Differenz aufeinanderfolgender Glieder ist konstant (Differenz d) | 2, 5, 8, 11, ...（d=3） | |
| Geometrische Folge | Das Verhältnis aufeinanderfolgender Glieder ist konstant (Quotient r) | 2, 4, 8, 16, ...（r=2） |
Was berechnet das Summenzeichen Σ eigentlich?
Es bedeutet: Man lässt den Index i von 1 bis n laufen, berechnet für jedesden Ausdruck und addiert dann alles zusammen.
Die Drei-Schritt-Methode zum Lesen einer Σ-Formel: Schauen Sie zuerst aufdie Summationsvariable, also den Index, dann aufden Summationsbereich(von wo bis wo), und schließlich auf, wie jeder Term aussieht。
In KI-Formeln sieht man fast immer Σ, etwa beim Verlust des mittleren quadratischen Fehlers, und bei der gewichteten Summe eines Neurons。
Zwei Summenformeln: arithmetische Folge, geometrische Folge (）。
Reihen und Konvergenz
Eine Reihe ist die Summe der "unendlich vielen Glieder" einer Folge, d. h.。
Wenn unendlich viele Zahlen addiert werden, wird das Ergebnis dann unendlich? Das ist die Frage nach Konvergenz und Divergenz:
Wenn sich die akkumulierte Summe mit steigender Anzahl von Gliedern einembestimmten endlichen Wertnähert, sagt man, die Reihe konvergiert; wenn die Summe unbegrenzt wächst oder keinen festen Trend hat, sagt man, die Reihe divergiert.
Das klassischste Beispiel ist die geometrische Reihe：
Wenn, konvergiert sie, und die Summe ist; wenn, divergiert sie.
Klicken Sie auf die Schaltfläche "Abspielen", um zu beobachten, wie sich die Partialsummen dem Grenzwert Schritt für Schritt nähern.
Warum Konvergenz für KI wichtig ist
Beim Trainieren neuronaler Netze kann jeder Aktualisierungsschritt des Gradientenabstiegs als Folge betrachtet werden; ob die Gewichtsaktualisierungen auf einen stabilen Wert "konvergieren" können, teilt dieselbe Intuition wie die Reihenkonvergenz.
Bestimmte Optimierungsalgorithmen (wie der Momentum-Term in Adam) führen im Wesentlichen einegewichtete exponentiell abklingende Summationdurch, deren mathematische Form eine geometrische Reihe mit einem Quotienten kleiner als 1 ist.
In rekurrenten neuronalen Netzen (RNNs), wenn ein multiplikativer Faktor wiederholt multipliziert wird und sein Absolutwert kleiner als 1 ist, führt dies zu "verschwindenden Gradienten" (entspricht der Konvergenz der Reihe gegen 0); wenn er größer als 1 ist, führt dies zu "explodierenden Gradienten" (entspricht der Divergenz der Reihe). Dies ist ein klassisches Problem im Deep Learning, das genau auf der Intuition geometrischer Folgen beruht.
Beispiele
# Theoretischer Grenzwert: 1 / (1 - 0.5) = 2
r = 0.5
limit = 1 / (1 - r) # Theoretischer Grenzwert 2
s = 0 # Partialsumme, ab 0 akkumuliert
for i in range(6): # Termweise akkumulieren: 1 + 0.5 + 0.25 + ...
s += r ** i
print(i + 1, s) # Anzahl der Terme und aktuelle Partialsumme ausgeben
print(limit) # Theoretischer Grenzwert, die Partialsummen kommen ihm immer näher
Das Ausführen des obigen Codes liefert die Ausgabe:
1 1.0 2 1.5 3 1.75 4 1.875 5 1.9375 6 1.96875 2.0
Man sieht, dass sich die Lücke zwischen der Partialsumme und dem Grenzwert mit jedem hinzugefügten Term halbiert — das ist genau der Konvergenzrhythmus einer geometrischen Reihe mit einem Quotienten von 0.5.
Übung: Bestimmen Sie, ob die Reihekonvergiert, und wenn ja, finden Sie ihre Summe.
Klicken Sie, um die Antwort anzuzeigen
Gemeinsamer Quotient, welchererfüllt, konvergiert sie.
Kapitelzusammenfassung
| Thema | Kernidee in einem Satz |
|---|---|
| Gleichungen und Ungleichungen | Führen Sie dieselbe Operation auf beiden Seiten durch; kehren Sie das Ungleichheitszeichen um, wenn Sie mit einer negativen Zahl multiplizieren/dividieren |
| Funktionsbegriff | Der Definitionsbereich ist "was eingegeben werden kann", der Wertebereich ist "was ausgegeben werden kann", und eine zusammengesetzte Funktion ist "eine Funktion innerhalb einer Funktion" |
| Exponenten und Logarithmen | Exponenten verstärken/komprimieren Werte, Logarithmen verwandeln Multiplikation und Division in Addition und Subtraktion — zentrale Werkzeuge für KI-Verlustfunktionen |
| Folgen und Reihen | Σ bedeutet "Summe nach einer Regel"; ob eine Reihe konvergiert, bestimmt, ob das Modelltraining stabil ist |