Vektoraddition und Skalarmultiplikation -- Geometrische Perspektive

Vektoraddition: Aneinanderreihung zweier Verschiebungen

Ein Vektor kann als Pfeil vom Ursprung ausgehend verstanden werden – er hat Länge und Richtung.

Zwei Vektoren zu addieren bedeutet, zwei Verschiebungen aneinanderzureihen.

Skalarmultiplikation: Strecken oder Stauchen eines Vektors

Multiplizieren eines Vektors mit einem Skalar (einer gewöhnlichen Zahl) führt zuÄndern der Länge des Vektors, während seine Linienrichtung unverändert bleibt。

Die Skalarmultiplikation ändert nur die "Länge" des Vektors, nicht die Richtung der Geraden, auf der er liegt (negative Zahlen kehren die Richtung um, aber er bleibt auf derselben Geraden).

Diese Eigenschaft heißtKollinearität– die beiden Vektoren vor und nach der Skalarmultiplikation liegen immer auf derselben Geraden.

Alltagsbeispiele

Mathematische Definitionen

Vektoraddition

Um zwei Vektoren derselben Dimension zu addieren, addiere die entsprechenden Elemente jeweils.

Vektorsubtraktion

Vektorsubtraktion = Addition des entgegengesetzten Vektors: \( \mathbf{a} - \mathbf{b} = \mathbf{a} + (-\mathbf{b}) \)

Skalarmultiplikation von Vektoren

Ein Skalar c multipliziert mit einem Vektor bedeutet, jedes Element des Vektors mit c zu multiplizieren:

Kurzübersicht der Operationseigenschaften

Python-Praxis

a + b = [4 3]
a - b = [2 -1]
2.5 * a = [7.5 2.5]
-a = [-3 -1]
a + 10 = [13 11]
a * 3  = [9 3]

Interaktive Demo zur Vektoraddition

Ziehen Sie die Endpunkte des roten Vektors a und des blauen Vektors b unten und beobachten Sie, wie sich der grüne resultierende Vektor a+b in Echtzeit ändert. Erleben Sie die Dreiecksregel und die Parallelogrammregel:

Anwendungsszenarien in der KI

Semantische Operationen mit Wortvektoren

Die berühmteste Entdeckung von Word-Embedding-Modellen wie Word2Vec und GloVe: Vektoraddition und -subtraktion haben eine semantische Bedeutung.

Subtraktion entfernt die Merkmalskomponente "männlich", und Addition fügt die Merkmalskomponente "weiblich" hinzu. Der resultierende Vektor liegt im Embedding-Raum am nächsten bei "Königin".

Diese Art von semantischer Operation ist nicht auf das Geschlecht beschränkt — "Paris - Frankreich + Italien ≈ Rom" funktioniert nach demselben Prinzip. Vektoraddition und -subtraktion wirken hier als "Merkmalsbearbeitung".

Bias in neuronalen Netzen

In der Berechnung jedes Neurons \( y = Wx + b \) ist +b eine Vektoraddition — der Bias verschiebt das Ergebnis von wx als Ganzes.

Ohne den Bias b wäre die Ausgabe des Modells bei x=0 notwendigerweise 0, was die Ausdruckskraft des Modells stark einschränkt. Der Bias entspricht der Zuweisung eines "Standardaktivierungswerts" an jedes Neuron.

Gradientenaktualisierung

Die Parameteraktualisierung während des Trainings \( \theta_{new} = \theta_{old} - \eta \nabla J \) ist eine Kombination aus Skalarmultiplikation (Lernrate × Gradient) und Vektorsubtraktion.

Die Skalarmultiplikation steuert die Größe jeder Aktualisierung (je größer die Lernrate, desto größer der Schritt), und die Subtraktion bewegt die Parameter in Richtung abnehmenden Verlusts.

Datenvorverarbeitung: Mittelwertzentrierung

Vor dem Training eines neuronalen Netzes wird häufig eine "Mittelwertsubtraktion" auf die Daten angewendet: \( x_{norm} = x - \mu \). Dies ist eine Vektorsubtraktion — sie verschiebt das Datenzentrum zum Ursprung, was dem Gradientenabstieg hilft, schneller zu konvergieren.