ベクトルの加法とスカラー倍 — 幾何学的視点

ベクトル加法：2つの変位をつなぎ合わせる

ベクトルは、原点から出る1本の矢として理解できる——長さと方向を持つ。

2つのベクトルを加えることは、2つの変位を「つなぎ合わせる」ことである。

スカラー倍：ベクトルを伸ばす、または縮める

スカラー（普通の数）でベクトルを掛けると、結果はベクトルの長さを変えるが、それが乗っている直線の方向は変わらない。

スカラー倍はベクトルの「長さ」だけを変え、それが乗っている直線の方向は変えない（負の数は方向を反転させるが、同じ直線上にある）。

この性質を共線性——スカラー倍の前後の2つのベクトルは常に同じ直線上にある。

身近な例

数学的定義

ベクトル加法

同じ次元の2つのベクトルを加えるとは、対応する位置の要素をそれぞれ加算することである。

ベクトル減法

ベクトル減法 = 逆方向のベクトルを加えること：\( \mathbf{a} - \mathbf{b} = \mathbf{a} + (-\mathbf{b}) \)

ベクトルのスカラー倍

スカラー c をベクトルに掛けることは、ベクトルの各要素を c で掛けることである：

演算性質の早見表

Python で試してみる

a + b = [4 3]
a - b = [2 -1]
2.5 * a = [7.5 2.5]
-a = [-3 -1]
a + 10 = [13 11]
a * 3  = [9 3]

インタラクティブなベクトル加法デモ

下の赤いベクトル a と青いベクトル b の端点をドラッグして、緑色の和ベクトル a+b がリアルタイムで変化するのを観察しよう。三角形の法則と平行四辺形の法則を体感しよう：

AI での応用シーン

単語ベクトルの意味的演算

Word2Vec や GloVe などの単語埋め込みモデルで最も有名な発見：ベクトルの加減法には意味的な含意がある。

減法は「男性」の特徴成分を取り除き、加法は「女性」の特徴成分を加えることである。結果のベクトルは埋め込み空間において「女王」に最も近くなる。

このような意味的演算は性別に限らない——「パリ - フランス + イタリア ≈ ローマ」も同じ原理である。ベクトルの加法と減法はここで「特徴編集」の役割を果たしている。

ニューラルネットワークにおけるバイアス

各ニューロンの計算 \( y = Wx + b \) において、+b はベクトル加法である——バイアスは wx の結果を全体として平行移動させる。

もしバイアス b がなければ、モデルは x=0 のときに出力が必ず 0 になり、これはモデルの表現力を著しく制限する。バイアスは各ニューロンに「デフォルトの活性化値」を与えることに相当する。

勾配の更新

トレーニング時のパラメータ更新 \( \theta_{new} = \theta_{old} - \eta \nabla J \) は、スカラー倍（学習率 × 勾配）とベクトル減法の組み合わせである。

スカラー倍は毎回の更新の大きさを制御し（学習率が大きいほどステップ幅が大きい）、減法はパラメータを損失が減少する方向へ移動させる。

データ前処理：平均中心化

ニューラルネットワークをトレーニングする前に、通常データに対して「平均を引く」操作を行う：\( x_{norm} = x - \mu \)。これはベクトル減法であり——データの中心を原点に平行移動させ、勾配降下法の収束を速めるのに役立つ。