Espacio vectorial y base -- Cambia el sistema de coordenadas para ver el mundo
La misma ubicación tiene diferentes valores de latitud y longitud en el sistema de coordenadas GPS y en el sistema BeiDou — pero la ubicación en sí no cambia.
Lo mismo ocurre con los vectores:El mismo vector tiene diferentes coordenadas en diferentes bases.Comprender esto es comprender la esencia de la reducción de dimensionalidad con PCA y del espacio de incrustación de palabras.
Espacio vectorial
Un espacio vectorial = un conjunto cuyos elementos (vectores) son cerrados bajo la suma y la multiplicación por un escalar.
Cerrado = la suma de dos vectores cualesquiera del espacio, o la multiplicación de cualquier vector por un escalar, da como resultado un vector que sigue estando en el espacio.
Base: la regla de coordenadas que describe el espacio
Una base es un conjunto de vectores cuyas combinaciones lineales pueden representar de manera única cualquier vector del espacio.
Base estándar: (1,0,0), (0,1,0), (0,0,1) — representan las direcciones de los ejes x, y, z, respectivamente.
Independencia lineal: sin redundancia
Un conjunto de vectores es linealmente independiente = ninguno de sus vectores puede expresarse como combinación lineal de los demás.
Intuición: cada vector aporta una verdadera «nueva dirección», sin desperdicio.
Independencia lineal
{(1,0), (0,1)}
Cada vector aporta una nueva dirección
Rango = 2 (rango completo)
Dependencia lineal
{(1,2), (2,4)}
El segundo vector = el primero × 2
Rango = 1 (redundante)
Una base debe cumplir dos condiciones: independencia lineal (sin redundancia) + que genere todo el espacio (que pueda representar todos los vectores).
Una base de un espacio n-dimensional contiene exactamente n vectores.
Ejemplos de la vida cotidiana
Cambio de sistema de coordenadas
La posición de Beijing es (x₁, y₁) en el sistema de coordenadas Beijing 54, y (x₂, y₂) en el sistema WGS-84.
La posición en sí no cambia, pero si la «regla» (base) que la describe es diferente, los números de las coordenadas son diferentes.
Espacio de incrustación de palabras
El modelo de incrustación de palabras mapea cada palabra a un vector en un espacio de 300 dimensiones. Cada dimensión de este espacio corresponde a una dirección semántica implícita.
«Rey - hombre + mujer ≈ reina» — estas operaciones vectoriales ocurren todas en este espacio vectorial de 300 dimensiones.
Definición matemática
\( \{\mathbf{v}_1, \dots, \mathbf{v}_n\} \) es una base = son linealmente independientes + span{\(\mathbf{v}_1,\dots,\mathbf{v}_n\)} = todo el espacio.
Combinación lineal: \( c_1\mathbf{v}_1 + \cdots + c_n\mathbf{v}_n = \mathbf{0} \) tiene solo la solución trivial → independencia lineal.
Práctica con Python
Ejemplo
# Base estándar
e1, e2, e3 = np.array([1,0,0]), np.array([0,1,0]), np.array([0,0,1])
v = np.array([4, 5, 6])
print("v = 4*e1 + 5*e2 + 6*e3:", 4*e1 + 5*e2 + 6*e3)
# Usar el rango para determinar la independencia lineal
v1, v2 = np.array([1,2]), np.array([2,4]) # v2 = 2*v1
M = np.column_stack([v1, v2])
print(f"Rango de {{v1, v2}}: {np.linalg.matrix_rank(M)} (< 2 → dependencia lineal)")
# Cambio de base: el mismo vector tiene diferentes coordenadas en diferentes bases
v_std = np.array([3.0, 2.0])
B_new = np.array([[2.0, 0], [0, 3.0]]) # Nueva base
v_new = np.linalg.inv(B_new) @ v_std
print(f"Coordenadas estándar: {v_std}, coordenadas en la nueva base: {v_new}")
print(f"Verificar B @ nuevas coordenadas = {B_new @ v_new}")
v = 4*e1 + 5*e2 + 6*e3: [4 5 6]
{v1, v2} 的秩: 1 (< 2 → 线性相关)
标准坐标: [3. 2.], 新基下坐标: [1.5 0.67]
验证 B @ 新坐标 = [3. 2.]
Escenarios de aplicación en IA
Reducción de dimensionalidad con PCA = cambio de base
PCA encuentra un nuevo conjunto de bases ortonormales (direcciones de componentes principales) que maximiza la varianza de los datos en las primeras k coordenadas de la nueva base. Reducción de dimensionalidad = conservar solo las primeras k coordenadas de la nueva base y descartar las direcciones de varianza pequeña. Esto es esencialmente una transformación del sistema de coordenadas: pasar de un espacio de píxeles de 784 dimensiones a un espacio de componentes principales de 50 dimensiones.
Espacio de incrustación de palabras (word embedding)
Word2Vec y GloVe mapean cada palabra a un punto en un espacio vectorial de 300 dimensiones. Este espacio no se construye arbitrariamente: las relaciones geométricas entre palabras reflejan relaciones semánticas. Los sinónimos están cerca, los antónimos son opuestos en ciertas direcciones. Las operaciones lineales (suma y resta) en el espacio vectorial corresponden a operaciones semánticas.
Transformación del espacio de características
Cada capa de una red neuronal puede verse como un mapeo de la entrada a un nuevo espacio vectorial. Los datos que no son linealmente separables en el espacio original (como el problema XOR), después de ser transformados por capas ocultas al espacio de características, se vuelven linealmente separables. Esta es la intuición central del aprendizaje profundo: transformaciones capa por capa, y finalmente, en el espacio de características, se pueden separar con un clasificador simple.
Otras extensiones