Novedades de investigación de vanguardia
La velocidad de avance en el campo de la IA a menudo es asombrosa; las nuevas ideas que ves hoy en artículos académicos pueden convertirse en funciones de productos que todos usan en seis meses.
Scaling Law, el modelo de mezcla de expertos MoE, las técnicas de contexto largo, la expansión computacional en tiempo de inferencia, la fusión multimodal, los Agentes de IA, el aprendizaje con pocas muestras y la IA para la ciencia (AI for Science) — estas direcciones que se exploran en los laboratorios definirán la forma de los productos de IA de la próxima década.
Este módulo no pretende explicar a fondo cada detalle técnico, sino ayudarte a construir un panorama general de la investigación de vanguardia: saber cuáles son las direcciones importantes, qué problema resuelve cada una, hasta dónde han avanzado y hacia dónde pueden ir en el futuro.
El valor de comprender la investigación de vanguardia no está en seguir la moda, sino enver la trayectoria de la evolución tecnológica y encontrar las leyes constantes en medio del cambio.。
Scaling Law (Ley de escala)
Scaling Law es el principio rector central del éxito de los grandes modelos en los últimos años: modelos más grandes, más datos y mayor potencia computacional generan un mejor rendimiento.
Qué es Scaling Law
En pocas palabras:Dentro de cierto rango, el rendimiento del modelo mejora de forma predecible a medida que aumentan el cómputo, los datos y los parámetros.。
Es como cultivar: dentro de un rango razonable, cuanto más fertilizante, más agua y más fértil sea la tierra, mejor será la cosecha.
Scaling Law fue formulada sistemáticamente por primera vez por OpenAI en el artículo de 2020 "Scaling Laws for Neural Language Models".
Descubrieron que, cuando se multiplican por N los parámetros del modelo, los datos y el cómputo, el valor de pérdida del modelo disminuye de manera logarítmica (log(N)) — es decir, aunque los beneficios marginales disminuyan, mientras se siga invirtiendo, el rendimiento seguirá mejorando.
Regla de entrenamiento óptimo de Chinchilla
En 2022, el artículo de DeepMind "Training Compute-Optimal Large Language Models" (es decir, el artículo de Chinchilla) trajo una corrección importante.
La práctica dominante anterior era: hacer el modelo lo más grande posible y luego entrenarlo con relativamente pocos datos.
El artículo de Chinchilla señaló:Los modelos anteriores eran demasiado grandes y tenían demasiado pocos datos.。
Propusieron que, dado un presupuesto computacional, la cantidad de parámetros del modelo y la cantidad de datos de entrenamiento deberían expandirse simultáneamente en una proporción determinada.
Específicamente: cuando el cómputo se duplica, la cantidad de parámetros del modelo debería aumentar aproximadamente 1.4 veces, y la cantidad de datos de entrenamiento también debería aumentar aproximadamente 1.4 veces.
| Modelo | Cantidad de parámetros | Cantidad de datos de entrenamiento | Fecha de publicación | Características |
|---|---|---|---|---|
| GPT-3 | 175B | 300B tokens | 2020 | Modelo grande, datos relativamente escasos |
| Chinchilla | 70B | 1.4T tokens | 2022 | Modelo un poco más pequeño, muchos más datos |
| LLaMA 2 | 70B | 2T tokens | 2023 | Siguiendo la idea de Chinchilla |
La influencia de Chinchilla es profunda: los modelos dominantes posteriores, de LLaMA a GPT-4, prestan más atención a la proporción de datos y ya no buscan únicamente parámetros ultragrandes.
Limitaciones y controversias de Scaling Law
Scaling Law no es una solución universal. Sus limitaciones se manifiestan en varios aspectos:
En primer lugar,rendimientos marginales decrecientes— duplicar el rendimiento puede requerir diez veces o incluso cien veces más inversión computacional.
En segundo lugar,la imprevisibilidad de la aparición de capacidades— algunas capacidades (como el razonamiento complejo) no aparecen en absoluto cuando el modelo es pequeño, pero emergen repentinamente a cierta escala; sin embargo, nadie puede predecir con precisión cuándo surgirá la próxima capacidad ni cuál será.
En tercer lugar,el cuello de botella de datos— la cantidad total de datos de texto de alta calidad es limitada; al ritmo de consumo actual, es posible que pronto se alcance el techo de datos.
La lección central de Scaling Law:La escala no lo es todo, pero sin escala no se puede hacer nada.Los modelos actuales aún se benefician de mayores escalas, pero los investigadores también están explorando nuevos caminos que "no se limitan a acumular escala".
Modelo de mezcla de expertos (MoE)
El modelo de mezcla de expertos (Mixture of Experts, MoE) es un diseño arquitectónico que permite agrandar el modelo sin aumentar significativamente el costo de inferencia.
Modelo denso vs. modelo disperso
Los grandes modelos tradicionales son "densos": cuando se introduce cada token, se utilizan todos los parámetros del modelo.
MoE es "disperso": cada token solo utiliza una pequeña parte de los parámetros del modelo (es decir, algunos "expertos"), mientras que los demás parámetros permanecen inactivos.
Es como ir al hospital:
Modelo denso: cuando vas al médico, todos los especialistas del hospital vienen a consultarte — aunque es exhaustivo, el costo es demasiado alto.
Modelo MoE: cuando vas al médico, la recepción te deriva a varios departamentos relevantes (por ejemplo, medicina interna + cardiología), y solo los médicos de esos departamentos te diagnostican — garantiza la profesionalidad y controla el costo.
| Característica | Modelo denso | MoE (modelo disperso) |
|---|---|---|
| Parámetros totales | Generalmente menor | Puede ser muy grande |
| Parámetros usados por token | Todos los parámetros | Una pequeña parte de los expertos |
| Costo de inferencia | Proporcional a la cantidad de parámetros | Relativamente controlable |
| Dificultad de entrenamiento | Relativamente simple | Requiere resolver problemas como el equilibrio de carga |
| Modelo representativo | GPT-3、LLaMA | Switch Transformer、Mixtral、GPT-4 |
Mecanismo de compuerta (Gating)
El núcleo de MoE esla red de compuerta (gating network)— que decide a qué expertos se debe enviar cada token para su procesamiento.
La entrada de la red de compuerta son las características del token actual, y la salida es el peso de cada experto.
El enfoque habitual es: seleccionar los K expertos con mayor peso (por ejemplo, K=2 o K=8), enviar el token solo a esos expertos y luego calcular la suma ponderada de sus salidas según los pesos.
La red de compuerta en sí es aprendible: durante el entrenamiento aprende gradualmente "qué tipo de contenido es adecuado para qué experto".
Algoritmo de enrutamiento de expertos
MoE tiene un desafío único:el equilibrio de carga。
Si la red de compuerta siempre asigna la mayoría de los tokens a unos pocos expertos, los demás expertos no reciben suficiente entrenamiento y se desperdicia la capacidad del modelo.
Los investigadores han propuesto varios algoritmos de enrutamiento para resolver este problema:
Uno es agregar una "pérdida de equilibrio de carga" a la función de pérdida de la red de compuerta para alentar que cada experto se utilice de manera uniforme.
Otro es adoptar estrategias de enrutamiento más complejas, como la "limitación de capacidad": cada experto tiene una capacidad máxima de procesamiento; cuando está lleno, el token se asigna al siguiente experto más adecuado.
Modelo representativo: Mixtral
A finales de 2023, Mixtral 8x7B, publicado por Mistral AI, llevó realmente a MoE a la corriente principal.
Mixtral tiene 8 expertos de 7B parámetros; cada token selecciona los Top-2 expertos, por lo que cada token usa efectivamente alrededor de 14B parámetros, pero el total de parámetros es de 47B.
El resultado es: la velocidad de inferencia y el costo de Mixtral son comparables a los de un modelo denso de 14B, pero su rendimiento se acerca al de un modelo de 70B.
Esta característica de “lograr grandes cosas con poco dinero” ha convertido a MoE en el foco de atención de la industria.
Desafíos de entrenamiento e inferencia
Aunque MoE es atractivo, también conlleva complejidades adicionales:
En el entrenamiento: es necesario manejar problemas como el equilibrio de carga de los expertos, la sobrecarga de comunicación (en entrenamiento distribuido entre múltiples máquinas) y el dropout de expertos.
En la inferencia: aunque cada token solo activa a unos pocos expertos, todo el modelo debe cargarse en la memoria de video, lo que plantea mayores requisitos de capacidad de memoria.
Sin embargo, los investigadores están utilizando técnicas como el paralelismo de modelos y la descarga dinámica de expertos para mitigar estos problemas.
Ejemplo
# Demostración conceptual del mecanismo de compuerta MoE simple
# Muestra cómo seleccionar el experto adecuado según la entrada
# ============================================
import random
from typing import List, Tuple
class Expert:
"""Un modelo de experto simple (demostración conceptual)"""
def __init__(self, expert_id: int, specialty: str):
self.expert_id = expert_id
self.specialty = specialty # Áreas de especialidad (p. ej., 'matemáticas', 'código', 'literatura')
# Parámetros que simulan al experto (en la práctica son los pesos de una red neuronal)
self.weights = [random.random() for _ in range(10)]
def forward(self, x: List[float]) -> float:
"""El experto procesa la entrada y produce una salida"""
# Simulación simple de suma ponderada (en la práctica es un cálculo de red neuronal)
return sum(x[i] * self.weights[i % 10] for i in range(len(x)))
class MoEGate:
"""Red de compuerta MoE: decide a qué expertos se asigna cada entrada"""
def __init__(self, num_experts: int, top_k: int = 2):
self.num_experts = num_experts
self.top_k = top_k
# Parámetros propios de la red de compuerta
self.gate_weights = [[random.random() for _ in range(10)]
for _ in range(num_experts)]
def compute_scores(self, x: List[float]) -> List[float]:
"""Calcula la puntuación de cada experto para la entrada actual"""
scores = []
for expert_weights in self.gate_weights:
score = sum(x[i] * expert_weights[i] for i in range(len(x)))
scores.append(score)
return scores
def select_experts(self, x: List[float]) -> List[Tuple[int, float]]:
"""Selecciona los Top-K expertos y devuelve una lista de (índice de experto, peso)"""
scores = self.compute_scores(x)
# Ordenar por puntuación de mayor a menor
scored_experts = [(i, score) for i, score in enumerate(scores)]
scored_experts.sort(key=lambda x: x[1], reverse=True)
# Seleccionar Top-K
top_experts = scored_experts[:self.top_k]
# Normalización softmax de los pesos Top-K (versión simplificada)
total = max(0.0001, sum(score for _, score in top_experts))
return [(idx, score / total) for idx, score in top_experts]
class SimpleMoE:
"""Un modelo de mezcla de expertos simplificado"""
def __init__(self, num_experts: int = 8, top_k: int = 2):
# Crear múltiples expertos
specialties = [Matemáticas, Código, Literatura, Historia,
Ciencia, Arte, Deporte, Filosofía]
self.experts = [Expert(i, specialties[i % len(specialties)])
for i in range(num_experts)]
# Crear la red de compuerta
self.gate = MoEGate(num_experts, top_k)
def forward(self, x: List[float]) -> float:
"""Propagación hacia adelante de MoE"""
# 1. La red de compuerta selecciona expertos
selected_experts = self.gate.select_experts(x)
print(fCaracterísticas de entrada: {[f'{v:.2f}' for v in x[:5]]}...)
print(fExpertos seleccionados:)
for idx, weight in selected_experts:
print(f- Experto {idx} ({self.experts[idx].specialty}), peso: {weight:.3f})
# 2. Los expertos seleccionados procesan la entrada
expert_outputs = []
for idx, weight in selected_experts:
output = self.experts[idx].forward(x)
expert_outputs.append((output, weight))
# 3. Combinación ponderada de las salidas de los expertos
final_output = sum(output * weight for output, weight in expert_outputs)
return final_output
# ============================================
# Demostrar el flujo de trabajo de MoE
# ============================================
# Crear un modelo MoE con 8 expertos y selección Top-2
moe = SimpleMoE(num_experts=8, top_k=2)
# Simular varias entradas de diferentes tipos (representadas con vectores aleatorios)
print("=" * 50)
print(Demostración conceptual de MoE de EJEMPLO)
print("=" * 50)
# Entrada 1: simula una entrada de tipo 'matemáticas'
input1 = [0.9, 0.8, 0.1, 0.1, 0.2, 0.1, 0.1, 0.1, 0.1, 0.1]
output1 = moe.forward(input1)
print(fSalida de MoE: {output1:.4f})
print()
# Entrada 2: simula una entrada de tipo 'código'
input2 = [0.1, 0.2, 0.9, 0.8, 0.1, 0.1, 0.1, 0.1, 0.1, 0.1]
output2 = moe.forward(input2)
print(fSalida de MoE: {output2:.4f})
print()
# Entrada 3: simula una entrada de tipo 'literatura'
input3 = [0.1, 0.1, 0.1, 0.1, 0.9, 0.8, 0.1, 0.1, 0.1, 0.1]
output3 = moe.forward(input3)
print(fSalida de MoE: {output3:.4f})
print()
print("=" * 50)
print(Sugerencia: en un MoE real, la red de compuerta, mediante el aprendizaje, gradualmente)
print(aprende qué tipo de entrada es adecuada asignar a cada experto.)
print("=" * 50)
La visión central de MoE:No todos los parámetros necesitan trabajar al mismo tiempoHacer que cada experto se centre en su especialidad y usar una red de compuerta para la programación permite ampliar la capacidad total y controlar el costo de inferencia.
Técnicas de contexto largo
El contexto del GPT-3 original era de solo 2K tokens (alrededor de 1500 caracteres chinos); los modelos actuales más populares ya alcanzan 8K, 32K, 128K e incluso 1M de tokens.
El contexto largo no consiste simplemente en “alargar la ventana”: requiere resolver una serie de desafíos técnicos.
El desafío central del contexto largo
El problema más directo esla complejidad computacional。
La complejidad del mecanismo de autoatención del Transformer es O(n²): si la longitud del contexto se duplica, el cálculo se cuadruplica.
Pasar la ventana de 2K a 128K aumenta el cálculo en 4096 veces, lo que es computacionalmente inviable.
El segundo desafío esla codificación posicional。
La codificación posicional sinusoidal o la codificación posicional aprendida que usaba el Transformer original tienen una capacidad de extrapolación deficiente cuando se supera la longitud de entrenamiento; es como si una persona solo hubiera entrenado en una pista de 100 metros y de repente le pidieran correr 1000 metros, se sentiría muy incómoda.
El tercer desafío esel efecto de memoria。
Incluso si técnicamente puede manejar textos largos, el modelo puede “olvidar lo que vio”: el contenido del medio es difícil de aprovechar eficazmente.
Métodos de extrapolación RoPE (YaRN / LongRoPE)
La codificación posicional rotatoria (Rotary Position Embedding, RoPE) es uno de los esquemas de codificación posicional más populares en la actualidad.
La idea central de RoPE es:codificar la información de posición como ángulos de rotación。
La ventaja de esto es que las relaciones de posición relativa se codifican de manera natural: si dos tokens están separados por k posiciones, sus ángulos de rotación difieren en k unidades.
Pero el RoPE original aún degrada su extrapolación cuando se supera la longitud de entrenamiento.
Los investigadores han propuesto mejoras:
YaRN(Yet Another RoPE Scaling): al ajustar finamente el factor de escala de RoPE, el modelo puede mantener un buen rendimiento incluso cuando se supera la longitud de entrenamiento.
LongRoPE—Un método propuesto por Meta que, mediante expansión progresiva y ajuste fino, amplía la ventana de contexto del modelo LLaMA 2 de 4K a 128K e incluso 256K.
La idea común de estas técnicas es:no reentrenar todo el modelo, solo ajustar parte de los parámetros de la codificación posicionaly así lograr una gran expansión de la ventana de contexto.
Atención dispersa (Sliding Window / Longformer)
Otra idea para resolver la complejidad O(n²) es:evitar que cada token preste atención a todos los demás tokens。
Atención de ventana deslizante (Sliding Window Attention)—cada token solo presta atención a los tokens dentro de una ventana fija a su alrededor (por ejemplo, 4096 antes y después).
Es como leer una novela: solo recuerdas el contenido de las últimas páginas, no repasas todo el libro con cada palabra leída.
Longformer—combina la atención de ventana deslizante y la atención global: algunos tokens especiales (como <[BOS_never_used_51bce0c785ca2f68081bfa7d91973934]>, marcadores de resumen) pueden atender a todos los tokens, mientras que otros solo atienden localmente.
De esta forma se pueden procesar textos largos sin perder la información global.
Modelo de espacio de estados: Mamba
A finales de 2023, la aparición de Mamba trajo un enfoque completamente nuevo.
Mamba pertenece a la categoría demodelos de espacio de estados (State Space Model, SSM)dentro de esta categoría, su complejidad es O(n): si la longitud del contexto se duplica, el cálculo solo se duplica.
La innovación central de Mamba esel espacio de estados selectivo—que permite al modelo decidir dinámicamente según la entrada qué información recordar y cuál ignorar.
Es como tomar notas: no anotas cada palabra, sino que registras selectivamente los puntos importantes.
Las ventajas de Mamba son:
1. Teóricamente puede manejar contextos de longitud infinita
2. Velocidad de inferencia rápida y bajo uso de memoria de video
3. Rendimiento excelente en tareas de secuencias largas
Sin embargo, Mamba también tiene limitaciones: actualmente es algo inferior al Transformer maduro en tareas de texto corto, y su ecosistema es relativamente incompleto.
| Enfoque técnico | Complejidad | Modelos representativos | Escenarios de aplicación |
|---|---|---|---|
| Transformer de atención completa | O(n²) | GPT-3、LLaMA | Textos de longitud corta a media |
| Extrapolación RoPE | O(n²) | Claude、GPT-4 | Textos de longitud media |
| Atención dispersa | O(n) o O(n log n) | Longformer、Mistral | Textos largos a nivel de documento |
| Modelo de espacio de estados | O(n) | Mamba、Hyena | Secuencias extremadamente largas (código, genomas, etc.) |
La dirección evolutiva de las tecnologías de contexto largo:encontrar el mejor equilibrio entre rendimiento, velocidad y memoriaDiferentes escenarios pueden requerir diferentes soluciones técnicas.
Expansión computacional en tiempo de inferencia
En los grandes modelos tradicionales, el entrenamiento y la inferencia están separados: el entrenamiento consume una gran cantidad de cómputo, mientras que la inferencia usa un cálculo hacia adelante fijo.
La idea de la expansión del cálculo en inferencia es:permitir que el modelo también pueda “pensar” más pasos durante la inferencia.Intercambiando cómputo adicional por mejores resultados.
La idea de o1 / DeepSeek-R1
En 2024, o1 de OpenAI y DeepSeek-R1 de DeepSeek representaron un avance importante en esta dirección.
El núcleo de estos modelos es:Hacer que el modelo realice primero una «cadena de pensamiento de razonamiento» y luego dé la respuesta final.。
En concreto:
1. Tras recibir el problema, el modelo no responde directamente, sino que primero genera una serie de «procesos de pensamiento» (visibles u ocultos para el usuario).
2. Durante el proceso de pensamiento, el modelo puede probar diferentes enfoques, corregir sus errores y descomponer problemas complejos.
3. Después de pensar lo suficiente, se da la respuesta final.
Esto es como resolver un problema de matemáticas: no escribes la respuesta directamente, sino que primero derivas paso a paso en un borrador y, después de confirmar que es correcta, organizas la respuesta.
Pensamiento lento vs. pensamiento rápido
Esta dirección hace eco de la «teoría de los dos sistemas» del psicólogo Kahneman:
Sistema 1 (pensamiento rápido)—Intuitivo, rápido, sin esfuerzo mental. Corresponde a una pasada hacia adelante de los modelos tradicionales.
Sistema 2 (pensamiento lento)—Analítico, lento, requiere esfuerzo. Corresponde al pensamiento de múltiples pasos durante el razonamiento.
Los grandes modelos anteriores eran principalmente «Sistema 1», mientras que modelos como o1 comenzaron a introducir la capacidad del «Sistema 2».
Cabe señalar que:El pensamiento lento requiere más tiempo y costo.—Una solicitud que piensa durante 10 segundos puede costar 10 veces más que una respuesta inmediata.
Muestreo Best-of-N
Otro método más simple de escalado en tiempo de inferencia es Best-of-N (también llamado Self-Consistency).
El método es muy directo:
1. Hacer que el modelo genere N respuestas diferentes al mismo problema.
2. Usar algún método para elegir la mejor (por ejemplo, votación por mayoría, autoevaluación del modelo, verificación externa).
Es como resolver preguntas de opción múltiple en un examen: no adivinas solo una vez, sino que pruebas múltiples enfoques y luego eliges la respuesta más consistente.
La ventaja de Best-of-N es que es simple, universal y casi no requiere entrenamiento adicional, pero la desventaja es el alto costo (hay que generar N veces).
Monte Carlo Tree Search in LLM
Otra dirección activa es tomar del aprendizaje por refuerzo elMonte Carlo Tree Search (MCTS)e introducirlo en los grandes modelos.
AlphaGo usó MCTS para lograr un rendimiento sobrehumano.
La idea de MCTS es:
1. Ver el problema como un «árbol de búsqueda»: cada nodo es un estado de pensamiento, cada arista es un paso de pensamiento.
2. Explorar diferentes caminos de pensamiento mediante múltiples simulaciones.
3. Según los resultados de la exploración, elegir el camino más prometedor.
Combinar MCTS con LLM es una dirección muy prometedora: puede aprovechar tanto el amplio conocimiento del LLM como la capacidad de planificación del MCTS.
| Método | Idea principal | Ventajas | Desventajas |
|---|---|---|---|
| Cadena de pensamiento (CoT) | Hacer que el modelo piense paso a paso | Simple y eficaz | Aumenta el consumo de tokens |
| Estilo o1 / R1 | Cadena de pensamiento profunda + aprendizaje por refuerzo | Fuerte capacidad de razonamiento | Entrenamiento complejo |
| Best-of-N | Elegir uno entre varios | Simple y universal | Alto costo |
| MCTS + LLM | Buscar el camino de pensamiento óptimo | Fuerte capacidad de planificación | Implementación compleja |
La compensación clave del escalado de cómputo en tiempo de inferencia:¿Cuánto tiempo y costo estás dispuesto a gastar para obtener una mejor respuesta?Diferentes escenarios (charla informal vs demostración matemática) pueden requerir configuraciones diferentes.
Últimos avances en grandes modelos multimodales
Desde GPT-4V hasta Gemini y luego GPT-4o, las capacidades multimodales están evolucionando rápidamente: los modelos actuales no solo pueden leer texto, sino también ver imágenes, comprender videos, escuchar audio e incluso generar contenido multimedia.
GPT-4o / Gemini 1.5 Pro
La nueva generación de modelos multimodales de 2024 tiene varias características destacadas:
Interacción más fluida—GPT-4o admite conversaciones por voz, puede comprender imágenes y videos en tiempo real, y la experiencia de interacción se acerca más a la de una persona real.
Comprensión de video más potente—Gemini 1.5 Pro puede procesar videos de hasta 1 hora y responder con precisión preguntas sobre el contenido del video.
Generación multimodal nativa—El modelo ya no es «mira primero, responde después», sino que puede procesar y generar simultáneamente contenido en múltiples modalidades.
Las capacidades de estos modelos suelen asombrar: dale un boceto dibujado a mano, puede ayudarte a escribir código para implementarlo; dale una foto de un problema de física, puede explicarlo paso a paso; dale un video, puede analizar las emociones de los personajes y el desarrollo de la trama.
Entrenamiento multimodal nativo
Los primeros modelos multimodales solían estar «ensamblados»: preentrenar un modelo de lenguaje, luego entrenar un codificador visual y finalmente unirlos.
La nueva generación de modelos se dirige hacia elentrenamiento multimodal nativo—Desde el comienzo del entrenamiento, se procesan simultáneamente múltiples modalidades como texto, imágenes, audio, etc.
Esto aporta varios beneficios:
1. Asociación intermodal más estrecha: el modelo puede comprender realmente «esta palabra corresponde a esta región de la imagen».
2. Interacción multiturno más natural: se pueden mostrar alternativamente texto e imágenes, formando un diálogo coherente.
3. Nuevas capacidades emergentes: por ejemplo, «contar historias a partir de imágenes», «identificar objetos por el sonido», etc.
Avances en comprensión de video
La comprensión de video es un área que ha avanzado rápidamente en el último año.
Los primeros métodos dividían el video en fotogramas independientes y codificaban cada uno por separado, lo que hace perder la continuidad temporal.
Los nuevos enfoques incluyen:
Atención temporal—Permitir que el modelo no solo se centre en el contenido espacial, sino que también rastree los cambios temporales.
Muestreo uniforme—Muestrear uniformemente fotogramas clave en videos largos, cubriendo el conjunto y controlando la cantidad de cálculo.
Tokenización de video—Tratar el video como un «lenguaje» y procesarlo de manera similar al texto.
Los modelos actuales ya pueden: comprender tutoriales complejos en video, analizar momentos clave de partidos deportivos e incluso aprender habilidades operativas a partir de videos.
| Modelo | Capacidades clave | Fecha de publicación |
|---|---|---|
| GPT-4V | Comprensión de imágenes | 2023 |
| Gemini 1.0 | Multimodal nativo | 2023 |
| Claude 3 | Razonamiento visual | 2024 |
| Gemini 1.5 Pro | Comprensión de video largo | 2024 |
| GPT-4o | Interacción multimodal en tiempo real | 2024 |
Direcciones futuras de la multimodalidad:De «poder ver y oír» a «comprender de verdad»El desafío de la siguiente etapa es el razonamiento físico, la comprensión causal y el pensamiento abstracto en el contexto multimodal.
Frontera de investigación en Agentes de IA
El objetivo del Agente de IA (agente inteligente) es hacer que la IA pueda «hacer cosas» como un humano: tener objetivos, planificar, ejecutar y reflexionar.
Modelo del mundo (World Model)
El modelo del mundo es un componente central del Agente: es el «modelo mental» que el Agente tiene del mundo.
En pocas palabras, el modelo del mundo permite al Agente responder:
«Si hago esto, ¿qué pasará después?»
Es como jugar al ajedrez: no mueves la pieza directamente, sino que primero simulas unos pasos en tu mente para predecir la reacción del oponente.
Las líneas de investigación del modelo del mundo incluyen:
Modelo del mundo preentrenado—Preentrenar con grandes cantidades de datos de interacción para que el Agente tenga conocimiento físico de sentido común.
Planificación imaginativa—Permitir que el Agente pruebe múltiples opciones en la «imaginación» y elija la mejor.
Comprensión causal—Permitir que el Agente no solo sepa «qué ha pasado», sino que también comprenda «por qué ha pasado».
Inteligencia incorporada (Embodied AI)
La IA encarnada se centra en:IA que tiene un «cuerpo» en el mundo físico o en un mundo virtual。
Por ejemplo:
—Robots que agarran objetos y navegan en el mundo real.
—IA que construye estructuras complejas en Minecraft.
—Humanos digitales que interactúan con el entorno en entornos virtuales.
El desafío de la IA encarnada es que el mundo físico es continuo, impredecible y ruidoso, lo cual es muy diferente del mundo discreto del texto.
Pero es precisamente este «sentido de realidad» lo que convierte a la IA encarnada en una vía importante para aprender el sentido común.
La importancia de la capacidad de ejecución de código
Una capacidad clave de los Agentes modernos es:Saber escribir código y saber ejecutarlo。
El código es la «herramienta universal» del Agente:
—Cuando se necesita calcular, escribir un fragmento de código Python.
—Cuando se necesita análisis de datos, escribir SQL o Pandas.
—Cuando se necesita automatizar tareas, escribir scripts que llamen a varias APIs.
—Cuando se necesita razonamiento complejo, escribir código para implementar algoritmos.
La capacidad de ejecución de código es esencialmente una forma de «extensibilidad»: permite al Agente crear nuevas herramientas según sea necesario, sin limitarse a las capacidades predefinidas.
Esta es también la razón por la que modelos como Claude y GPT-4 dedican grandes esfuerzos a reforzar la capacidad de código.
El desafío central de los Agentes de IA:Cómo convertir el "conocimiento" de los grandes modelos en "acciones" en el mundo real. Esto requiere capacidad de planificación, capacidad de uso de herramientas y capacidad de aprender del ensayo y error.
Aprendizaje con pocas muestras y aprendizaje de cero muestras
El aprendizaje automático tradicional necesita grandes cantidades de datos etiquetados para aprender bien una tarea.
El cambio de paradigma que traen los grandes modelos es:Con solo dar algunos ejemplos, o incluso solo instrucciones, el modelo puede aprender una nueva tarea.。
El principio del aprendizaje en contexto (In-Context Learning)
El aprendizaje en contexto (In-Context Learning) es una de las capacidades más sorprendentes de los grandes modelos.
En pocas palabras: no necesitas modificar los parámetros del modelo; solo tienes que dar algunos ejemplos en la entrada, y el modelo puede aprender una nueva tarea.
Por ejemplo:
Entrada:
Manzana → Fruta
Zanahoria → Verdura
Plátano → ?
El modelo puede entender automáticamente la regla y generar "Fruta".
Pero, ¿cómo funciona realmente el aprendizaje en contexto?
Los investigadores han propuesto varias explicaciones:
Descenso de gradiente implícito—los ejemplos de contexto equivalen a hacer una especie de "actualización de gradiente", pero solo surten efecto durante la inferencia.
Recuperación de tareas—el modelo recupera tareas similares de los datos de entrenamiento y reutiliza la solución de esa tarea.
Inferencia bayesiana—el modelo, basándose en los ejemplos, realiza una actualización bayesiana en el espacio de hipótesis posibles.
Aún no hay una respuesta completamente consensuada, pero hay algo seguro:El modelo aprendió "cómo aprender" durante el preentrenamiento.。
El impacto del ajuste por instrucciones (Instruction Tuning)
El ajuste por instrucciones (Instruction Tuning) es una tecnología clave para que los modelos sigan mejor las instrucciones humanas.
El método es simple: recopilar muchos pares "instrucción-tarea" y usarlos para ajustar el modelo.
Por ejemplo:
Instrucción: Traduce la siguiente frase al francés
Entrada: Hello, how are you?
Salida: Bonjour, comment ça va?
Después del ajuste por instrucciones, el modelo será más "obediente": es más probable que haga lo que pide la instrucción, en lugar de generar cualquier cosa.
Más importante aún, el ajuste por instrucciones aportacapacidad de generalización—el modelo se desempeña bien en tareas ya vistas, y también puede desempeñarse bien en tareas completamente nuevas.
Es como un buen estudiante: no memoriza mecánicamente, sino que aprende "cómo entender y ejecutar instrucciones".
| Paradigma de aprendizaje | Datos necesarios | Métodos representativos | Escenarios de aplicación |
|---|---|---|---|
| Aprendizaje supervisado tradicional | Grandes cantidades de datos etiquetados | Ajuste de todo el modelo | Tareas de alto valor con datos suficientes |
| Aprendizaje con pocas muestras (Few-shot) | Algunos ejemplos | In-Context Learning | Prueba rápida de nuevas tareas |
| Aprendizaje con cero muestras (Zero-shot) | Solo instrucciones | Instruction Tuning | Tareas simples y de bajo riesgo |
| Cadena de pensamiento (CoT) | Ejemplos con pasos de razonamiento | Indicaciones paso a paso | Tareas de razonamiento complejo |
El valor central del aprendizaje con pocas muestras:reducir la barrera de entrada para aplicar la IA. Ahora no necesitas ser un experto en aprendizaje automático ni recopilar grandes cantidades de datos; solo necesitas saber escribir indicaciones para que la IA te ayude a hacer las cosas.
IA y descubrimiento científico
La IA no solo está cambiando nuestra vida, sino también la investigación científica en sí misma: desde la estructura de las proteínas hasta los teoremas matemáticos, desde el descubrimiento de fármacos hasta el diseño de materiales, la IA se está convirtiendo en un poderoso asistente para los científicos.
El significado de AlphaFold
En 2020, AlphaFold fue un hito: resolvió el "problema del plegamiento de proteínas" que había desafiado a la biología durante 50 años.
En pocas palabras, una proteína es una cadena de aminoácidos, pero se pliega en una estructura 3D compleja, y esa estructura determina su función.
Antes, resolver la estructura de una proteína podía llevar varios años y mucho presupuesto experimental.
Ahora, AlphaFold puede predecir la estructura 3D precisa en unos minutos.
El impacto de AlphaFold es profundo:
—ayuda a comprender los mecanismos de las enfermedades.
—acelera el desarrollo de fármacos.
—diseña proteínas completamente nuevas.
Más importante aún, AlphaFold demuestra que:la IA puede hacer contribuciones sustanciales en la frontera del conocimiento humano.。
AI for Mathematics
La investigación matemática se considera la cima de la inteligencia humana, pero la IA también está comenzando a destacar en este campo.
Los avances recientes incluyen:
Asistentes de demostración de teoremas—asistentes de demostración como Lean, Isabelle, combinados con grandes modelos, pueden ayudar a los matemáticos a formalizar demostraciones.
Descubrimiento de conjeturas—la IA puede encontrar patrones en objetos matemáticos y proponer nuevas conjeturas.
Razonamiento simbólico—la IA puede realizar operaciones simbólicas, simplificaciones y derivaciones.
Por ejemplo, AlphaTensor de DeepMind descubrió algoritmos más eficientes para la multiplicación de matrices; la IA de Meta ayudó a los matemáticos a hacer nuevos descubrimientos en el campo de la topología.
Hoy en día, la IA aún no puede realizar investigación matemática de forma independiente, pero ya puede convertirse en un "socio colaborador" para los matemáticos.
Drug Discovery
El desarrollo de fármacos es un proceso largo y costoso: en promedio, se necesitan 10 años y 1.000 millones de dólares.
La IA está cambiando esta situación:
Descubrimiento de dianas terapéuticas—la IA analiza datos biológicos para encontrar dianas proteicas relacionadas con enfermedades.
Generación de moléculas—la IA genera nuevas moléculas candidatas y predice sus propiedades.
Predicción de ADMET—la IA predice la absorción, el metabolismo, la toxicidad, etc. de los fármacos.
Diseño de rutas de síntesis—la IA diseña la ruta óptima para la síntesis orgánica.
Varias empresas de fármacos con IA ya han entrado en fase de ensayos clínicos; aunque todavía no hay ningún fármaco descubierto por IA en el mercado, el potencial de esta dirección es enorme.
| Campo científico | Aplicaciones de la IA | Resultados representativos |
|---|---|---|
| Biología estructural | Predicción de estructuras de proteínas | AlphaFold、RoseTTAFold |
| Matemáticas | Demostración de teoremas, descubrimiento de conjeturas | AlphaTensor、Lean AI |
| Química | Generación de moléculas, predicción de reacciones | AlphaFold for ligands |
| Desarrollo de fármacos | Descubrimiento de dianas, diseño de candidatos | Varias empresas en fase clínica |
| Ciencia de materiales | Diseño de nuevos materiales | Materiales para baterías, catalizadores |
Otras extensionesLa idea central de la IA aplicada al descubrimiento científico:La investigación científica es, en esencia, "buscar en un enorme espacio de posibilidades"—y lo que la IA hace bien es precisamente encontrar patrones en grandes volúmenes de datos y espacios de alta dimensión.