Conceptos relacionados con grandes modelos

Al comenzar con el desarrollo de grandes modelos (LLM), te encuentras con una avalancha de nuevos términos: Token, RAG, Embedding, Agent... Parecen independientes entre sí, pero en realidad forman una cadena técnica completa.

Este artículo conecta estos conceptos en el orden de "qué es un modelo → cómo se entrena → cómo se usa → cómo se optimiza", ayudando a los desarrolladores principiantes a establecer un marco de conocimiento claro.

Este artículo no es solo una "explicación de términos", sino que también demuestra cómo se implementan estos conceptos con código Python real y ejecutable.

Todos los ejemplos se basan en el protocolo compatible con OpenAI; se pueden cambiar a proveedores como Bailian de Alibaba Cloud, DeepSeek, etc., solo modificando la dirección de la interfaz y la clave.

Referencia de Python OpenAI:https://www.example.com/python3/python-openai.html

Cadena técnica general

Antes de desglosar cada concepto, echemos un vistazo a la cadena completa de la tecnología de grandes modelos para establecer una comprensión general.

De arriba a abajo, cada capa resuelve un tipo de problema central: el entrenamiento crea el modelo, la optimización lo hace más ligero, la conducción lo hace producir resultados, la recuperación aporta conocimiento y las herramientas le permiten ejecutar acciones.

A continuación, seguiremos esta cadena, desglosándola capa por capa de arriba a abajo.

Conceptos básicos: ¿Qué es un modelo?

Esta sección responde la pregunta más fundamental: ¿qué es exactamente un gran modelo y cómo funciona?

LLM (Gran Modelo de Lenguaje)

LLM significa Large Language Model (Gran Modelo de Lenguaje); es un modelo de aprendizaje profundo entrenado con una enorme cantidad de texto.

Su esencia es un modelo probabilístico de "predicción de la siguiente palabra": dada la información anterior, predice el contenido más probable que sigue.

Productos como ChatGPT, Claude y Tongyi Qianwen se basan en LLM en su núcleo.

Transformer y mecanismo de atención

Casi todos los LLM modernos se basan en la arquitectura Transformer.

Su innovación central es elmecanismo de atención (Attention / Self-Attention): cuando el modelo procesa una palabra, puede "prestar atención" dinámicamente a otras palabras relevantes en la secuencia de entrada, comprendiendo así mejor las relaciones contextuales.

Por ejemplo, cuando el modelo lee una oración, no la escanea rígidamente palabra por palabra, sino que automáticamente determina "con qué palabra anterior tiene mayor relación esta palabra".

Token (unidad de texto)

El modelo no procesa el texto por "caracteres" o "palabras", sino por Tokens.

Un Token puede ser un carácter chino, una palabra en inglés, o incluso parte de una palabra.

Comprender los Tokens tiene dos implicaciones prácticas directas:

El límite de longitud de contexto del modelo se calcula por Tokens; la facturación de las llamadas API también se calcula por Tokens.

Usando la biblioteca de tokenización de código abierto de OpenAI, tiktoken, se puede ver directamente en cuántos Tokens se divide un texto:

Resultado de salida:

Token 数量：2
切分结果：['Hello', ' world']

Si cambias a chino o palabras más largas, la forma de dividir será completamente diferente, por lo que "estimar Tokens por número de caracteres" no es preciso.

Ventana de contexto (Context Window)

Se refiere a la cantidad máxima de Tokens que el modelo puede "ver" y procesar de una vez.

Por ejemplo, si la ventana de contexto es 100K, significa que una conversación (mensajes históricos, tu pregunta y la respuesta del modelo juntas) no puede superar los 100,000 Tokens.

Cuanto más grande es la ventana, más contenido puede "recordar" el modelo y más largos son los documentos que puede procesar de una sola vez.

Cantidad de parámetros (Parameters)

La cantidad de parámetros se refiere al número de pesos aprendibles dentro del modelo, generalmente expresada en B (mil millones, Billion), como 7B, 70B.

Hasta cierto punto, refleja la escala del modelo y su límite de capacidad, pero no es el único indicador: la calidad de los datos de entrenamiento y el diseño de la arquitectura son igualmente importantes.

Cómo se entrena un modelo

Un LLM capaz de conversar naturalmente normalmente pasa por múltiples etapas de entrenamiento, acumulando capacidades capa por capa.

Preentrenamiento (Pre-training)

El modelo aprende patrones estadísticos del lenguaje a partir de grandes cantidades de texto sin etiquetar (páginas web, libros, código, etc.), como gramática, conocimiento general y relaciones lógicas.

Esta etapa consume la mayor cantidad de cómputo y es la base de las capacidades del modelo.

Pero en este punto, el modelo aún no es bueno para "seguir instrucciones"; se parece más a una persona que ha leído mucho pero no sabe cómo comunicarse.

SFT (Ajuste fino supervisado)

SFT significa Supervised Fine-Tuning (Ajuste fino supervisado).

Utilizando datos de pares "pregunta-respuesta" etiquetados manualmente, se enseña al modelo a responder siguiendo instrucciones humanas, en lugar de continuar escribiendo texto por su cuenta.

RLHF (Aprendizaje por refuerzo con retroalimentación humana)

RLHF significa Reinforcement Learning from Human Feedback (Aprendizaje por refuerzo con retroalimentación humana).

Consiste en que los humanos puntúen u ordenen varias respuestas candidatas del modelo, y luego usar esa retroalimentación para entrenar al modelo, haciendo que sus salidas sean más acordes con las preferencias humanas (más útiles, más honestas, más seguras).

Una tecnología similar es RLAIF: utilizar IA en lugar de humanos para puntuar, reduciendo así los costos de etiquetado.

Ambos tienen el mismo objetivo; la única diferencia es si quien puntúa es una persona real u otra IA.

Alineación (Alignment)

La alineación es un concepto más amplio: hacer que el comportamiento y los valores del modelo se correspondan con las expectativas e intenciones humanas.

Es un tema central en el campo de la seguridad de la IA, presente en todas las etapas de entrenamiento como SFT y RLHF; tanto SFT como RLHF son, en esencia, "métodos de alineación".

Ajuste fino (Fine-tuning)

Sobre la base de un modelo general ya entrenado, se continúa entrenando con datos de un dominio específico (como derecho, medicina, atención al cliente).

En comparación con el preentrenamiento desde cero, el ajuste fino es mucho más económico; es una práctica común para adaptar modelos generales a escenarios profesionales.

MoE (Modelo de mezcla de expertos)

MoE significa Mixture of Experts (Mezcla de Expertos); es un diseño de arquitectura de modelo.

El modelo contiene múltiples subredes "expertas" internamente; al procesar cada entrada, solo se activa una parte de ellas, en lugar de hacer que todos los parámetros participen en el cálculo.

Esto permite ampliar la escala total del modelo mientras se controla la cantidad real de cálculo, logrando "muchos parámetros, inferencia rápida".

Cómo usan los desarrolladores los grandes modelos

Esta es la parte a la que los desarrolladores principiantes deben prestar más atención: cómo hacer que un modelo grande sirva a tu aplicación a través de la API.

En esta sección primero daremos un ejemplo de llamada de conversación básico y directamente ejecutable, y luego desarrollaremos los conceptos.

La llamada de conversación API más básica

El siguiente código demuestra una solicitud de conversación completa, y utiliza tres conceptos a la vez: System Prompt, mensaje de usuario y temperatura.

Resultado de salida:

回答：ejemplo（Ejemplo）是一个提供编程教程的中文学习网站……
输入 Token 数：33
输出 Token 数：18

El campo usage en la estructura devuelta es la materialización del concepto de Token mencionado antes: te indica cuántos Tokens consumió esta llamada y es la base para la facturación.

Prompt (mensaje de instrucción)

El Prompt es la instrucción o pregunta que envías al modelo y determina directamente la calidad de la salida del modelo.

La técnica que estudia cómo escribir Prompts más claros y efectivos se llamaIngeniería de Prompts (Prompt Engineering)。

Las técnicas habituales incluyen: dar ejemplos concretos, pedir razonamiento paso a paso, especificar el formato de salida, etc.

System Prompt (mensaje de sistema)

Instrucciones dadas al modelo antes de la entrada formal del usuario, para definir el rol, las reglas de comportamiento y los conocimientos previos del modelo.

La frase «Eres un asistente profesional de programación en Python y solo respondes preguntas relacionadas con tecnología» del ejemplo anterior es un System Prompt típico.

Diferencia entre System Prompt y mensaje de usuario: el System Prompt define «cómo debe actuar el modelo», mientras que el mensaje de usuario plantea «qué se debe hacer concretamente».

Poner las reglas generales en el System Prompt permite mantener un estilo coherente en las respuestas de conversaciones de varios turnos.

Temperature (temperatura)

La temperatura es un parámetro que controla la aleatoriedad de la salida del modelo; generalmente toma valores entre 0 y 2.

Cuanto mayor es la temperatura, más «creativa» y aleatoria es la respuesta, pero también es más propensa a errores; cuanto menor es la temperatura, más conservadora y estable es la respuesta.

Aprendizaje contextual (In-Context Learning)

No requiere ningún ajuste fino del modelo; basta con proporcionar algunos ejemplos en el Prompt y el modelo puede realizar nuevas tareas similares «imitando el modelo».

Esta es una de las técnicas más utilizadas en Prompt Engineering; también se llama Few-shot Learning (aprendizaje con pocos ejemplos).

Cadena de pensamiento (Chain-of-Thought, CoT)

Guía al modelo para descomponer problemas complejos en un proceso de razonamiento paso a paso y luego dar la respuesta final, en lugar de saltar directamente a la conclusión.

La práctica ha demostrado que este método puede mejorar significativamente la precisión del modelo en tareas complejas como matemáticas y razonamiento lógico.

La forma más sencilla es añadir en el Prompt la frase «por favor, piensa paso a paso».

Alucinación (Hallucination)

La alucinación se refiere a contenido que el modelo genera y que parece razonable y fluido, pero que en realidad es erróneo o inventado.

Este es un defecto común en los LLM actuales, porque el modelo esencialmente «continúa el texto más probable» en lugar de «verificar hechos».

Una de las formas clave de mitigar la alucinación es el RAG que se explica más adelante: primero recuperar información real y luego hacer que el modelo responda basándose en ella.

Conectando el modelo con el mundo exterior

Un LLM por sí solo solo puede responder basándose en los conocimientos aprendidos durante el entrenamiento; no conoce la información más reciente ni puede actuar de forma proactiva.

Las técnicas de esta sección son la clave para resolver estas dos limitaciones.

Embedding (incrustación)

El Embedding convierte texto, imágenes y otros contenidos en una secuencia de números (vectores).

Tras la conversión, la computadora puede calcular la distancia entre vectores para determinar si dos contenidos son similares a nivel «semántico».

Esta es la base subyacente de aplicaciones como búsqueda, recomendación y RAG.

Base de datos vectorial

Una base de datos vectorial se especializa en almacenar y recuperar vectores de Embedding, por ejemplo Pinecone, Milvus, Chroma.

Puede encontrar rápidamente, entre enormes cantidades de vectores, el contenido más similar a la consulta a nivel semántico; es un componente imprescindible para construir un sistema RAG.

RAG (Generación aumentada por recuperación)

RAG significa Retrieval-Augmented Generation.

Su flujo de trabajo es: primero convertir el conocimiento externo en vectores y almacenarlos en una base de datos vectorial; cuando el usuario pregunta, se recupera el contenido más relevante; luego se entregan los resultados recuperados junto con la pregunta al modelo para generar la respuesta.

RAG puede mitigar eficazmente la alucinación y permitir que el modelo responda sobre nuevos conocimientos fuera de los datos de entrenamiento.

A continuación se muestra un ejemplo mínimo de RAG que no depende de una base de datos vectorial externa, implementado con OpenAI Embedding y numpy, para facilitar la comprensión del principio:

Resultado de salida:

检索到的资料：ejemplo 是一个提供编程教程的中文学习网站。
回答：ejemplo（Ejemplo）是一个提供编程教程的中文学习网站。

En proyectos reales, solo hay que reemplazar «calcular la similitud en memoria» del tercer paso por «llamar a una base de datos vectorial para la recuperación»; el flujo es exactamente el mismo.

Function Calling (llamada a funciones)

Function Calling permite que el modelo grande invoque herramientas o APIs externas para completar tareas, como consultar el clima en tiempo real, realizar cálculos matemáticos, consultar bases de datos o enviar correos electrónicos.

Compensa la limitación del modelo de «solo generar texto, no ejecutar acciones»; es un paso clave en la evolución de los modelos grandes de chatbots a herramientas prácticas.

Su funcionamiento consta de dos interacciones: en la primera, el modelo decide qué función llamar y qué parámetros pasar; después de que tu código ejecute realmente la función, en la segunda se devuelve el resultado para que el modelo genere una respuesta en lenguaje natural.

Resultado de salida:

工具执行结果：杭州 今天晴，气温 28°C
最终回答：杭州今天是晴天，气温大约 28°C，适合外出活动。

MCP (Protocolo de Contexto de Modelo)

MCP significa Model Context Protocol, es un protocolo abierto que permite a los grandes modelos conectarse de forma estandarizada con herramientas externas y fuentes de datos.

Se puede comparar con el "interfaz USB del campo de la IA": diferentes herramientas y fuentes de datos, siempre que sigan este protocolo, pueden ser invocadas de manera unificada por diversos grandes modelos que soporten MCP.

Resuelve el problema de la era de Function Calling de "tener que repetir la integración cada vez que se conecta una herramienta", reduciendo el trabajo de desarrollo.

Agent (agente inteligente)

Un Agent es un sistema construido sobre grandes modelos que puede planificar tareas de forma autónoma, invocar herramientas y ejecutar operaciones de múltiples pasos.

En comparación con el diálogo de pregunta y respuesta, un Agent se parece más a un "empleado digital" capaz de completar tareas complejas de forma independiente, por ejemplo, ejecutar automáticamente todo el flujo de "investigar información → escribir código → probar → corregir errores".

El ciclo central del que depende es ReAct (Reason + Act): pensar el siguiente paso, invocar herramientas, observar los resultados y volver a pensar, hasta que la tarea se complete.

Multimodal (multimodales)

Multimodal significa que el modelo puede comprender y/o generar simultáneamente múltiples tipos de datos, no limitándose al texto, sino también a imágenes, audio y video.

Ahora muchos grandes modelos convencionales ya tienen capacidades multimodales como leer imágenes o analizar gráficos.

Haciendo que el modelo funcione más rápido y con menos recursos

Cuanto más potente es el modelo, a menudo significa mayor tamaño y mayor costo de ejecución.

Los dos conceptos siguientes están orientados a hacer que el modelo sea más ligero y eficiente en el despliegue real.

Cuantización (Quantization)

La cuantización comprime los parámetros del modelo desde alta precisión (por ejemplo, números de punto flotante de 32 bits) hasta baja precisión (por ejemplo, enteros de 8 o 4 bits).

Puede reducir significativamente la memoria de video que ocupa el modelo y mejorar la velocidad de inferencia; el costo es cierta pérdida de precisión, pero en muchos escenarios es aceptable.

Destilación de modelos (Model Distillation)

La destilación utiliza la salida de un "modelo profesor" potente pero grande para entrenar un "modelo estudiante" más pequeño.

El objetivo es que el modelo pequeño aprenda en la medida de lo posible las capacidades del modelo grande; el modelo destilado es más pequeño, infiere más rápido y el costo de despliegue es menor.

Ruta de aprendizaje para principiantes

Para los desarrolladores principiantes, no es necesario dominar todos los conceptos de una sola vez.

Se recomienda seguir el orden de abajo de forma progresiva, lo que facilita construir un sistema completo en comparación con memorizar conceptos de manera dispersa.

No es necesario memorizar de memoria la definición de cada concepto; ejecutar los ejemplos de código de este artículo hará que la comprensión sea mucho más profunda.

Tabla de referencia rápida de términos clave

Resume los términos clave que aparecen en todo el artículo en una tabla, agrupados por "etapa correspondiente", para consultarlos y repasarlos en cualquier momento.