Arquitectura subyacente de IA

La siguiente figura muestra la arquitectura completa del sistema de IA, desde el modelo base hasta las aplicaciones de agente:

Nivel Componente principal Función principal Capacidad típica
Capa base (modelo) LLM y Token, arquitectura Transformer, tokenización, mecanismo de atención Núcleo computacional subyacente de la IA; responsable de la comprensión de texto, predicción de tokens y generación de lenguaje Comprensión del lenguaje natural, generación de texto, modelado de contexto, predicción de probabilidades
Capa de contexto (memoria) Context Window、Prompt、Memory、RAG Gestiona el contexto de entrada del modelo; responsable de la memoria a corto plazo, la memoria a largo plazo y la inyección de conocimiento externo Control de prompts, memoria de conversación, recuperación de conocimiento, mejora del contexto
Capa de extensión de capacidades (herramientas) MCP、Tool Calling、API、Database Hace que la IA no se limite a chatear; amplía las capacidades de operación en el mundo real mediante llamadas a herramientas Búsqueda web, ejecución de código, consultas a bases de datos, llamadas a API
Capa de agente (decisión) Agent、Explore、Plan、Act Cerebro de decisión autónoma de la IA; responsable de la comprensión de objetivos, descomposición de tareas, planificación y ejecución en bucle cerrado Planificación de tareas, razonamiento de múltiples pasos, toma de decisiones autónoma, ejecución en bucle cerrado
Capa de aplicación (acción) Agent Skill、Workflow、Automation Orientada a escenarios de negocio específicos; encapsula las capacidades del Agente en productos implementables Flujos de trabajo automatizados, asistentes de IA por industria, sistemas inteligentes empresariales, aplicaciones de IA SaaS

Definición de términos clave

  • Transformer: Arquitectura principal de los grandes modelos actuales; establece relaciones entre tokens mediante el mecanismo de autoatención.
  • Token: La unidad más pequeña de procesamiento de texto en el modelo; puede ser una subpalabra, palabra, carácter o símbolo.
  • Prompt: La instrucción de entrada dada al modelo para establecer el rol, controlar el comportamiento, estandarizar el formato de salida y los objetivos.
  • RAG: Generación aumentada por recuperación (RAG); primero recupera de una base de conocimiento profesional externa y luego el LLM integra y genera una respuesta precisa.
  • MCP: Protocolo de Contexto de Modelo (Model Context Protocol, MCP); unifica el estándar de comunicación entre la IA y herramientas, bases de datos y servicios externos.
  • Agent: Sobre la base del LLM, se superponeobjetivo + planificación + ejecuciónSistema inteligente autónomo con estas capacidades.
  • Tool Calling: El modelo identifica activamente las necesidades, llama a herramientas externas para completar operaciones reales y no se limita a respuestas de texto puro.
  • Memory: Proporciona a la IA memoria de conversación a corto plazo + memoria persistente a largo plazo, resolviendo el problema del olvido del contexto.

Flujo de ejecución completo del Agente de IA

  • Entrada del usuario: El usuario envía la instrucción Prompt, que ingresa a la ventana de contexto (Context Window).
  • Mejora de memoria: El sistema combina la memoria de conversación (Memory) con la base de conocimiento externa RAG para complementar el contexto y el conocimiento especializado.
  • Razonamiento del LLM: A través de la arquitectura Transformer, se realiza el cálculo de atención sobre la secuencia de tokens para la comprensión semántica y la generación preliminar.
  • Planificación del Agente: El agente juzga de forma autónoma, descompone las tareas y decide si es necesario ejecutar múltiples pasos o llamar a herramientas externas.
  • Ejecución de herramientas: Basado en el protocolo MCP, llama a capacidades externas como API, bases de datos y motores de búsqueda para completar operaciones reales.
  • Resultado de salida: Resume los datos devueltos por las herramientas y los resultados del razonamiento del modelo; tras organizarlos, los devuelve al usuario y también los guarda en el archivo de memoria.
Otras extensiones