Architecture sous-jacente de l’IA

Le diagramme suivant montre l’architecture complète du système d’IA, des grands modèles de fondation aux applications d’agents :

Couche Composants principaux Rôle principal Capacités typiques
Couche fondamentale (Modèle) LLM & Token, architecture Transformer, tokenisation, mécanisme d’attention Cœur computationnel sous-jacent de l’IA ; responsable de la compréhension du texte, de la prédiction de Token et de la génération de langage Compréhension du langage naturel, génération de texte, modélisation du contexte, prédiction de probabilités
Couche de contexte (Mémoire) Fenêtre de contexte、Prompt、Mémoire、RAG Gère le contexte d’entrée du modèle ; responsable de la mémoire à court terme, de la mémoire à long terme et de l’injection de connaissances externes Contrôle des prompts, mémoire de session, récupération de connaissances, augmentation du contexte
Couche d’extension des capacités (Outils) MCP、Appel d’outils、API、Base de données Rend l’IA plus qu’un simple chat ; étend les capacités opérationnelles du monde réel grâce aux appels d’outils Recherche en ligne, exécution de code, requêtes de base de données, appels API
Couche Agent (Prise de décision) Agent、Explorer、Planifier、Agir Cerveau décisionnel autonome de l’IA ; responsable de la compréhension des objectifs, de la décomposition des tâches, de la planification et de l’exécution en boucle fermée Planification des tâches, raisonnement multi-étapes, prise de décision autonome, exécution en boucle fermée
Couche d’application (Action) Compétence d’agent、Workflow、Automatisation Cible des scénarios métier spécifiques ; encapsule les capacités de l’Agent dans des produits déployables Workflows automatisés, assistants IA sectoriels, systèmes intelligents d’entreprise, applications IA SaaS

Définitions des terminologies clés

  • TransformerL'architecture centrale actuelle des grands modèles, qui établit des relations entre les Tokens via le mécanisme d'auto-attention.
  • TokenLa plus petite unité de texte traitée par le modèle ; elle peut être un sous-mot, un mot, un caractère ou un symbole.
  • PromptL'instruction d'entrée donnée au modèle, utilisée pour définir les rôles, contrôler le comportement et normaliser le format et les objectifs de sortie.
  • RAGGénération augmentée par récupération ; récupère d'abord une base de connaissances professionnelle externe, puis laisse le LLM intégrer et générer des réponses précises.
  • MCPModel Context Protocol (Protocole de contexte de modèle), unifiant la norme de communication entre l'IA et les outils, les bases de données et les services externes.
  • AgentSur la base d'un LLM, il ajoute des capacités d'objectif + planification + exécutionpour former un système intelligent autonome.
  • Appel d'outilsLe modèle identifie proactivement les besoins, appelle des outils externes pour effectuer des opérations réelles, et ne se limite pas à de simples réponses textuelles.
  • MémoireFournit à l'IA une mémoire conversationnelle à court terme + une mémoire persistante à long terme, résolvant le problème de l'oubli du contexte.

Flux de travail complet d'un agent IA

  • entrée utilisateur: L'utilisateur émet une instruction Prompt, qui entre dans la fenêtre de contexte.
  • Amélioration de la mémoire: Le système intègre la mémoire de session Memory + la base de connaissances externe RAG pour compléter le contexte et l'expertise métier.
  • Inférence LLM: Le calcul d'attention est effectué sur les séquences de Tokens via l'architecture Transformer pour la compréhension sémantique et la génération préliminaire.
  • Planification de l'agent: L'agent juge et décompose les tâches de manière autonome, décidant si une exécution multi-étapes ou l'appel d'outils externes est nécessaire.
  • Exécution d'outils: Sur la base du protocole MCP, des capacités externes telles que l'API, la base de données et le moteur de recherche sont invoquées pour effectuer des opérations.
  • Résultat de sortie: Résume les données renvoyées par les outils et les résultats d'inférence du modèle, les organise et les renvoie à l'utilisateur, tout en les écrivant dans l'archive de mémoire.
Autres extensions