KI-Grundarchitektur

Das folgende Diagramm zeigt die vollständige KI-Systemarchitektur von grundlegenden großen Modellen bis hin zu Agent-Anwendungen:

Ebene Kernkomponenten Kernrolle Typische Fähigkeiten
Basisschicht (Modell) LLM & Token, Transformer-Architektur, Tokenisierung, Attention-Mechanismus Der zugrundeliegende Rechenkern der KI; verantwortlich für Textverständnis, Token-Vorhersage und Sprachgenerierung Verstehen natürlicher Sprache, Textgenerierung, Kontextmodellierung, Wahrscheinlichkeitsvorhersage
Kontextschicht (Memory) Context Window、Prompt、Memory、RAG Verwaltet den Eingabekontext des Modells; verantwortlich für Kurzzeitgedächtnis, Langzeitgedächtnis und externe Wissensinjektion Prompt-Steuerung, Sitzungsgedächtnis, Wissensabruf, Kontextanreicherung
Fähigkeitserweiterungsschicht (Tools) MCP、Tool Calling、API、Database Macht KI mehr als nur Chat; erweitert reale operative Fähigkeiten durch Tool-Aufrufe Online-Suche, Codeausführung, Datenbankabfragen, API-Aufrufe
Agent-Schicht (Entscheidungsfindung) Agent、Explore、Plan、Act Das autonome Entscheidungsgehirn der KI; verantwortlich für Zielverständnis, Aufgabenzerlegung, Planung und Closed-Loop-Ausführung Aufgabenplanung, mehrstufiges Reasoning, autonome Entscheidungsfindung, Closed-Loop-Ausführung
Anwendungsschicht (Aktion) Agent Skill、Workflow、Automation Zielt auf spezifische Geschäftsszenarien ab; kapselt Agent-Fähigkeiten in einsatzfähige Produkte Automatisierte Workflows, branchenspezifische KI-Assistenten, intelligente Unternehmenssysteme, KI-SaaS-Anwendungen

Definitionen der Kernbegriffe

  • TransformerDie aktuelle Kernarchitektur großer Modelle, die Beziehungen zwischen Tokens durch den Self-Attention-Mechanismus herstellt.
  • TokenDie kleinste vom Modell verarbeitete Texteinheit; kann ein Subwort, Wort, Zeichen oder Symbol sein.
  • PromptDie an das Modell gegebene Eingabeanweisung, die verwendet wird, um Rollen festzulegen, das Verhalten zu steuern und Ausgabeformat und Ziele zu standardisieren.
  • RAGRetrieval-Augmented Generation; ruft zuerst eine externe professionelle Wissensbasis ab und lässt dann das LLM integrieren und präzise Antworten generieren.
  • MCPModel Context Protocol (Model Context protocol), das den Kommunikationsstandard zwischen KI und Tools, Datenbanken und externen Diensten vereinheitlicht.
  • AgentAuf Basis eines LLM überlagert esZiel + Planung + AusführungFähigkeiten, um ein autonomes intelligentes System zu bilden.
  • Tool CallingDas Modell erkennt proaktiv Bedürfnisse, ruft externe Tools auf, um tatsächliche Operationen abzuschließen, und ist nicht auf reine Textantworten beschränkt.
  • MemoryVerleiht KI kurzfristiges Gesprächsgedächtnis + langfristiges persistentes Gedächtnis und löst das Problem des Kontextvergessens.

Vollständiger KI-Agent-Workflow

  • Benutzereingabe: Der Benutzer erteilt einen Anweisungs-Prompt, der in das Context Window gelangt.
  • Memory-Erweiterung: Das System integriert Memory-Sitzungsgedächtnis + RAG-externe Wissensbasis, um Kontext und Domänenexpertise zu ergänzen.
  • LLM-Inferenz: Die Attention-Berechnung wird auf Token-Sequenzen durch die Transformer-Architektur für semantisches Verständnis und vorläufige Generierung durchgeführt.
  • Agent-Planung: Der Agent beurteilt und zerlegt Aufgaben autonom und entscheidet, ob eine mehrstufige Ausführung oder der Aufruf externer Tools erforderlich ist.
  • Tool-Ausführung: Basierend auf dem MCP-Protokoll werden externe Fähigkeiten wie API, Datenbank und Suchmaschine aufgerufen, um Operationen abzuschließen.
  • Ausgabeergebnis: Fasst von Tools zurückgegebene Daten und Modell-Inferenzergebnisse zusammen, organisiert sie und gibt sie an den Benutzer zurück, während sie in das Gedächtnisarchiv geschrieben werden.
Andere Erweiterungen