Базовая архитектура ИИ
На следующей диаграмме показана полная архитектура ИИ-системы от базовых больших моделей до агентных приложений:
| Слой | Основные компоненты | Ключевая роль | Типичные возможности |
|---|---|---|---|
| Базовый слой (модель) | LLM и токены, архитектура Transformer, токенизация, механизм внимания | Базовое вычислительное ядро ИИ; отвечает за понимание текста, предсказание токенов и генерацию языка | Понимание естественного языка, генерация текста, моделирование контекста, предсказание вероятностей |
| Слой контекста (память) | Контекстное окно, промпт, память, RAG | Управляет входным контекстом модели; отвечает за кратковременную память, долговременную память и внедрение внешних знаний | Управление промптами, память сессии, извлечение знаний, дополнение контекста |
| Слой расширения возможностей (инструменты) | MCP, вызов инструментов, API, база данных | Делает ИИ не просто чатом; расширяет реальные операционные возможности с помощью вызовов инструментов | Онлайн-поиск, выполнение кода, запросы к базе данных, вызовы API |
| Агентный слой (принятие решений) | Агент, Исследование, Планирование, Действие | Мозг автономного принятия решений ИИ; отвечает за понимание целей, декомпозицию задач, планирование и выполнение в замкнутом контуре | Планирование задач, многошаговые рассуждения, автономное принятие решений, выполнение в замкнутом контуре |
| Прикладной уровень (Действие) | Навыки агента, рабочий процесс, автоматизация | Ориентирован на конкретные бизнес-сценарии; инкапсулирует возможности агента в развертываемые продукты | Автоматизированные рабочие процессы, отраслевые ИИ-ассистенты, корпоративные интеллектуальные системы, ИИ SaaS-приложения |
Определения основных терминов
- TransformerТекущая базовая архитектура больших моделей, устанавливающая связи между токенами с помощью механизма самовнимания.
- ТокенНаименьшая единица текста, обрабатываемая моделью; может быть подсловом, словом, символом или знаком.
- ПромптВходная инструкция, подаваемая модели, используемая для задания ролей, управления поведением и стандартизации формата вывода и целей.
- RAGГенерация с дополнением на основе поиска; сначала извлекает данные из внешней профессиональной базы знаний, затем позволяет LLM интегрировать и генерировать точные ответы.
- MCPModel Context Protocol (Протокол контекста модели), унифицирующий стандарт связи между ИИ и инструментами, базами данных и внешними сервисами.
- АгентНа основе LLM он дополняетцель + планирование + выполнениевозможностями, образуя автономную интеллектуальную систему.
- Вызов инструментовМодель проактивно определяет потребности, вызывает внешние инструменты для выполнения реальных операций и не ограничивается чисто текстовыми ответами.
- ПамятьОбеспечивает ИИ краткосрочной диалоговой памятью + долговременной постоянной памятью, решая проблему забывания контекста.
Полный рабочий процесс AI-агента
- пользовательский ввод: Пользователь отправляет инструкцию-промпт, которая попадает в окно контекста.
- Улучшение памяти: Система объединяет сессионную память Memory + внешнюю базу знаний RAG, чтобы дополнить контекст и экспертизу в предметной области.
- Инференс LLM: Вычисление внимания выполняется над последовательностями токенов через архитектуру Transformer для семантического понимания и предварительной генерации.
- Планирование агента: Агент автономно оценивает и декомпозирует задачи, решая, требуется ли многошаговое выполнение или вызов внешних инструментов.
- Выполнение инструментов: На основе протокола MCP вызываются внешние возможности, такие как API, база данных и поисковая система, для выполнения операций.
- Вывод результата: Суммирует данные, возвращённые инструментами, и результаты инференса модели, упорядочивает их и возвращает пользователю, записывая в архив памяти.