ИИ-агент

Возможно, вы привыкли к такому взаимодействию: вы задаёте вопрос, а ИИ даёт ответ.

• Вы просите его написать статью, и он пишет статью.

• Вы просите его перевести предложение, и он переводит предложение.

В этом режиме ИИ больше похож на консультанта — он даёт советы, но не выполняет действия напрямую.

Но что, если задача немного сложнее? Например: помоги мне узнать завтрашнюю погоду в Пекине. Если температура превышает 25 градусов, порекомендуй рубашку с короткими рукавами в пределах бюджета 300 юаней, затем оформи результаты в электронное письмо и отправь его моему начальнику.

С обычным диалоговым ИИ вам приходится разбивать задачу на несколько шагов:

• Шаг 1: Узнать завтрашнюю погоду в Пекине.

• Шаг 2: Если она превышает 25 градусов, порекомендовать рубашку с короткими рукавами в пределах 300 юаней.

• Шаг 3: Напишите электронное письмо моему начальнику с содержанием ...

На каждом шаге вам нужно вручную продвигаться дальше.

иИИ-агентИдея в том, что вы просто один раз говорите «помоги мне сделать это», и он сам справится со всем остальным.

Он автоматически определит, что нужно сделать, какие инструменты вызвать, в каком порядке их выполнять и как адаптироваться при возникновении проблем, пока задача не будет завершена.

Простое объяснение: обычная LLM — это стратег, который даёт вам советы; ИИ-агент — это исполнитель, который берёт цель и сам добивается её выполнения.

Что такое ИИ-агент?

ИИ-агент — это автономная система, которая может воспринимать окружающую среду, принимать решения и совершать действия.

Более академичное определение таково:Агент — это сущность, находящаяся в среде; он воспринимает среду через датчики и воздействует на среду через исполнительные механизмы для достижения набора целей.。

Это определение звучит немного абстрактно, поэтому давайте разберём его простыми словами.

Агент против обычной LLM

Сначала взгляните на таблицу сравнения:

Возьмём конкретный пример: «Помоги мне забронировать рейс из Шанхая в Пекин на завтра, с ценой ниже 1,500 юаней».

Обычная LLM может ответить: «Хорошо, я могу написать вам фрагмент кода для запроса цен на авиабилеты или подсказать, какой сайт проверить». Но она не будет на самом деле искать рейсы, не говоря уже о том, чтобы забронировать билет за вас.

А квалифицированный агент, напротив, будет:

• 1. Понять цель: забронировать авиабилет из Шанхая в Пекин на завтра, дешевле 1,500 yuan.

• 2. Определить действие: мне нужно вызвать API запроса рейсов.

• 3. Выполнить действие: вызвать API и получить список рейсов.

• 4. Наблюдать результаты: получено 10 рейсов, 3 из которых дешевле 1,500 yuan.

• 5. Подумать ещё раз: какой выбрать? Возможно, нужно проверить время вылета и прилёта или спросить у пользователя предпочтения.

• 6. Продолжить действовать: возможно, вызвать другой API, чтобы проверить показатели пунктуальности, или сразу порекомендовать варианты пользователю.

• 7. Завершить задачу: помочь пользователю зафиксировать место и сгенерировать ссылку на заказ.

Видите разницу?Обычная LLM даёт вам ответы; агент даёт вам результаты.。

Ключевые возможности агента

Полноценный агент обычно обладает следующими тремя ключевыми возможностями:

• Восприятиеозначает, что агент может видеть, что происходит. Например, пользователь отправляет сообщение, API возвращает результат или в файловую систему добавляется новый файл — всё это входные данные восприятия.

• Принятие решенийозначает, что агент решает, что делать дальше, на основе воспринятой информации. Ответить пользователю напрямую? Нужно ли вызывать инструмент? Нужно ли разбить большую задачу на более мелкие подзадачи? Всё это решения.

• Действиеозначает, что агент фактически выполняет решения. Вызов API поиска, чтение файла, отправка электронного письма, работа с базой данных — всё это действия.

Базовая архитектура агента

Теперь давайте рассмотрим стандартный «пазл из четырёх частей» агента: мозг, инструменты, память и планирование.

Сначала давайте посмотрим на схему архитектуры:

Мозг: LLM как ядро рассуждений

Мозг агента — это обычно большая языковая модель, такая как GPT-4, Claude, Llama и т. д.

Эта LLM отвечает за:

• 1. Понимание намерения пользователя: когда пользователь говорит «помоги мне забронировать билет», чего он на самом деле хочет?

• 2. Принятие решений: что мне делать дальше?

• 3. Генерация параметров вызова инструментов: какие параметры нужны, чтобы вызвать API запроса рейсов?

• 4. Организация финального ответа: теперь, когда собрано достаточно информации, как дать пользователю чёткое резюме?

LLM — это ядро агента, но не всё — подобно тому, как человеческий мозг важен, но всё равно нужны руки и ноги, чтобы выполнять задачи.

Инструменты: расширение границ возможностей ИИ

Нативные LLM имеют два очевидных ограничения:

• 1. Отсечение знаний: она не знает, что произошло после завершения обучения.

• 2. Нет возможности взаимодействия: он не может напрямую читать файлы, обращаться к базам данных или вызывать API.

Инструменты предназначены для решения этих проблем.

Распространённые типы инструментов:

Наделение агента инструментами — это как снабдить человека компьютером: он мгновенно переходит от способности только думать к способности действовать.

Память: краткосрочная vs. долговременная память

LLM по своей природе страдают амнезией — каждый разговор начинается с чистого листа, если только вы не впихнёте в него контекст.

И Агенту нужно помнить многое:

• Кратковременная память: Что только что сказал пользователь? Какой инструмент я вызвал на последнем шаге? Какой результат я получил?

• Долговременная память: Каковы предпочтения пользователя? Как обрабатывались похожие задачи в прошлом? Какие уроки были извлечены?

Распространённые подходы к реализации систем памяти:

Хорошая система памяти может заставить Агента казаться помнящим вас, а не вести себя так, будто он знакомится с вами впервые каждый раз.

Планирование: декомпозиция задач

Сложные задачи не выполняются за один шаг; Агент должен уметь разбивать большую цель на более мелкие шаги.

Например: помоги мне спланировать день рождения для 10 человек.

Агент мог бы спланировать это так:

• 1. Сначала уточнить: какой бюджет? Когда это? Где это? Какие предпочтения у виновника торжества?

• 2. Затем: найти ближайшие площадки.

• 3. Далее: разработать меню.

• 4. После этого: составьте список покупок.

• 5. Наконец: создайте расписание.

Распространённые стратегии планирования:

• Chain-of-Thought: продумайте шаг за шагом — что делать сначала, что делать дальше.

• Tree-of-Thought: рассматривайте несколько возможных путей одновременно и выберите оптимальный.

• Reflection: после завершения шага оглянитесь назад и проверьте, есть ли проблемы и нужны ли корректировки.

Использование инструментов / Вызов функций

Вызов инструментов — самая фундаментальная и важная возможность агента.

Давайте начнём с объяснения, что это такое.

Что такое Function Calling?

Проще говоря:Function Calling — это когда LLM выводит структурированный JSON, сообщая, какую функцию она хочет вызвать и какие параметры передать.。

Дело не в том, что LLM на самом деле выполняет функцию — она лишь сообщает, что хочет её вызвать, а выполнение по-прежнему остаётся за вами.

Весь процесс обычно выглядит так:

• 1. Вы говорите LLM: "Вот некоторые функции, которые вы можете вызывать. Имя каждой функции, её параметры и назначение..."

• 2. Пользователь отправляет сообщение: "Помоги мне проверить завтрашнюю погоду в Пекине."

• 3. LLM отвечает: "Я хочу вызвать функцию get_weather с параметрами city='Beijing', date='tomorrow'."

• 4. Вы вызываете функцию (фактически запрашивая API погоды) и получаете результат.

• 5. Вы передаёте результат обратно в LLM: "Предыдущий вызов функции вернул: температура 25 градусов, солнечно."

• 6. На основе этого результата LLM даёт пользователю ответ на естественном языке: "В Пекине завтра будет солнечно, 25 градусов, очень комфортно."

Видите? LLM думает, а вы исполняете.

Определение JSON Schema инструмента

Чтобы LLM могла вызывать инструменты, сначала нужно рассказать ей, какие инструменты доступны.

Этот процесс информирования заключается в описании функций с помощью JSON Schema.

Рассмотрим стандартный формат определения функции:

Ключевые моменты:

• описание очень важно — LLM полагается на это описание, чтобы понять, что делает инструмент и когда его использовать.

• Параметры также должны быть описаны чётко — например, если unit имеет ограничение enum, LLM знает, что может выбрать только из этих двух значений.

• required обозначает обязательные поля — LLM будет следить за тем, чтобы эти параметры всегда имели значения.

Практический код: добавление инструментов поиска и вычислений в ИИ

Теперь давайте напишем полный, исполняемый пример.

Для демонстрации мы используем Python, чтобы смоделировать полный поток Function Calling.

Хотя этот пример прост, он демонстрирует полный замкнутый цикл вызова функций:

Понять → Решить → Вызвать инструмент → Наблюдать результат → Сгенерировать ответ.

В реальном проекте,_decide_actionэтот шаг был бы заменён реальным вызовом LLM, позволяя модели решить, какой инструмент использовать и какие параметры передать.

Цикл планирования ReAct

Когда возможности вызова инструментов уже реализованы, следующий вопрос: когда останавливаться?

Простые задачи можно выполнить за один шаг, но сложные задачи часто требуют нескольких раундов итераций.

Именно эту проблему призван решить фреймворк ReAct.

Мысль → Действие → Наблюдение

Название ReAct происходит от сочетания слов Reasoning и Acting.

Его основная идея проста: позволить Агенту, как человеку, подумать один шаг, сделать один шаг, понаблюдать, а затем повторять этот цикл, пока задача не будет выполнена.

Давайте посмотрим на блок-схему:

Каждый цикл состоит из трёх шагов:

Затем вернитесь к этапу «Мысль» — на основе наблюдаемых результатов решите, что делать дальше.

Этот цикл продолжается, пока Агент не определит, что задача выполнена; тогда он выходит из цикла и выдаёт итоговый ответ.

Давайте рассмотрим конкретный пример, чтобы увидеть, как работает ReAct:

• Вопрос пользователя: В каком году была основана SpaceX? Как называлась её первая ракета, успешно достигшая орбиты?

• Мысль 1: Мне нужно найти год основания SpaceX и модель её самой ранней ракеты, совершившей орбитальный запуск. Эта информация может быть из разных источников, поэтому лучше искать по ключевым словам, охватывающим оба вопроса сразу.

• Действие 1: Вызвать web_search с запросом "SpaceX founding time first orbital rocket".

• Наблюдение 1: Сводка результатов поиска показывает: "SpaceX (Space Exploration Technologies Corp.) была основана в 2002 году Илоном Маском. Её первой ракетой, успешно вышедшей на орбиту Земли, была Falcon 1, которая добилась успеха в четвёртом испытательном полёте 28 сентября 2008 года." (Информация полная и охватывает оба подвопроса.)

• Мысль 2: Результаты поиска уже дают как год основания (2002), так и первую орбитальную ракету (Falcon 1). Неоднозначности нет, и информация заслуживает доверия. Дополнительный поиск не нужен.

• Итоговый ответ: SpaceX была основана в 2002 году, а её первой ракетой, успешно достигшей орбиты, была Falcon 1, которая достигла этого рубежа 28 сентября 2008 года.

• Примечание: Видите? Каждый шаг имеет чёткие "Мысль", "Действие" и "Наблюдение", а Агент сам решает, когда остановиться — здесь потребовался только 1 раунд действий, чтобы собрать всю нужную информацию, поэтому он перешёл сразу к итоговому ответу без лишних циклов.

Условия завершения цикла

Цикл ReAct не может выполняться бесконечно; ему нужно условие завершения.

Общие условия завершения:

При проектировании Агента обязательно предусмотрите предохранительный клапан «максимальное количество шагов» — иначе он может зациклиться и никогда не остановиться.

Проектирование системы памяти

Когда агент работает долго, он сталкивается с проблемой: контекстное окно не может вместить всю историю разговора.

В этот момент нужна хорошая система памяти.

История разговора: кратковременная память

Самая простая память — полностью сохранять историю разговора.

Каждый раз все предыдущие сообщения загружаются в LLM, чтобы она могла помнить, что только что произошло.

Но у этого подхода есть очевидный недостаток: контекстное окно LLM ограничено.

Например, у GPT-4 — 8K или 32K, а у Claude — 200K; хотя это и много, но всё равно не бесконечно.

Пока разговор короткий, всё нормально, но как только он становится очень длинным или каждый раунд вызовов инструментов возвращает много содержимого, место быстро заканчивается.

Векторная база данных: долговременная память

Когда нужно помнить слишком много, а контекст не может это вместить, обычное решение таково:хранить воспоминания в векторной базе данных и «извлекать» нужные, когда они понадобятся.。

Этот подход называется RAG (Retrieval-Augmented Generation), и он в равной степени применим к Агентам.

Рабочий процесс:

• Всякий раз, когда создаётся воспоминание (то, что сказал пользователь, результат, возвращённый инструментом, размышления Агента), оно преобразуется в вектор (Embedding).

• 2. Сохраните этот вектор в векторной базе данных.

• 3. Когда Агенту нужно вспомнить, также преобразуйте текущий вопрос в вектор.

• 4. Найдите в векторной базе данных несколько «самых похожих» воспоминаний.

• 5. Поместите в контекст LLM только эти несколько релевантных воспоминаний.

Таким образом, даже если есть десять тысяч исторических воспоминаний, нужно извлечь и использовать только самые релевантные.

Сжатие памяти на основе сводок

Ещё одна схема оптимизации памяти:не хранить полные тексты разговоров; вместо этого большая модель периодически создаёт краткие сводки исторических сессий, и постоянно сохраняются только сводки.。

Исходный длинный диалог:

• Пользователь: Помоги мне проверить погоду.

• Агент: Какой город проверить?

• Пользователь: Пекин.

• Агент: Какой день?

• Пользователь: Завтра.

• ……

Сжатое резюме:

用户需要查询北京明日天气，Agent 先后确认城市与日期，用户明确查询时间为明天。

Этот подход может значительно снизить накладные расходы на токены: полный диалог, изначально занимавший 500 токенов, требует всего лишь резюме размером 50 токенов, чтобы сохранить ключевую информацию.

В продакшн-проектах обычно используют несколько решений совместно, управляя памятью диалога по слоям:

• Последние свежие диалоги: полностью сохраняются, напрямую отправляются в контекст модели;
• Давние исторические диалоги: единообразно создаются резюме, заменяющие исходный текст;
• Долгосрочная ключевая информация: хранится в векторной базе данных, извлекается по требованию.

Популярные фреймворки агентов

Разобравшись в принципах, вы можете написать собственного агента или использовать существующие фреймворки.

Наиболее популярные сейчас:

Агенты LangChain

LangChain в настоящее время — самый популярный фреймворк для разработки LLM-приложений, и в нём есть встроенная система агентов.

Основные концепции:

Агент: мозг, решает, что делать.

Инструменты: список инструментов.

Наборы инструментов: комплекты инструментов (например, объединение нескольких инструментов для работы с базами данных).

AgentExecutor: исполнитель, отвечающий за запуск цикла ReAct.

Преимущество LangChain — богатая экосистема: множество готовых интеграций инструментов, работающих из коробки.

Недостаток в том, что иногда он кажется немного тяжёлым, с множеством слоёв абстракции, что затрудняет отладку при возникновении проблем.

Агенты LlamaIndex

LlamaIndex (ранее назывался GPT Index) больше ориентирован на подключение данных — подключение ваших приватных данных (документов, баз данных, API) к LLM.

Сильные стороны его агента:

• 1. Запросы к структурированным и неструктурированным данным.

• 2. Маршрутизация между несколькими источниками данных.

• 3. Ответы на вопросы по документам (RAG).

Если вашему агенту нужно много работать с "вашими данными", LlamaIndex — хороший выбор.

Принципы AutoGPT

AutoGPT — это проект, ставший популярным в начале 2023 года, и его характерная черта — полная автономность.

Вы даёте ему большую цель (например, "помоги мне создать сайт"), и он сам:

• 1. Составляет список задач.

• 2. Выполняет задачи.

• 3. Проводит саморефлексию.

• 4. Корректирует план.

• 5. Продолжайте двигаться вперёд.

AutoGPT впервые позволил многим людям увидеть силу «автономных агентов», но также выявил множество проблем с агентами:

Он часто продолжает работать в неправильном направлении и не останавливает потери вовремя.

Он склонен попадать в бесконечные циклы и повторять одни и те же действия.

Высокая стоимость — один запуск может потребовать десятки долларов на комиссии за API.

Но AutoGPT очень показателен как доказательство концепции.

Мультиагентный CrewAI

То, о чём мы только что говорили, — это одиночные агенты, тогда как подход CrewAI состоит в следующем: позволить нескольким агентам объединиться в команду и взаимодействовать.

Например, вы можете определить:

Агент-продакт-менеджер: отвечает за понимание требований и написание PRD.

Агент-инженер: отвечает за написание кода.

Агент-ревьюер: отвечает за код-ревью и предоставление обратной связи.

Затем позвольте им сотрудничать как настоящая команда — обсуждать друг с другом, распределять задачи и выдавать результаты.

Мультиагентный подход — очень перспективное направление: один агент может ошибаться, но несколько агентов могут исправлять друг друга и дополнять друг друга.

Практическое занятие: создание агента автоматического сбора информации

Теперь давайте объединим ранее полученные знания и напишем по-настоящему рабочего агента.

Агент, которого мы собираемся сделать, называетсяexample-researcher— дайте ему тему, и он автоматически выполнит поиск, систематизирует и сгенерирует исследовательский отчёт.

Хотя этот агент упрощает вызовы LLM (имитируемые с помощью правил), весь рабочий процесс действительно пригоден для использования.

Вам просто нужно_thinkзаменить метод реальными вызовами LLM API, и_search_webзамените его настоящим поисковым API, и он действительно сможет помочь вам проводить исследования.

Ограничения и режимы отказов агентов

AI-агенты мощны, но не всемогущи.

Понимание его ограничений помогает использовать его в правильных сценариях и избегать подводных камней.

Распространённые режимы отказов

1. Неправильный выбор инструмента

Когда пользователь спрашивает о погоде, Агент вызывает поиск; когда пользователь хочет выполнить поиск, Агент вызывает калькулятор.

Такая ошибка очень распространена, особенно когда определения инструментов недостаточно чёткие.

2. Ошибки передачи параметров

Неправильный формат даты, отсутствие обязательных параметров, неверные типы параметров — всё это может привести к сбою вызовов инструментов.

3. Бесконечный цикл

Агент застревает в бесконечном цикле «поиск A → не найдено → снова поиск A → всё ещё не найдено → поиск A ещё раз…»

4. Преждевременная остановка

Прежде чем собрать достаточно информации, Агент решает, что этого "достаточно", и даёт неполный ответ.

5. Галлюцинация

Агент может выдумывать несуществующие инструменты, несуществующие параметры или придумывать фальшивые результаты поиска.

6. Отсутствие здравого смысла

Иногда Агент делает вещи, которые кажутся людям глупыми — например, когда пользователь говорит "забронируй мне рейс на завтра", Агент выясняет, что такое "завтра", но на самом деле ему следует использовать сегодняшнюю дату плюс один день.

Как сделать Агентов более надёжными

Чтобы решить эти проблемы, в индустрии есть несколько часто используемых стратегий смягчения:

Практический совет: не стремитесь к полной автономности с самого начала. Начните с режима human-in-the-loop — агент предлагает, что делать, а человек подтверждает перед выполнением. Когда убедитесь в нём, постепенно делегируйте больше полномочий.