Понятия, связанные с большими моделями

Когда вы только начинаете разрабатывать с использованием больших моделей (LLM), на вас обрушивается поток новых терминов: Token, RAG, Embedding, Agent... Они могут казаться независимыми, но на самом деле связаны в целостный технический пайплайн.

Эта статья связывает эти понятия в порядке «Что такое модель → Как обучать → Как использовать → Как оптимизировать», помогая начинающим разработчикам построить чёткую систему знаний.

Эта статья не просто глоссарий; она также использует реальный, исполняемый код Python, чтобы показать, как эти понятия применяются.

Все примеры основаны на протоколе, совместимом с OpenAI. Вы можете переключиться на таких провайдеров, как Alibaba Cloud Bailian, DeepSeek, и т. д., просто изменив конечную точку API и ключ.

Справочник по Python OpenAI:https://www.example.com/python3/python-openai.html

Общий технический пайплайн

Прежде чем разбирать каждое понятие по отдельности, давайте рассмотрим полный пайплайн технологии больших моделей, чтобы сформировать общее понимание.

Сверху вниз каждый слой решает одну ключевую задачу: обучение создаёт модель, оптимизация делает её легче, инференс позволяет получать результаты, поиск предоставляет знания, а инструменты обеспечивают выполнение.

Следующие разделы раскрывают материал послойно, сверху вниз вдоль этого пайплайна.

Базовые понятия: что такое модель

В этом разделе даётся ответ на самый фундаментальный вопрос: что же такое большая модель и как она работает?

LLM (большая языковая модель)

LLM расшифровывается как Large Language Model — большая языковая модель, модель глубокого обучения, обученная на огромных объёмах текста.

По своей сути это вероятностная модель, которая «предсказывает следующее слово»: по предшествующему тексту она предсказывает наиболее вероятное продолжение.

Такие продукты, как ChatGPT, Claude, Tongyi Qianwen и др., в своей основе работают на LLM.

Transformer и механизм внимания

Почти все современные LLM основаны на архитектуре Transformer.

Его ключевая инновация — этомеханизм внимания (Attention / Self-Attention): при обработке слова модель может динамически «обращать внимание» на другие релевантные слова во входной последовательности, тем самым лучше понимая контекстные связи.

Например, когда модель читает предложение, она не сканирует его строго слово за словом; вместо этого она автоматически определяет, «какое предыдущее слово наиболее связано с этим словом».

Токен

Модели обрабатывают текст не по «символам» или «словам», а по токенам.

Токен может быть китайским иероглифом, английским словом или частью слова.

Понимание токенов имеет два прямых практических следствия:

Ограничение длины контекста модели рассчитывается в токенах; оплата вызовов API также рассчитывается в токенах.

Используя открытую библиотеку токенизации OpenAI tiktoken, можно напрямую увидеть, на сколько токенов разбивается фрагмент текста:

Вывод:

Token 数量：2
切分结果：['Hello', ' world']

При переключении на китайский язык или более длинные слова метод токенизации будет совершенно другим, поэтому «оценка токенов по количеству символов» неточна.

Контекстное окно

Обозначает максимальное количество токенов, которое модель может «видеть» и обрабатывать за один раз.

Например, контекстное окно размером 100K означает, что один диалог (исторические сообщения, ваш вопрос и ответ модели вместе взятые) не может превышать 100,000 токенов.

Чем больше окно, тем больше содержимого модель может «запомнить», и тем более длинные документы она может обрабатывать за один раз.

Количество параметров (параметры)

Под количеством параметров понимается число обучаемых весов внутри модели, обычно измеряемое в B (миллиардах), например 7B, 70B.

Это в некоторой степени отражает масштаб модели и верхнюю границу её возможностей, но это не единственный показатель — качество обучающих данных и проектирование архитектуры не менее важны.

Как обучаются модели

LLM, способная естественно вести беседу, обычно проходит несколько этапов обучения, формируя возможности слой за слоем.

Предобучение

Модель изучает статистические закономерности языка на огромных объёмах неразмеченного текста (веб-страницы, книги, код и т. д.), такие как грамматика, здравый смысл и логические связи.

Этот этап потребляет больше всего вычислительных ресурсов и является основой возможностей модели.

Однако на этом этапе модель ещё не умеет хорошо "выполнять указания"; она скорее похожа на человека, который много читал, но не умеет общаться.

SFT (Supervised Fine-Tuning)

SFT расшифровывается как Supervised Fine-Tuning.

Используя размеченные людьми данные в виде пар «вопрос-ответ», модель учат отвечать на вопросы в соответствии с человеческими инструкциями, а не продолжать текст самостоятельно.

RLHF (Reinforcement Learning from Human Feedback)

RLHF расшифровывается как Reinforcement Learning from Human Feedback.

Люди оценивают или ранжируют несколько вариантов ответов модели, а затем эта обратная связь используется для обучения модели, чтобы её результаты лучше соответствовали человеческим предпочтениям (были полезнее, честнее и безопаснее).

Похожая техника — RLAIF: использование ИИ вместо людей для оценки, что снижает затраты на разметку.

У обоих одна и та же цель; единственное различие — является ли «оценщик» реальным человеком или другим ИИ.

Выравнивание

Выравнивание — более широкое понятие: приведение поведения и ценностей модели в соответствие с человеческими ожиданиями и намерениями.

Это ключевая тема в области безопасности ИИ, проходящая через различные этапы обучения, такие как SFT и RLHF; по сути, SFT и RLHF — оба являются «методами выравнивания».

Дообучение

На основе уже обученной универсальной модели продолжается обучение на данных из конкретной предметной области (например, юриспруденция, здравоохранение, обслуживание клиентов).

По сравнению с предварительным обучением с нуля дообучение стоит гораздо меньше, и это распространённая практика — адаптировать универсальные модели к специализированным сценариям.

MoE (смесь экспертов)

MoE расшифровывается как Mixture of Experts — архитектурный подход к модели.

Модель содержит несколько «экспертных» подсетей; при каждом запуске обработки входных данных активируется лишь часть из них, а не все параметры участвуют в вычислениях.

Это позволяет расширять общий масштаб модели, контролируя фактические вычисления и достигая «большого количества параметров, быстрого инференса».

Как разработчики используют большие модели

Это та часть, на которой начинающим разработчикам нужно сосредоточиться больше всего: как заставить большие модели обслуживать приложения через API.

В этом разделе сначала приводится базовый, работающий пример вызова диалога, а затем подробно раскрывается каждое понятие.

Базовый вызов чата через API

Следующий код демонстрирует полный запрос диалога, используя три понятия: системный промпт, сообщения пользователя и temperature.

Вывод:

回答：example（Example）是一个提供编程教程的中文学习网站……
输入 Token 数：33
输出 Token 数：18

Поле usage в возвращаемой структуре — это конкретная реализация концепции токена, упомянутой выше: оно сообщает, сколько токенов потребил этот вызов, а также является основой для выставления счетов.

Промпт

Промпт — это инструкция или вопрос, который вы задаёте модели; он напрямую определяет качество вывода модели.

Техника изучения того, как писать более ясные и эффективные промпты, называетсяПромпт-инжиниринг。

Распространённые техники включают: приведение конкретных примеров, требование пошагового рассуждения, указание формата вывода и т. д.

Системный промпт

Инструкции, заранее задаваемые модели перед штатным вводом пользователя, используемые для определения роли модели, правил поведения и фоновых знаний.

Фраза "Вы — профессиональный помощник по программированию на Python и отвечаете только на технические вопросы" в предыдущем примере — типичный системный промпт.

Разница между системным промптом и сообщениями пользователя: системный промпт задаёт "как модель должна себя вести", а сообщения пользователя указывают "что именно делать".

Помещение общих правил в системный промпт сохраняет стиль ответов единообразным в многоходовых диалогах.

Температура

Температура — это параметр, управляющий случайностью вывода модели, обычно в диапазоне от 0 до 2.

Чем выше температура, тем более "творческими" и случайными становятся ответы и тем больше вероятность ошибок; чем ниже температура, тем более консервативными и стабильными становятся ответы.

Обучение в контексте

Совсем не нужно дообучать модель; просто приведите несколько примеров в промпте, и модель сможет имитировать их для выполнения новых похожих задач.

Это одна из наиболее часто используемых техник в Prompt Engineering, также называемая Few-shot Learning.

Цепочка рассуждений (CoT)

Направляйте модель разбивать сложные задачи на пошаговый процесс рассуждения, прежде чем давать окончательный ответ, вместо того чтобы сразу переходить к выводу.

Практика показала, что этот подход значительно повышает точность модели на сложных задачах, таких как математика и логические рассуждения.

Самый простой способ — добавить в промпт фразу "Please think step by step".

Галлюцинация

Галлюцинация — это контент, который генерирует модель, кажущийся правдоподобным и гладким, но на самом деле неверный или вымышленный.

Это распространённый недостаток LLM, потому что модель по сути "продолжает наиболее вероятный текст", а не "проверяет факты".

Один из основных методов смягчения галлюцинаций — RAG, описанный ниже: сначала извлечь реальную информацию, затем позволить модели ответить на основе этой информации.

Подключение модели к внешнему миру

Обычная LLM может полагаться только на знания, полученные во время обучения, чтобы отвечать на вопросы; она не знает новейшую информацию и не может проактивно предпринимать действия.

Техники в этом разделе — ключ к решению этих двух недостатков.

Эмбеддинг

Эмбеддинг преобразует текст, изображения и другой контент в последовательность чисел (векторов).

После преобразования компьютер может определить, похожи ли два фрагмента контента по "семантике", вычисляя расстояние между векторами.

Это фундаментальная основа для таких приложений, как поиск, рекомендации и RAG.

Векторная база данных

Векторная база данных специально используется для хранения и извлечения векторов эмбеддингов, таких как Pinecone, Milvus и Chroma.

Она может быстро находить содержимое, наиболее близкое по семантике к запросу, среди огромных массивов векторов, и является неотъемлемым компонентом для построения RAG-систем.

RAG (генерация с дополненной выборкой)

RAG расшифровывается как Retrieval-Augmented Generation.

Его рабочий процесс таков: сначала преобразовать внешнюю базу знаний в векторы и сохранить их в векторной базе данных; когда пользователь задаёт вопрос, извлечь наиболее релевантное содержимое; затем передать извлечённые результаты вместе с вопросом модели для генерации ответа.

RAG может эффективно уменьшать галлюцинации и позволять модели отвечать, опираясь на новые знания за пределами обучающих данных.

Ниже приведён минимальный пример RAG, который не зависит от внешней векторной базы данных и использует OpenAI Embedding плюс numpy, чтобы принцип было легче понять:

Вывод:

检索到的资料：example 是一个提供编程教程的中文学习网站。
回答：example（Example）是一个提供编程教程的中文学习网站。

В реальных проектах просто замените «вычисление сходства в памяти» на шаге 3 на «вызов векторной базы данных для поиска», и процесс будет точно таким же.

Вызов функций

Function Calling позволяет большим моделям вызывать внешние инструменты или API для выполнения задач, таких как запрос погоды в реальном времени, выполнение математических вычислений, запросы к базам данных и отправка электронных писем.

Это компенсирует недостаток модели — «способность только генерировать текст, но не выполнять действия», и является ключевым шагом в превращении больших моделей из чат-ботов в практические инструменты.

Его работа — это двухраундовое взаимодействие: в первом раунде модель решает, какую функцию вызвать и какие параметры передать; после того как ваш код фактически выполнит функцию, результат возвращается во втором раунде, позволяя модели сгенерировать ответ на естественном языке.

Результат вывода:

工具执行结果：杭州 今天晴，气温 28°C
最终回答：杭州今天是晴天，气温大约 28°C，适合外出活动。

MCP (Model Context Protocol)

MCP расшифровывается как Model Context Protocol — открытый протокол, позволяющий большим моделям стандартизированным способом подключаться к внешним инструментам и источникам данных.

Его можно сравнить с "USB-портом для ИИ": если разные инструменты и источники данных следуют этому протоколу, они могут единообразно вызываться различными большими моделями, поддерживающими MCP.

Он решает проблему "необходимости повторно интегрировать каждый инструмент" из эпохи Function Calling, снижая затраты на разработку.

Агент

Агент — это система, построенная на больших моделях, которая может автономно планировать задачи, вызывать инструменты и выполнять многошаговые операции.

По сравнению с диалогом вопросов и ответов Агент больше похож на "цифрового сотрудника", который может самостоятельно выполнять сложные задачи, например автоматически проходить весь процесс "исследование → код → тестирование → исправление ошибок".

Основной цикл, на который он опирается, — это ReAct (Reason + Act): обдумать следующий шаг, вызвать инструменты, наблюдать результаты, а затем снова обдумать, пока задача не будет выполнена.

Мультимодальность

Мультимодальность означает способность модели одновременно понимать и/или генерировать несколько типов данных, не ограничиваясь текстом, но также включая изображения, аудио и видео.

Многие популярные большие модели уже обладают мультимодальными возможностями, такими как чтение изображений и анализ графиков.

Ускорение работы моделей и повышение её эффективности

Чем сильнее модель, тем она, как правило, крупнее и тем выше стоимость её работы.

Следующие две концепции направлены на то, чтобы сделать модели легче и эффективнее при реальном развёртывании.

Квантование

Квантование сжимает параметры модели с высокой точности (например, 32-битных чисел с плавающей запятой) до низкой точности (например, 8-битных или 4-битных целых чисел).

Это может значительно уменьшить объём памяти GPU, занимаемый моделью, и повысить скорость инференса; компромисс — некоторая потеря точности, но во многих сценариях это приемлемо.

Дистилляция модели

Дистилляция использует выход мощной, но большой «модели-учителя» для обучения меньшей «модели-ученика».

Цель — позволить маленькой модели как можно лучше перенять возможности большой модели. Дистиллированная модель меньше, быстрее при инференсе и дешевле в развёртывании.

Путь обучения для начинающих

Начинающим разработчикам не нужно осваивать все концепции сразу.

Рекомендуется следовать приведённому ниже порядку и продвигаться шаг за шагом; так легче построить полноценную систему, чем заучивать концепции по отдельности.

Не нужно заучивать определения наизусть — просто запустите примеры кода из этой статьи самостоятельно, и вы гораздо глубже всё поймёте.

Краткий справочник по основным терминам

Все ключевые термины статьи сведены в одну таблицу и сгруппированы по «этапам», чтобы к ним было удобно обращаться и повторять их в любое время.