Управление моделями Ollama
В этой главе мы рассмотрим команды управления моделями Ollama: загрузку, просмотр, копирование, удаление и то, как модели находятся в памяти.
Загрузка модели: ollama pull
Команда pull только скачивает модель, не запуская диалог, что делает её подходящей для предварительной подготовки моделей.
Скачайте тег по умолчанию (latest):
ollama pull qwen3.5
Скачайте тег конкретной спецификации:
ollama pull qwen3.5:4b
После выполнения вы увидите стандартный вывод о ходе загрузки:
$ ollama pull qwen3.5:4b pulling manifest pulling 87497c5f0e8f... 100% |████████████████████| 3.4GB verifying sha256 digest writing manifest success
Если загрузка прервана, не нужно начинать заново. Ollama проверяет и сохраняет данные по слоям; повторный запуск той же команды автоматически возобновит незавершённые слои.
Также следует отметить, что ollama run имеет встроенную логику pull: при первом запуске модели скачивание и загрузка в память выполняются автоматически, поэтому в повседневном использовании часто не нужно выполнять pull отдельно.
Разные теги спецификаций соответствуют разным официальным предварительно собранным файлам моделей; вы не можете указать дополнительную точность квантования при загрузке. Если вы хотите самостоятельно сжать большую модель до меньшего размера, вам нужно использовать команду create для квантования, которая рассматривается в главе о настройке Modelfile.
Просмотр локальных моделей: list и show
list перечисляет все локальные модели и их использование дискового пространства; это наиболее часто используемая команда для просмотра списка.
Список локальных моделей:
ollama list
Например:
$ ollama list NAME ID SIZE MODIFIED qwen3.5:0.8b 9e3f4b3a1c2d 1.0GB 5 minutes ago qwen3.5:4b b1c7d9e2f3a4 3.4GB 2 days ago qwen3.5:latest a8b2c9d3e4f5 6.6GB 2 hours ago
Четыре столбца — это имя модели, отпечаток версии, использование дискового пространства и время последнего изменения. Когда дискового пространства становится мало, проверка столбца SIZE — самый прямой подход.
Чтобы глубже изучить сведения о модели, используйте команду show:
# 查看模型详情：能力、参数、系统提示词、许可证等 ollama show qwen3.5
show может ответить на несколько типичных вопросов: какие возможности поддерживает модель (чат, зрение, вызов инструментов), какие параметры генерации используются по умолчанию, что содержит системный промпт и насколько велико контекстное окно.
У него также есть продвинутое применение: экспорт полной конфигурации модели в виде Modelfile:
Пример
ollama show --modelfile qwen3.5
Этот рабочий процесс «просмотреть рецепт — изменить — пересобрать» будет полностью рассмотрен в главе о настройке Modelfile.
Просмотр запущенных моделей: ollama ps
list смотрит на диск, а ps — на память: что загружено, сколько занимает и когда будет выгружено.
Пример
ollama ps
$ ollama ps NAME ID SIZE PROCESSOR CONTEXT UNTIL qwen3.5:9b a8b2c9d3e4f5 9.6GB 100% GPU 131072 4 minutes from now
Значение каждого столбца следующее:
| Column | Значение |
|---|---|
| NAME / ID | Имя модели и отпечаток версии, как в list |
| SIZE | Общий объём памяти, который сейчас занимает модель (включая RAM и VRAM) |
| PROCESSOR | Место загрузки: 100% GPU означает полностью на видеокарте; 100% CPU означает полностью в RAM; соотношение, например 48%/52% CPU/GPU, указывает на недостаток VRAM, и модель была разделена |
| CONTEXT | Текущий выделенный размер контекстного окна |
| UNTIL | Оставшееся время до автоматической выгрузки (обратный отсчёт keep-alive) |
Столбец PROCESSOR — первое место, которое стоит проверить при диагностике вопроса «почему модель работает медленно»: если в нём не 100% GPU, значит, модель загружена в VRAM не полностью. Конкретные методы оптимизации производительности подробно рассматриваются в главе о GPU и производительности.
Копирование и переименование: ollama cp
cp присваивает существующей модели новое имя; обычно используется для переименования или сохранения снимка.
Пример
ollama cp qwen3.5:4b example-test
# Использовать её как обычную модель
ollama run example-test
Есть очень практичный продвинутый приём: «заимствование имени» для модели.
Некоторые инструменты жёстко прописывают имена моделей (например, gpt-3.5-turbo). Скопировав локальную модель с помощью cp на это имя, вы можете позволить таким инструментам напрямую использовать локальную модель:
Пример
ollama cp qwen3.5 gpt-3.5-turbo
cp выполняется почти мгновенно, потому что он лишь создаёт новую запись имени модели, указывающую на исходные файлы модели; он не создаёт на диске вторую копию данных размером в несколько GB.
Удаление моделей и очистка диска: ollama rm
rm удаляет локальные модели и является лекарством от проблемы "библиотека моделей только растёт и никогда не уменьшается".
Пример
ollama rm qwen3.5:0.8b
$ ollama rm qwen3.5:0.8b deleted 'qwen3.5:0.8b'
Рекомендуемый порядок очистки таков: сначала используйте ollama list, чтобы найти большие модели, которые больше не используются, затем удалите их по одной с помощью rm.
Если несколько тегов совместно используют одни и те же базовые файлы, удаление одного из тегов не повлияет на нормальное использование других тегов.
Обязательно также обработайте модели, имена которых были заимствованы с помощью cp: после удаления исходной модели копия с заимствованным именем всё ещё существует и продолжает занимать место. Не позволяйте им становиться невидимыми чёрными дырами на диске.
Остановка моделей и механизм резидентности keep-alive
Давайте сначала посмотрим на схему жизненного цикла модели, и сразу станет ясно, на каком шаге действует каждая команда управления.
Ключевой механизм — keep-alive: после завершения диалога с моделью модель не выгружается сразу, а по умолчанию остаётся резидентной в памяти или VRAM на 5 минут.
Если в течение этих 5 минут поступит другой запрос, ответ больше не ждёт загрузки модели; если после этого времени новых запросов нет, модель автоматически выгружается, и память освобождается.
Чтобы модель немедленно освободила ресурсы, используйте команду stop, чтобы выгрузить её вручную:
Пример
ollama stop qwen3.5:4b
Есть три способа настроить время удержания модели в памяти:
| Метод | Как это сделать | Сценарий использования |
|---|---|---|
| Изменить глобальное значение по умолчанию | Задайте переменную среды OLLAMA_KEEP_ALIVE, например, 30m, 2h | Когда серверу нужна единая политика удержания в памяти |
| Указать для каждого запроса | Передайте параметр keep_alive при вызове API; например, -1 означает, что модель остаётся в памяти и никогда не выгружается | Когда прикладной уровень обращается с разными моделями по-разному |
| Немедленно выгрузить | ollama stop <имя модели> | Временно освободить видеопамять для других задач |