Связанные команды Ollama

Ollama предоставляет множество инструментов командной строки (CLI), позволяющих пользователям взаимодействовать с локально работающими моделями.

Базовый формат:

ollama <command> [args]

Мы можем использоватьollama --help, чтобы посмотреть, какие команды доступны:

Large language model runner

Usage:
  ollama [flags]
  ollama [command]

Available Commands:
  serve       Start ollama
  create      Create a model from a Modelfile
  show        Show information for a model
  run         Run a model
  stop        Stop a running model
  pull        Pull a model from a registry
  push        Push a model to a registry
  list        List models
  ps          List running models
  cp          Copy a model
  rm          Remove a model
  help        Help about any command

Flags:
  -h, --help      help for ollama
  -v, --version   Show version information

1. Использование

  • ollama [flags]: Запуск ollama с флагами.

  • ollama [command]: Запуск определённой команды ollama.

2. Доступные команды

  • serve: Запуск службы ollama.
  • create: Создать модель из Modelfile.
  • show: Показать подробную информацию о модели.
  • run: Запустить модель.
  • stop: Остановить запущенную модель.
  • pull: Загрузить модель из реестра моделей.
  • push: Отправить модель в реестр моделей.
  • list: Показать список всех моделей.
  • ps: Показать список всех запущенных моделей.
  • cp: Скопировать модель.
  • rm: Удалить модель.
  • help: Получить справочную информацию о любой команде.

3. Флаги

  • -h, --help: Показать справочную информацию для ollama.
  • -v, --version: Показать информацию о версии.

Полный пример:

Команда Описание Пример
ollama run Запустить модель. Если она не существует, она будет автоматически загружена. ollama run llama3
ollama pull Загрузить модель. Скачать модель из реестра, не запуская её. ollama pull mistral
ollama list Список моделей. Показать все локально загруженные модели. ollama list
ollama rm Удалить модель. Удалить локальную модель, чтобы освободить место. ollama rm llama3
ollama cp Скопировать модель. Скопировать существующую модель под новым именем (для тестирования). ollama cp llama3 my-model
ollama create Создать модель. Создать пользовательскую модель из Modelfile (для опытных). ollama create my-bot -f ./Modelfile
ollama show Показать информацию. Просмотреть метаданные, параметры или Modelfile модели. ollama show --modelfile llama3
ollama ps Просмотреть процессы. Показать работающие в данный момент модели и использование VRAM. ollama ps
ollama push Отправить модель. Загрузить вашу пользовательскую модель на ollama.com. ollama push my-username/my-model
ollama serve Запуск сервиса. Запустите API-сервис Ollama (обычно работает автоматически в фоне). ollama serve
ollama help Справка. Просмотр справочной информации для любой команды. ollama help run

1. Скачивание и удаление моделей

pull
Скачать удалённую модель на локальный компьютер.

ollama pull <model>

rm / remove
Удалить локальную модель.

ollama rm <model>

list / ls
Вывести список всех локальных моделей.

ollama list

2. Запуск моделей

run
Запустить модель в интерактивном режиме, не выходя из него.

ollama run <model>

Можно включить системную информацию и промпт:

ollama run <model> -s "<system>" -p "<prompt>"

run + script
Прочитать промпт из файла:

ollama run <model> < input.txt

Когда вы вводитеollama runПосле входа в интерфейс чата вы больше не работаете с командной строкой, а общаетесь с ИИ. На этом этапе вы можете использовать/команды быстрого доступа, начинающиеся с префикса, для управления разговором:

  • /byeили/exit：Самое важное!Выйти из интерфейса чата и вернуться в командную строку.
  • /clear: Очистить текущую память контекста (начать новый разговор).
  • /show info: Просмотреть подробную информацию о параметрах текущей модели.
  • /set parameter seed 123: Установить случайное зерно (продвинутая техника, используется для воспроизведения результатов).
  • /help: Просмотреть все доступные команды быстрого доступа в чате.

3. Интерфейс инференса (однократное выполнение)

generate
Выполнить однократный инференс и вывести текст.

ollama generate <model> -p "<prompt>"

4. Создание и изменение моделей

create
Создать локальную модель из Modelfile.

ollama create <model-name> -f Modelfile

cp
Скопировать модель под новым именем.

ollama cp <src> <dst>

5. Связанное с сервером

serve
Запустить локальный сервис Ollama (по умолчанию 11434).

ollama serve

run serverless
Когдаollama runОн автоматически запускает фоновый сервис; нет необходимости запускать его отдельно.

6. Информация о модели

show
Просмотреть метаданные, параметры и шаблоны модели.

ollama show <model>

7. Специальные параметры

Большинство этих параметров можно использовать в run/generate:

--num-predict <number>    限制输出 token 数
--temperature <float>     控制随机性
--top-k <int>             采样范围
--top-p <float>           核采样
--seed <int>              固定随机性
--format json             输出 JSON
--keepalive <seconds>     会话保持时间

8. Директивы Modelfile

Используется при сборке модели:

  • FROM <model>: Базовая модель
  • SYSTEM "xxx": Задать системный промпт
  • PARAMETER key=value: Задать параметры по умолчанию
  • TEMPLATE "xxx": Настроить шаблон чата
  • LICENSE "xxx": Задать лицензию
  • ADAPTER <file> / WEIGHTS <file>: Загрузить LoRA или дополнительные веса

9. API (когда serve запущен)

REST-эндпоинтыhttp://localhost:11434/api：

  • /api/generate: Генерация текста
  • /api/chat: Интерфейс потокового чата
  • /api/pull: Удалённая загрузка
  • /api/tags: Список локальных моделей

Пример вызова (curl):

curl http://localhost:11434/api/generate \
  -d '{"model":"qwen2.5","prompt":"hello"}'

10. Продвинутый уровень

Запуск с пользовательскими параметрами:

ollama run <model> --temperature 0.2 --top-p 0.9

Постоянная сессия (с сохранением контекста):
Сессии автоматически управляются внутренним кэшем модели, без необходимости дополнительных команд.

Другие расширения