Ollama Cloud: локальный и облачный гибрид
Не хватает локальной VRAM, но хочется использовать огромную модель с сотнями миллиардов параметров? Ollama Cloud предлагает третий вариант: модель работает на облачных GPU, а ваш код и инструменты не чувствуют никакой разницы.
В этой главе рассказывается, как работают облачные модели, прямой доступ к API, чисто локальный режим и механизм вывода из эксплуатации, а в конце приводится стратегия выбора для гибридного использования.
Что такое облачная модель
Облачная модель — это новый тип модели в Ollama: веса хранятся в облаке Ollama, вывод выполняется на официальном кластере GPU, а локальная сторона только пересылает запросы.
Она решает очень конкретную проблему: флагманские open-source модели с сотнями миллиардов параметров часто требуют сотен GB VRAM, что делает локальное развёртывание невозможным для отдельных пользователей и небольших команд, но потребность использовать их реальна.
Доступные облачные модели имеют тег cloud в библиотеке моделей. На примере семейства qwen3.5: флагманская спецификация — qwen3.5:cloud.
Четыре способа запуска облачных моделей
Сначала выполните однократную подготовку: зарегистрируйтесь и войдите в свою учётную запись Ollama, затем загрузите тег cloud (это всего лишь "указатель", и он не скачивает веса).
Войдите в свою учётную запись Ollama (требуется для облачных моделей):
ollama signin
Введите свой email в окне входа, которое открывается в браузере (если позже потребуется проверка по телефону, подойдёт китайский местный номер телефона):
Загрузка тега cloud завершается почти мгновенно:
ollama pull qwen3.5:cloud
Запуск этого даёт опыт, идентичный локальным моделям:
ollama run qwen3.5:cloud
В интерфейсе вы можете увидеть значок облака:
Вызовы Python
Пример
# Единственное отличие от локальных моделей: в имени модели есть :cloud
stream = chat(
model='qwen3.5:cloud',
messages=[{'role': 'user', 'content': 'Опиши учебник по Python для новичков в одном предложении'}],
stream=True,
)
for chunk in stream:
print(chunk.message.content, end='', flush=True)
Вызовы JavaScript
Пример
const response = await ollama.chat({
model: 'qwen3.5:cloud',
messages: [{ role: 'user', content: 'Опиши учебник по Python для новичков в одном предложении' }],
stream: true,
})
for await (const chunk of response) {
process.stdout.write(chunk.message.content)
}
вызовы curl
Пример
"model": "qwen3.5:cloud",
"messages": [{ "role": "user", "content": "Представь учебник Python для новичков одним предложением" }],
"stream": false
}'
Прозрачная переадресация: локальный API также может вызывать облачные модели
Изящная особенность Cloud в том, что логика переадресации полностью обрабатывается локальным сервисом.
При запросе модели :cloud с localhost:11434 локальный сервис автоматически выполняет аутентификацию и переадресацию в облако, а ваш код приложения, инструменты Agent и интеграции с редакторами остаются полностью неосведомлёнными.
Это означает, что существующие интеграции могут сразу воспользоваться возможностями больших моделей: измените имя модели Claude Code на qwen3.5:cloud, и тот же инструментарий переключится на флагманскую спецификацию.
В настоящее время есть одно известное ограничение: облачные модели пока не поддерживают структурированный вывод (параметр format). Задачи, требующие ограничений JSON Schema, по-прежнему следует поручать локальным моделям или разбирать на уровне приложения.
Прямое подключение к ollama.com/api
Помимо переадресации через локальный сервис, можно также пропустить локальную часть и вызывать облачный API напрямую; это подходит для сценариев, когда на сервере не установлен Ollama.
Сначала создайте API-ключ на странице настроек официального сайта, затем передавайте его в формате Bearer:
Пример
curl https://ollama.com/api/chat \
-H "Authorization: Bearer $OLLAMA_API_KEY" \
-d '{
"model": "qwen3.5",
"messages": [{ "role": "user", "content": "Представь учебник Python для новичков одним предложением" }],
"stream": false
}'
# Облако также может вывести список доступных моделей
curl https://ollama.com/api/tags
Официальный SDK также поддерживает указание хоста и заголовка аутентификации. О способе подключения см. пример Client(host=...) в главе «Программный доступ»; просто замените хост на https://ollama.com.
API-ключи в настоящее время не истекают, но вы можете отозвать их в любое время на странице настроек официального сайта; они равнозначны вашим учётным данным для использования облака, поэтому не добавляйте их в репозитории кода.
Чисто локальный режим: полностью отключить облако
Команды, которые категорически не допускают выхода данных за пределы своего домена, могут полностью отключить облачные функции Ollama, сделав её чисто локальным программным обеспечением.
Выберите любой из двух способов отключения, затем перезапустите Ollama, чтобы изменения вступили в силу:
Пример
# { "disable_ollama_cloud": true }
# Способ 2: переменная среды
OLLAMA_NO_CLOUD=1 ollama serve
# После того как это вступит в силу, в логе будет показано: Ollama cloud disabled: true
Отключение облачных функций также приведёт к потере облачных моделей и возможностей онлайн-поиска, но все функции локальных моделей останутся без изменений. В сочетании с блокировкой исходящих подключений на брандмауэре можно построить полностью физически изолированный сервис моделей.
Механизм вывода из эксплуатации облачных моделей
У облачных моделей есть жизненный цикл: по мере выпуска более сильных открытых моделей официальная команда периодически выводит из эксплуатации старые облачные модели и заранее уведомляет пользователей по электронной почте и через объявления на официальном сайте, а также предлагает рекомендуемые замены.
Официальное объявление имеет форму таблицы соответствия «дата вывода из эксплуатации — модель — рекомендуемая замена», например, облачная модель будет отключена в определённую дату и перенесена на новую версию; достаточно соответственно изменить имя модели.
Две инженерные рекомендации:
Во-первых, при использовании облачных моделей в автоматизированных рабочих процессах сделайте имя модели элементом конфигурации, а не жёстко прописывайте его в коде, чтобы при переключении из-за вывода из эксплуатации нужно было изменить только конфигурацию.
Во-вторых, подготовьте локальные альтернативные модели с эквивалентными возможностями для критически важных бизнес-задач, чтобы можно было немедленно переключиться на резерв, когда облачная модель выведена из эксплуатации или сеть работает некорректно.
Вывод из эксплуатации применяется только к облачным моделям: веса моделей, скачанные локально, всегда доступны для использования, поэтому в этом руководстве всегда подчёркивается локальный подход.
Стратегия выбора: когда что использовать
| Сценарий | Рекомендуемое решение | Причина |
|---|---|---|
| Ежедневные задачи, укладывающиеся в VRAM | Локальная модель | Нулевая стоимость, нулевая задержка, данные никогда не покидают устройство |
| Конфиденциальные данные | Локальная модель (или чисто локальный режим) | Соответствие требованиям и контролируемость |
| Огромные потребности модели / нет GPU-устройств | Облачная модель | Не требуется инвестиций в оборудование, инструментальная цепочка не меняется |
| Тестирование новых моделей | Сначала попробуйте облако, затем локализуйте после подтверждения ценности | Избегайте покупки оборудования только ради оценки |
| Долгосрочные автоматизированные рабочие процессы | Локально как основной + облако как резервный | В облаке есть механизм вывода из эксплуатации; локально такого риска нет |
Лучшая практика гибридной архитектуры в одном предложении: повседневный трафик идёт через локальную модель, тяжёлые задачи используют :cloud по требованию, а все имена моделей попадают в файлы конфигурации.
Другие расширения