Comandos relacionados con Ollama

Ollama ofrece múltiples herramientas de línea de comandos (CLI) para que los usuarios interactúen con los modelos que se ejecutan localmente.

Formato básico:

ollama <command> [args]

Podemos usarollama --helppara ver qué comandos incluye:

Large language model runner

Usage:
  ollama [flags]
  ollama [command]

Available Commands:
  serve       Start ollama
  create      Create a model from a Modelfile
  show        Show information for a model
  run         Run a model
  stop        Stop a running model
  pull        Pull a model from a registry
  push        Push a model to a registry
  list        List models
  ps          List running models
  cp          Copy a model
  rm          Remove a model
  help        Help about any command

Flags:
  -h, --help      help for ollama
  -v, --version   Show version information

1. Método de uso

  • ollama [flags]: Ejecutar ollama usando indicadores (flags).

  • ollama [command]: Ejecutar un comando específico de ollama.

2. Comandos disponibles

  • serve: Iniciar el servicio de ollama.
  • create: Crear un modelo a partir de un Modelfile.
  • show: Mostrar información detallada de un modelo.
  • run: Ejecutar un modelo.
  • stop: Detener un modelo en ejecución.
  • pull: Descargar un modelo de un registro (registry).
  • push: Subir un modelo a un registro.
  • list: Listar todos los modelos.
  • ps: Listar todos los modelos en ejecución.
  • cp: Copiar un modelo.
  • rm: Eliminar un modelo.
  • help: Obtener información de ayuda sobre cualquier comando.

3. Indicadores (Flags)

  • -h, --help: Mostrar la información de ayuda de ollama.
  • -v, --version: Mostrar la información de versión.

Ejemplo completo:

Comando Descripción Ejemplo
ollama run Ejecutar modelo. Si no existe, se descarga automáticamente. ollama run llama3
ollama pull Descargar modelo. Descargar el modelo del registro sin ejecutarlo. ollama pull mistral
ollama list Listar modelos. Mostrar todos los modelos descargados localmente. ollama list
ollama rm Eliminar modelo. Eliminar el modelo local para liberar espacio. ollama rm llama3
ollama cp Copiar modelo. Copiar un modelo existente con un nuevo nombre (para pruebas). ollama cp llama3 my-model
ollama create Crear modelo. Crear un modelo personalizado a partir de un Modelfile (avanzado). ollama create my-bot -f ./Modelfile
ollama show Mostrar información. Ver los metadatos, parámetros o el Modelfile del modelo. ollama show --modelfile llama3
ollama ps Ver procesos. Mostrar los modelos en ejecución actual y el uso de memoria de video. ollama ps
ollama push Subir modelo. Subir tu modelo personalizado a ollama.com. ollama push my-username/my-model
ollama serve Iniciar servicio. Iniciar el servicio API de Ollama (normalmente se ejecuta automáticamente en segundo plano). ollama serve
ollama help Ayuda. Ver la información de ayuda de cualquier comando. ollama help run

1. Descargar y eliminar modelos

pull
Descargar un modelo remoto al equipo local.

ollama pull <model>

rm / remove
Eliminar un modelo local.

ollama rm <model>

list / ls
Listar todos los modelos locales.

ollama list

2. Ejecutar modelos

run
Ejecutar el modelo en modo interactivo sin salir.

ollama run <model>

Se puede incluir información del sistema y prompt:

ollama run <model> -s "<system>" -p "<prompt>"

run + script
Leer el prompt desde un archivo:

ollama run <model> < input.txt

Cuando escribesollama runDespués de entrar en la interfaz de chat, ya no estás operando la línea de comandos, sino conversando con una IA. En este momento puedes usar los atajos que comienzan con/para controlar la conversación:

  • /byeo/exit：¡Lo más importante!Salir de la interfaz de chat y volver a la línea de comandos.
  • /clear: Limpiar la memoria de contexto actual (iniciar una nueva conversación).
  • /show info: Ver información detallada de los parámetros del modelo actual.
  • /set parameter seed 123: Establecer la semilla aleatoria (uso avanzado, para reproducir resultados).
  • /help: Ver todos los atajos disponibles en el chat.

3. Interfaz de inferencia (ejecución única)

generate
Ejecutar una única inferencia y generar texto.

ollama generate <model> -p "<prompt>"

4. Crear y modificar modelos

create
Crear un modelo local con Modelfile.

ollama create <model-name> -f Modelfile

cp
Copiar un modelo con un nuevo nombre.

ollama cp <src> <dst>

5. Relacionado con el servidor

serve
Iniciar el servicio local de Ollama (por defecto 11434).

ollama serve

run serverless
Cuandoollama runse iniciará automáticamente el servicio en segundo plano, sin necesidad de ejecutarlo por separado.

6. Información del modelo

show
Ver metadatos, parámetros y plantillas del modelo.

ollama show <model>

7. Parámetros específicos

La mayoría de estos parámetros se pueden usar en run/generate:

--num-predict <number>    限制输出 token 数
--temperature <float>     控制随机性
--top-k <int>             采样范围
--top-p <float>           核采样
--seed <int>              固定随机性
--format json             输出 JSON
--keepalive <seconds>     会话保持时间

8. Directivas de Modelfile

Se usan al construir el modelo:

  • FROM <model>: Modelo base
  • SYSTEM "xxx": Establecer el prompt del sistema
  • PARAMETER key=value: Establecer parámetros predeterminados
  • TEMPLATE "xxx": Plantilla de Chat personalizada
  • LICENSE "xxx": Establecer la licencia
  • ADAPTER <file> / WEIGHTS <file>: Cargar LoRA o pesos adicionales

9. API (cuando serve está en ejecución)

Endpoints RESThttp://localhost:11434/api：

  • /api/generate: Generación de texto
  • /api/chat: Interfaz de chat en streaming
  • /api/pull: Descarga remota
  • /api/tags: Lista de modelos locales

Ejemplo de llamada (curl):

curl http://localhost:11434/api/generate \
  -d '{"model":"qwen2.5","prompt":"hello"}'

10. Avanzado

Ejecutar con parámetros personalizados:

ollama run <model> --temperature 0.2 --top-p 0.9

Sesión persistente (conservar contexto):
La sesión se gestiona automáticamente mediante la caché interna del modelo, sin necesidad de comandos adicionales.

Otras extensiones