Biblioteca de modelos de Ollama y selección de modelos
Este capítulo revisa de manera transversal los métodos de lectura de la biblioteca de modelos de Ollama, el posicionamiento de las principales familias de modelos y el equilibrio de la precisión de cuantización, y finalmente te ofrece un método práctico para elegir el modelo según la tarea.
Si eliges el modelo correcto, la mitad de los problemas de rendimiento desaparecen.
Cómo leer la biblioteca de modelos: sistema de etiquetas de capacidades
Biblioteca de modelos de Ollama (ollama.com/search) utiliza un sistema de etiquetas para marcar las capacidades de cada modelo. El primer paso para elegir un modelo es filtrar por etiqueta.
| Etiqueta | Significado | Uso típico |
|---|---|---|
| vision | Admite entrada de imágenes | Preguntas y respuestas sobre imágenes, comprensión de capturas, reconocimiento de documentos |
| tools | Admite llamada a herramientas | Agentes, llamadas a funciones, automatización |
| thinking | Admite modo de pensamiento | Matemáticas, lógica, razonamiento complejo |
| embedding | Convierte texto en vectores | RAG, búsqueda semántica, base de conocimiento |
| cloud | Se ejecuta en la nube, sin necesidad de cómputo local | Usar modelos grandes cuando la configuración local es insuficiente |
Tomando como ejemplo el qwen3.5 de este tutorial, en la biblioteca de modelos lleva simultáneamente las etiquetas vision, tools y thinking; es un modelo "todo en uno", y esta es la razón por la que todo el libro lo elige como modelo de prueba.
Cada página de modelo también enumera todas las etiquetas (tags), el tamaño de descarga, la ventana de contexto, el tipo de entrada y la fecha de actualización. Tómate un minuto para leerlo antes de descargar y ahorrarás mucho tiempo de prueba y error.
Resumen de las principales familias de modelos
Ollama no es un modelo, sino una plataforma que ejecuta modelos de código abierto de distintos proveedores. Estas son algunas de las familias más comunes actualmente:
| Familia | Desarrollador | Características de posicionamiento | Escenarios adecuados |
|---|---|---|---|
| Qwen (Tongyi Qianwen) | Alibaba | Amplia gama de especificaciones, fuerte capacidad en chino, soporte completo de multimodalidad y llamada a herramientas | Tareas en chino, desarrollo general, ejemplos de este tutorial |
| DeepSeek | DeepSeek | La serie de razonamiento (R1) se destaca por su cadena de pensamiento | Matemáticas, lógica, tareas que requieren razonamiento profundo |
| Gemma | Excelente rendimiento en especificaciones ligeras, multimodal | Dispositivos de gama baja, tareas ligeras | |
| Llama | Meta | El ecosistema más amplio, muchos recursos de la comunidad | Tareas generales, escenarios en inglés |
| GPT-OSS | OpenAI | La serie de código abierto de OpenAI, admite niveles de pensamiento | Tareas generales, experimentos con agentes |
| Mistral | Mistral AI | Representante del grupo europeo, alta eficiencia en modelos pequeños | Implementación ligera, multilingüe |
La velocidad de iteración de los modelos se mide en semanas; las especificaciones y capacidades disponibles concretas se rigen por la página en tiempo real de la biblioteca de modelos. El enfoque para elegir el modelo es más duradero que las conclusiones específicas: primero determina la tarea y las etiquetas de capacidad, y luego observa la coincidencia entre especificaciones y hardware.
Precisión de cuantización: equilibrio entre tamaño y calidad
La cuantización es una técnica que comprime los pesos del modelo de decimales de alta precisión a almacenamiento de menor ancho de bits; es la clave para que los modelos grandes puedan ejecutarse en tarjetas gráficas pequeñas.
Para el mismo modelo, las distintas versiones cuantizadas tienen aproximadamente la siguiente relación entre tamaño y calidad:
| Precisión | Tamaño relativo | Calidad | Escenarios aplicables |
|---|---|---|---|
| fp16 / fp32 | Base (máxima) | Sin pérdida | Pesos originales, antes del entrenamiento y la cuantización |
| q8_0 | Aproximadamente 1/2 | Casi sin pérdida | La mejor opción cuando hay suficiente memoria de video |
| q4_K_M | Aproximadamente 1/4 | Ligera disminución, la mejor relación calidad-precio | La elección de la gran mayoría de implementaciones locales |
| q4_K_S | Ligeramente más pequeño que q4_K_M | Un poco más bajo que q4_K_M | Maximizar al límite la memoria de video |
Los modelos en la biblioteca ya vienen cuantizados por defecto (comúnmente q4_K_M), listos para usar tras la descarga, sin que tengas que preocuparte.
Si quieres confirmar la precisión real de un modelo local, puedes consultar el nivel de cuantización con las interfaces de la serie show o con la API; si quieres comprimir manualmente un modelo fp16 a un tamaño pequeño, basta con usar el parámetro quantize del comando create; el próximo capítulo sobre Modelfile incluye una demostración completa.
Elegir modelo según la tarea
Convierte "elegir modelo" en un problema de clasificación: primero determina la tarea y luego consulta las recomendaciones.
| Tarea | Modelo recomendado | Referencia de hardware | Notas |
|---|---|---|---|
| Conversación diaria, redacción | qwen3.5:4b ~ 9b | Se puede ejecutar con 16 GB de RAM | La mejor relación calidad-precio, etiquetas de capacidad completas |
| Generación de código | qwen3-coder | Se recomienda más de 24 GB de memoria de video | Requiere 64K de contexto al usarlo con herramientas de codificación |
| Matemáticas, razonamiento lógico | deepseek-r1 / modo de pensamiento qwen3.5 | Configuración estándar según la especificación | Al activar think, es más estable pero más lento |
| Ver imágenes, comprensión de capturas | qwen3.5 (visión nativa) | Igual a las especificaciones de diálogo | Pasar la ruta de la imagen directamente por línea de comandos |
| RAG, búsqueda semántica | embeddinggemma / qwen3-embedding | Tamaño pequeño, requisitos bajos | Los modelos de embedding no se pueden usar para chatear |
Los modelos de embedding y los modelos generativos son dos cosas distintas: el primero solo convierte texto en vectores para búsqueda y cálculo de similitud, y no genera respuestas textuales. Al construir una base de conocimiento, necesitas ambos; no los mezcles.
Coincidencia entre tamaño y hardware
El método de descarte es más práctico que memorizar: primero usa una regla aproximada para determinar si se puede ejecutar o no, y luego ajusta.
Regla aproximada: el tamaño de descarga del modelo equivale aproximadamente al requisito mínimo de memoria RAM / memoria de video; al ejecutarlo, reserva 1-2 GB adicionales de sobrecarga; cuanto mayor sea la ventana de contexto, más se añade.
| Tu memoria RAM / memoria de video disponible | Límite superior de especificación que puede ejecutar | Recomendación |
|---|---|---|
| 8GB | qwen3.5:0.8b ~ 2b | Priorizar la experiencia, aceptar el límite de capacidad |
| 16GB | qwen3.5:4b ~ 9b | Punto óptimo para uso diario |
| 8 GB de memoria de video (tarjeta gráfica dedicada) | qwen3.5:9b | Solo se obtiene velocidad manteniendo GPU al 100 % |
| 24 GB de memoria de video | qwen3.5:27b / qwen3-coder | Desarrollo avanzado y tareas de código |
| Más de 48 GB de memoria de video | 35b+ y combinaciones de múltiples tarjetas | El contexto predeterminado también aumenta automáticamente |
Después de ejecutarlo, usaollama psVerificación: si la columna PROCESSOR muestra 100 % GPU, significa que todo está en la memoria de video; si aparece una proporción mixta CPU/GPU, significa que la memoria de video es insuficiente y se ha dividido, por lo que la velocidad disminuirá notablemente. En ese caso, debes cambiar a una especificación más pequeña en lugar de forzar la máquina.
Modelos en la nube y mecanismo de retiro
Cuando el cómputo local no es suficiente y quieres usar modelos muy grandes, Ollama ofrece una tercera vía: los modelos en la nube con la etiqueta cloud.
Ejemplo
ollama signin
# Ejecuta el modelo en la nube como un modelo local, sin necesidad de descargar los pesos
ollama run qwen3.5:cloud
La forma de usar los modelos en la nube es exactamente igual que la de los modelos locales: los mismos comandos, la misma API, la misma integración de herramientas; solo que la inferencia ocurre en los servidores de Ollama.
Ten en cuenta que los modelos en la nube tienen un mecanismo de retiro: el proveedor retira periódicamente los modelos antiguos y ofrece alternativas recomendadas, notificándolo por correo y anuncios en el sitio web oficial. Los flujos de automatización que dependen de un modelo en la nube deben estar atentos a este tipo de avisos.
Otras extensionesLos modelos locales no se ven afectados por el mecanismo de retiro; los pesos descargados en el disco se pueden usar siempre. Esta es también la característica que hace que las soluciones 100 % locales den más tranquilidad a los equipos.