Todas las IA que usas a diario —ChatGPT, Claude, Gemini— viven en servidores ajenos. Escribes, tu texto viaja a un centro de datos, alguien lo procesa, te devuelve la respuesta. Funciona de maravilla y pagas por ello: con dinero o con tus datos.
Ollama propone justo lo contrario: bajar el modelo a tu ordenador y correrlo ahí. Sin internet, sin suscripción, sin que tus prompts salgan de casa. Suena ideal hasta que aparece la letra pequeña: hace falta hardware. Vamos a verlo sin humo.
Nota
Ollama no es un modelo de IA, es el programa que hace fácil ejecutarlos. Piensa en él como el "reproductor" y en Llama, Qwen o DeepSeek como los "discos" que metes dentro.
Qué es Ollama
Ollama es una herramienta gratuita y de código abierto que descarga, gestiona y ejecuta modelos de lenguaje (LLM) directamente en tu máquina. Te da tres formas de usarlo: una línea de comandos sencilla, una interfaz gráfica de escritorio para quien no quiere terminal, y una API local para conectar tus propias aplicaciones.
Su gracia es quitar toda la fricción. Antes, correr un modelo open source en local significaba pelearte con dependencias de Python, drivers de GPU, formatos de pesos y configuraciones que te robaban una tarde. Ollama empaqueta todo eso: un comando descarga el modelo, lo optimiza para tu hardware y lo deja listo para hablar. La complejidad sigue ahí debajo, pero ya no la tocas tú.
Por debajo no entrena nada propio: orquesta los mejores modelos de pesos abiertos del momento. En su biblioteca conviven las familias grandes —Llama de Meta, Qwen de Alibaba, DeepSeek, Gemma de Google, Mistral— y muchas variantes especializadas en código, razonamiento o visión. Tú eliges cuál según la tarea y los recursos que tengas.
Cómo se instala y se usa
Empezar es directo. Descargas el instalador para macOS, Windows o Linux desde la web oficial, lo ejecutas y ya tienes el motor corriendo en segundo plano. No hay configuración inicial obligatoria.
A partir de ahí, todo gira en torno a un comando. Para descargar un modelo y empezar a chatear basta con esto:
ollama run llama3La primera vez se baja el modelo (puede ser de varios gigas, paciencia con la conexión); las siguientes arranca al instante porque ya lo tienes en disco. Cuando termina, te deja un prompt en la terminal y conversas como en cualquier chat, pero sin internet de por medio.
El día a día se resume en unos pocos comandos:
ollama run <modelo>— descarga si hace falta y abre el chat.ollama pull <modelo>— solo descarga, sin abrir.ollama list— lista los modelos que ya tienes.ollama rm <modelo>— borra uno para liberar disco.
Quien prefiera no tocar la terminal tiene la app de escritorio con interfaz gráfica: misma potencia, ventana de chat normal. Y quien programe tiene la API, que es donde Ollama enseña los dientes de verdad.
Los modelos que puedes correr
Aquí está la libertad de Ollama: no te casa con un solo modelo. Su biblioteca cubre las grandes familias de pesos abiertos y se actualiza constantemente conforme salen versiones nuevas.
- Llama (Meta) — la familia más popular y un buen punto de partida; equilibrio entre calidad y peso.
- Qwen (Alibaba) — de las más activas en la biblioteca, con variantes muy fuertes en código y razonamiento que rinden sorprendentemente bien en hardware de consumo.
- DeepSeek — referencia para razonamiento con cadena de pensamiento; sus modelos R-series destacan en problemas complejos.
- Gemma (Google) — modelos compactos con visión y llamada a herramientas, pensados para correr en poca VRAM.
- Mistral y derivados — ligeros, rápidos y muy capaces para su tamaño.
Cada modelo viene en varios tamaños (medidos en miles de millones de parámetros: 7B, 13B, 70B…) y en distintos niveles de cuantización, que es una compresión que reduce el peso a cambio de algo de precisión. La regla mental: modelo más grande = más listo, pero también más RAM/VRAM y más lento. Empezar por uno pequeño y subir si tu equipo aguanta es la jugada sensata.
Requisitos y rendimiento (la letra pequeña)
Esta es la parte que el marketing de "IA gratis en tu PC" suele esconder. Ollama es gratis, pero el hardware lo pones tú, y ahí no hay magia.
El mínimo realista para arrancar son unos 8 GB de RAM y espacio en disco para los pesos. Con eso corres modelos pequeños (clase 7B-8B) de forma decente. Para modelos de 13B y más, vas a querer 16 GB o bastante más.
El factor que de verdad cambia la experiencia es la GPU. Ollama acelera con NVIDIA (CUDA), AMD (ROCm) y Apple Silicon (Metal) en los Mac. La diferencia es brutal: un modelo que en CPU tarda decenas de segundos en responder, con una GPU decente contesta en pocos segundos. En CPU funciona, sí, pero la sensación pasa de "asistente" a "espera y reza".
Consejo
Antes de bajar el modelo más grande que veas, mira tu RAM y tu VRAM. Es mejor un modelo de 8B que vuela que uno de 70B que se arrastra y te hace odiar la experiencia. Empieza pequeño, mide, y sube solo si tu equipo respira.
La API local: donde Ollama se vuelve serio
Más allá del chat, Ollama levanta una API REST en localhost:11434, y aquí viene su mejor truco: tiene un endpoint compatible con el formato de OpenAI.
¿Qué significa en la práctica? Que si tienes un proyecto escrito contra la API de OpenAI, migrarlo a tu modelo local es casi cambiar una línea: apuntas la base_url del SDK a tu localhost:11434/v1 y listo. El mismo código que hablaba con los servidores de OpenAI ahora habla con el modelo que corre en tu máquina, gratis y sin que nada salga de ahí.
Eso abre la puerta a un montón de integraciones: asistentes de código en el editor, apps de chat de escritorio como las que se conectan por API, automatizaciones locales, RAG sobre tus propios documentos. Ollama se convierte en el motor de IA privado de todo tu setup. Para quien construye cosas, ese detalle pesa más que cualquier benchmark.
Privacidad: tus datos no salen de casa
Este es el argumento más limpio de Ollama, y no necesita arquitecturas raras para sostenerlo: como el modelo corre en tu ordenador, tus prompts y las respuestas nunca viajan a ningún servidor. Punto. Puedes desconectar el wifi y seguir trabajando.
No hay logs en la nube de un tercero, no hay términos de servicio que digan que pueden usar tus conversaciones para entrenar, no hay brecha de datos ajena que te exponga. Si tratas con código propietario, datos de clientes, borradores legales o cualquier cosa que no quieras subir a la nube de nadie, esta es la diferencia que lo cambia todo.
Es el mismo destino que persiguen herramientas como Venice AI, pero por otro camino: Venice anonimiza en la nube, Ollama directamente no usa la nube. Privacidad por ausencia de servidor.
Lo bueno y lo malo, sin maquillar
A favor
- 100% gratis y open source: sin suscripción ni coste por token.
- Privacidad total: tus prompts y respuestas nunca salen de tu equipo.
- Funciona offline: una vez bajado el modelo, no necesitas internet.
- Acceso a muchas familias open source (Llama, Qwen, DeepSeek, Gemma) con un comando.
- API local compatible con OpenAI: migrar proyectos cuesta una línea.
En contra
- Depende de tu hardware: con poca RAM/VRAM, los modelos buenos no caben.
- En CPU sin GPU el rendimiento es lento para uso interactivo.
- Los modelos open source locales no alcanzan el techo de GPT-5 o Claude en las tareas más exigentes.
- Requiere algo de mano técnica para sacarle todo el partido (API, integraciones).
- Los modelos grandes ocupan muchos gigas de disco.
¿Para quién es Ollama?
No es una IA "mejor" que las grandes de la nube; es una IA con otras prioridades: privacidad, control, coste cero por uso y libertad para trastear.
Te interesa si: te preocupa la privacidad y no quieres mandar tus datos a la nube, trabajas con información sensible o código propietario, quieres experimentar con modelos open source sin pelearte con la instalación, eres desarrollador y quieres un motor local detrás de tus apps, o simplemente te gusta tener el control total y no pagar por token. Si ya tienes un equipo con GPU decente o un Mac con buena memoria unificada, el encaje es casi perfecto.
No te interesa si: tu equipo es modesto (8 GB de RAM justos y sin GPU) y solo te frustrarás con la lentitud, necesitas la máxima calidad en cada tarea —ahí GPT y Claude siguen marcando el techo—, o simplemente quieres abrir una web y escribir sin instalar ni configurar nada. Para ese caso, una IA en la nube es más cómoda.
La pregunta honesta no es "¿es Ollama mejor que ChatGPT?", porque no juega a eso. La pregunta es "¿cuánto vale para mí que la IA corra en mi máquina, gratis y sin que nada salga de ahí?". Si la respuesta es "bastante" y tienes el hardware, Ollama es la forma más limpia y directa de tener IA privada en tu propio ordenador.