Ollama : comment faire tourner des modèles d'IA en local, gratuit et privé (guide 2026)

Toutes les IA que tu utilises au quotidien —ChatGPT, Claude, Gemini— vivent sur des serveurs qui ne sont pas les tiens. Tu écris, ton texte part vers un centre de données, quelqu'un le traite, on te renvoie la réponse. Ça marche à merveille et tu paies pour ça : en argent ou avec tes données.

Ollama propose exactement l'inverse : descendre le modèle sur ton ordinateur et le faire tourner là. Sans internet, sans abonnement, sans que tes prompts sortent de chez toi. Ça semble idéal jusqu'à ce qu'apparaisse la clause en petits caractères : il faut du matériel. Voyons ça sans esbroufe.

Qu'est-ce qu'Ollama

Ollama est un outil gratuit et open source qui télécharge, gère et exécute des modèles de langage (LLM) directement sur ta machine. Il te donne trois façons de l'utiliser : une ligne de commande simple, une interface graphique de bureau pour qui ne veut pas de terminal, et une API locale pour connecter tes propres applications.

Son intérêt, c'est de faire sauter toute la friction. Avant, faire tourner un modèle open source en local voulait dire se battre avec des dépendances Python, des pilotes de GPU, des formats de poids et des configurations qui te volaient un après-midi. Ollama emballe tout ça : une commande télécharge le modèle, l'optimise pour ton matériel et le laisse prêt à parler. La complexité est toujours là en dessous, mais ce n'est plus toi qui y touches.

En dessous, il n'entraîne rien qui lui soit propre : il orchestre les meilleurs modèles à poids ouverts du moment. Dans sa bibliothèque cohabitent les grandes familles —Llama de Meta, Qwen d'Alibaba, DeepSeek, Gemma de Google, Mistral— et beaucoup de variantes spécialisées en code, en raisonnement ou en vision. C'est toi qui choisis laquelle selon la tâche et les ressources dont tu disposes.

Comment on l'installe et on l'utilise

Se lancer est direct. Tu télécharges l'installateur pour macOS, Windows ou Linux depuis le site officiel, tu l'exécutes et le moteur tourne déjà en arrière-plan. Aucune configuration initiale obligatoire.

À partir de là, tout tourne autour d'une commande. Pour télécharger un modèle et commencer à discuter, ceci suffit :

ollama run llama3

La première fois, le modèle se télécharge (il peut peser plusieurs gigas, patience avec la connexion) ; les fois suivantes, il démarre aussitôt parce que tu l'as déjà sur le disque. Une fois terminé, il te laisse un prompt dans le terminal et tu converses comme dans n'importe quel chat, mais sans internet entre les deux.

Le quotidien se résume à quelques commandes :

• ollama run <modèle> — télécharge si nécessaire et ouvre le chat.
• ollama pull <modèle> — télécharge seulement, sans ouvrir.
• ollama list — liste les modèles que tu as déjà.
• ollama rm <modèle> — en supprime un pour libérer du disque.

Qui préfère ne pas toucher au terminal a l'app de bureau avec interface graphique : même puissance, fenêtre de chat classique. Et qui programme a l'API, là où Ollama montre vraiment les dents.

Les modèles que tu peux faire tourner

Voilà la liberté d'Ollama : il ne te marie pas à un seul modèle. Sa bibliothèque couvre les grandes familles à poids ouverts et se met à jour sans cesse à mesure que sortent de nouvelles versions.

• Llama (Meta) — la famille la plus populaire et un bon point de départ ; équilibre entre qualité et poids.
• Qwen (Alibaba) — parmi les plus actives de la bibliothèque, avec des variantes très fortes en code et en raisonnement qui rendent étonnamment bien sur du matériel grand public.
• DeepSeek — référence pour le raisonnement en chaîne de pensée ; ses modèles R-series brillent sur les problèmes complexes.
• Gemma (Google) — modèles compacts avec vision et appel d'outils, pensés pour tourner sur peu de VRAM.
• Mistral et dérivés — légers, rapides et très capables pour leur taille.

Chaque modèle existe en plusieurs tailles (mesurées en milliards de paramètres : 7B, 13B, 70B…) et à différents niveaux de quantification, une compression qui réduit le poids au prix d'un peu de précision. La règle mentale : modèle plus gros = plus malin, mais aussi plus de RAM/VRAM et plus lent. Commencer par un petit et monter si ta machine tient, c'est le coup sensé.

Config requise et performances (les petits caractères)

C'est la partie que le marketing de "l'IA gratuite sur ton PC" a l'habitude de cacher. Ollama est gratuit, mais le matériel, c'est toi qui le mets, et là il n'y a pas de magie.

Le minimum réaliste pour démarrer, c'est environ 8 Go de RAM et de l'espace disque pour les poids. Avec ça, tu fais tourner de petits modèles (classe 7B-8B) correctement. Pour des modèles de 13B et plus, tu voudras 16 Go ou bien davantage.

Le facteur qui change vraiment l'expérience, c'est le GPU. Ollama accélère avec NVIDIA (CUDA), AMD (ROCm) et Apple Silicon (Metal) sur les Mac. La différence est énorme : un modèle qui, sur CPU, met des dizaines de secondes à répondre, avec un GPU correct répond en quelques secondes. Sur CPU ça fonctionne, oui, mais la sensation passe d'"assistant" à "attends et prie".

L'API locale : là où Ollama devient sérieux

Au-delà du chat, Ollama lance une API REST sur localhost:11434, et voici son meilleur tour : elle a un endpoint compatible avec le format d'OpenAI.

Qu'est-ce que ça veut dire en pratique ? Que si tu as un projet écrit contre l'API d'OpenAI, le migrer vers ton modèle local revient presque à changer une ligne : tu pointes la base_url du SDK vers ton localhost:11434/v1 et c'est tout. Le même code qui parlait aux serveurs d'OpenAI parle maintenant au modèle qui tourne sur ta machine, gratuitement et sans que rien n'en sorte.

Ça ouvre la porte à un tas d'intégrations : assistants de code dans l'éditeur, apps de chat de bureau comme celles qui se connectent par API, automatisations locales, RAG sur tes propres documents. Ollama devient le moteur d'IA privé de tout ton setup. Pour qui construit des choses, ce détail pèse plus que n'importe quel benchmark.

Confidentialité : tes données ne sortent pas de chez toi

C'est l'argument le plus propre d'Ollama, et il n'a pas besoin d'architectures bizarres pour tenir : comme le modèle tourne sur ton ordinateur, tes prompts et les réponses ne voyagent jamais vers aucun serveur. Point. Tu peux couper le wifi et continuer à travailler.

Pas de logs dans le cloud d'un tiers, pas de conditions d'utilisation qui disent qu'on peut se servir de tes conversations pour entraîner, pas de fuite de données d'autrui qui t'expose. Si tu manipules du code propriétaire, des données clients, des brouillons juridiques ou quoi que ce soit que tu ne veux mettre dans le cloud de personne, c'est la différence qui change tout.

C'est la même destination que visent des outils comme Venice AI, mais par un autre chemin : Venice anonymise dans le cloud, Ollama n'utilise tout simplement pas le cloud. Confidentialité par absence de serveur.

Le bon et le mauvais, sans maquillage

À qui s'adresse Ollama ?

Ce n'est pas une IA "meilleure" que les grosses du cloud ; c'est une IA avec d'autres priorités : confidentialité, contrôle, coût zéro à l'usage et liberté de bidouiller.

Ça t'intéresse si : la confidentialité te préoccupe et tu ne veux pas envoyer tes données dans le cloud, tu travailles avec des informations sensibles ou du code propriétaire, tu veux expérimenter avec des modèles open source sans te battre avec l'installation, tu es développeur et tu veux un moteur local derrière tes apps, ou simplement tu aimes avoir le contrôle total et ne pas payer par token. Si tu as déjà une machine avec un GPU correct ou un Mac avec une bonne mémoire unifiée, l'accord est presque parfait.

Ça ne t'intéresse pas si : ta machine est modeste (8 Go de RAM tout juste et sans GPU) et tu ne feras que te frustrer avec la lenteur, tu as besoin de la qualité maximale sur chaque tâche —là, GPT et Claude marquent toujours le plafond—, ou simplement tu veux ouvrir un site et écrire sans rien installer ni configurer. Dans ce cas, une IA dans le cloud est plus confortable.

La question honnête n'est pas "Ollama est-il meilleur que ChatGPT ?", parce qu'il ne joue pas à ça. La question, c'est "combien vaut pour moi que l'IA tourne sur ma machine, gratuitement et sans que rien n'en sorte ?". Si la réponse est "pas mal" et que tu as le matériel, Ollama est la façon la plus propre et la plus directe d'avoir de l'IA privée sur ton propre ordinateur.