Ollama : dépannage et configuration

Ollama est simple, mais quatre pièges reviennent : le serveur ne répond pas, un modèle sature la mémoire, une variable d'environnement n'est pas prise en compte, ou le port 11434 est exposé sans le vouloir. Cette leçon donne d'abord un tableau de diagnostic rapide, puis le détail de chaque cas et la configuration utile sous Linux avec le service systemd : emplacement des modèles, variables, limites de charge, contexte num_ctx. Les faits viennent de la documentation officielle d'Ollama (FAQ, guides Linux et dépannage), relue le 15 octobre 2026.

Ce que vous allez apprendre

• Poser un diagnostic rapide à partir du symptôme
• Retrouver où Ollama stocke ses modèles et lire ses journaux
• Poser des variables d'environnement avec systemctl edit plutôt qu'avec export
• Vérifier si le modèle tourne sur GPU ou CPU avec ollama ps
• Sécuriser l'accès au port 11434

Prérequis

Ollama doit être déjà installé, comme dans Ollama : installation et premiers pas. Les commandes de configuration supposent Linux avec le service systemd créé par le script d'installation officiel ; les particularités de macOS et de Windows sont signalées là où elles diffèrent.

Quel est le diagnostic rapide pour Ollama ?

Ce tableau part du symptôme que vous voyez et renvoie à la cause la plus probable, à la commande qui la confirme et à la correction. Lisez-le de gauche à droite et ne passez à la section détaillée correspondante que si la ligne ne suffit pas.

Symptôme	Cause probable	Vérification	Correction
could not connect to ollama	Service arrêté	systemctl status ollama	sudo systemctl start ollama
address already in use au lancement de ollama serve	Le service systemd occupe déjà le port 11434	ss -ltnp (cherchez 11434)	Ne lancez pas ollama serve à la main, configurez le service
Une variable export n'a aucun effet	Le service ne lit pas votre shell	systemctl show ollama -p Environment	sudo systemctl edit ollama.service puis redémarrage
model not found	Modèle non téléchargé	ollama list	ollama pull <modèle>
Réponses très lentes	Modèle sur CPU ou débordant du GPU	colonne PROCESSOR de ollama ps	Modèle plus petit, contexte réduit
Mémoire saturée avec un petit modèle	Contexte réservé trop grand	colonne CONTEXT de ollama ps	Réduire num_ctx
Le début de la conversation est oublié	Contexte dépassé	ollama ps	Augmenter num_ctx si la mémoire le permet

Glissez pour voir

Que faire quand Ollama répond « could not connect to ollama » ?

Cette erreur signifie que la commande ollama ne trouve aucun serveur à l'écoute sur 127.0.0.1:11434. Sous Linux avec le script d'installation officiel, ce serveur est un service systemd nommé ollama :

sudo systemctl status ollama
sudo systemctl start ollama

La commande status doit afficher active (running). Si le service plante au démarrage, lisez ses journaux avec journalctl -u ollama --no-pager --follow --pager-end, la commande donnée par la documentation officielle. Sous macOS, vérifiez que l'icône d'Ollama est dans la barre de menu ; sous Windows, dans la zone de notification, et relancez l'application sinon.

Une cause fréquente chez ceux qui configurent à la main : un ollama serve lancé dans un terminal alors que le service tourne déjà. Les deux se disputent le port 11434, et le second échoue avec une erreur d'adresse déjà utilisée. Vérifiez qui l'occupe avec sudo ss -ltnp (le sudo fait apparaître le processus) et laissez le service seul gérer le serveur.

Que faire quand Ollama répond « model not found » ?

Cette erreur signifie que le modèle demandé n'est pas dans le stockage local d'Ollama. Listez ce qui est installé, puis téléchargez le modèle manquant :

ollama list
ollama pull llama3.2:3b

Vérifiez le nom exact avec son tag : llama3.2 et llama3.2:3b ne désignent pas forcément le même fichier. La sortie de ollama list doit montrer le modèle avec sa taille avant de relancer votre commande.

Comment savoir si Ollama utilise le GPU ?

La commande ollama ps liste les modèles chargés en mémoire, et sa colonne PROCESSOR dit où ils tournent. D'après la documentation officielle, 100% GPU signifie un modèle entièrement chargé sur le GPU, 100% CPU entièrement en mémoire système, et une valeur comme 48%/52% CPU/GPU un modèle réparti entre les deux.

ollama run llama3.2:3b "Test"
ollama ps

Lancez d'abord une requête pour charger le modèle, puis lisez ollama ps : c'est la vérification fiable, nvidia-smi n'étant qu'un complément pour une carte NVIDIA. Un modèle réparti entre CPU et GPU est nettement plus lent qu'un modèle entièrement sur GPU : choisissez un modèle plus petit, ou réduisez le contexte (voir plus bas). Si le GPU n'est jamais utilisé, activez OLLAMA_DEBUG=1 : la documentation indique que ce mode ajoute des informations pendant la détection des GPU.

Que faire quand le modèle manque de mémoire ou répond trop lentement ?

Un modèle trop gros pour votre machine déborde de la mémoire et ralentit tout. Passez d'abord à un modèle plus petit, par exemple llama3.2:3b à la place d'un modèle de 7 milliards de paramètres comme mistral ; la leçon Ollama : choisir son modèle 2026 donne quel modèle pour quelle quantité de VRAM. Surveillez ensuite la mémoire avec free -h ou htop sous Linux, ou le Gestionnaire des tâches sous Windows.

La première requête après un lancement est toujours plus longue, parce que le modèle doit être chargé en mémoire. Il y reste ensuite pendant la durée de OLLAMA_KEEP_ALIVE, soit 5 minutes par défaut : passé ce délai sans requête, il est déchargé et la requête suivante repaie le chargement.

Que faire quand les réponses sont incohérentes ?

Un modèle qui répond hors sujet ou en boucle manque le plus souvent de précision dans la question ou traîne un historique trop long. Reformulez avec plus de contexte, essayez un autre modèle (chacun a ses points forts), ou repartez d'une conversation vide avec /bye puis une nouvelle session ollama run. Si le problème apparaît seulement en fin de conversation, suspectez le contexte, traité plus bas.

Où Ollama stocke-t-il ses modèles ?

Le dossier dépend de la manière dont Ollama tourne. Sous Linux avec le service systemd du script d'installation officiel, la documentation officielle indique /usr/share/ollama/.ollama/models, car le service s'exécute sous l'utilisateur système ollama dont le répertoire personnel est /usr/share/ollama. Sous macOS et Windows, les modèles sont dans .ollama/models du répertoire de l'utilisateur. Un ollama serve lancé à la main sous votre compte, lui, utilise ~/.ollama/models : il ne voit donc pas les modèles téléchargés par le service, ce qui explique certains model not found après un changement de mode de lancement.

Pour déplacer le stockage vers un disque plus grand, posez la variable OLLAMA_MODELS comme décrit dans la section suivante. Le service tournant sous l'utilisateur ollama, le nouveau dossier doit lui être accessible en lecture et en écriture : contrôlez-le avec ls -ld avant de redémarrer.

Comment poser une variable d'environnement avec systemd ?

Une variable exportée dans votre shell (export OLLAMA_MODELS=...) n'atteint que les processus lancés depuis ce shell. Le service systemd, démarré par le système, ne la voit jamais, et lancer ollama serve à la main pour la prendre en compte entre en conflit avec le service sur le port 11434. La documentation officielle prescrit la méthode du service : ouvrir un fichier de surcharge avec systemctl edit, y déclarer chaque variable sous [Service] avec Environment=, puis recharger.

sudo systemctl edit ollama.service

Dans l'éditeur qui s'ouvre, ajoutez par exemple :

[Service]
Environment="OLLAMA_MODELS=/srv/ollama/models"
Environment="OLLAMA_KEEP_ALIVE=10m"

Enregistrez, puis rechargez systemd et redémarrez le service :

sudo systemctl daemon-reload
sudo systemctl restart ollama
systemctl show ollama -p Environment

La dernière commande doit afficher vos deux variables. Sous macOS et Windows, les variables se posent autrement (launchctl setenv sous macOS, variables d'environnement de l'utilisateur sous Windows) : suivez la FAQ officielle d'Ollama pour ces plateformes.

Quelles variables règlent la mémoire et la charge ?

Quatre variables, documentées dans la FAQ officielle, règlent l'usage des ressources. Elles se posent comme ci-dessus, par Environment= dans la surcharge du service.

Variable	Effet	Valeur par défaut (FAQ)
OLLAMA_MAX_LOADED_MODELS	Nombre maximal de modèles chargés en même temps	3 fois le nombre de GPU, ou 3 en inférence CPU
OLLAMA_NUM_PARALLEL	Requêtes traitées en parallèle par modèle	1
OLLAMA_KEEP_ALIVE	Durée de maintien d'un modèle en mémoire après sa dernière requête	5 minutes
OLLAMA_MAX_QUEUE	Requêtes mises en file d'attente avant rejet	512

Glissez pour voir

Pour réduire la mémoire, OLLAMA_NUM_PARALLEL et OLLAMA_MAX_LOADED_MODELS sont les leviers : la FAQ précise que la mémoire nécessaire croît avec le produit du parallélisme par la taille du contexte. OLLAMA_KEEP_ALIVE libère la mémoire plus vite quand on la baisse. En revanche, OLLAMA_MAX_QUEUE ne limite pas la mémoire : elle borne seulement le nombre de requêtes qui attendent, au-delà duquel Ollama en rejette de nouvelles. Utilisez-la pour protéger un service partagé d'une file infinie, pas pour économiser de la RAM.

Pourquoi un petit modèle sature-t-il la mémoire ? Le piège du contexte

Le contexte (la fenêtre de tokens que le modèle voit) est réservé en mémoire au chargement, en plus des poids : un modèle de quelques gigaoctets sur disque peut donc occuper bien plus en mémoire si le contexte est grand. La colonne CONTEXT de ollama ps montre la valeur allouée.

La valeur par défaut dépend de la version et de la VRAM disponible. La documentation officielle sur la longueur de contexte indique des paliers : 4k tokens sous 24 Gio de VRAM, 32k entre 24 et 48 Gio, 256k à partir de 48 Gio. La FAQ cite encore une fenêtre de 4 096 tokens par défaut : les deux pages ne coïncident pas, donc relevez la valeur réelle chez vous avec ollama ps plutôt que de vous fier à un chiffre. Pour la fixer, la FAQ propose la variable OLLAMA_CONTEXT_LENGTH, la commande /set parameter num_ctx 8192 dans une session ollama run, ou l'option num_ctx de l'API ; dans un Modelfile, PARAMETER num_ctx 8192.

Contexte trop petit, historique perdu

À l'inverse, un contexte trop petit fait perdre le début de la conversation : au-delà de la fenêtre, le modèle ne voit plus les messages les plus anciens. Si un assistant « oublie » une consigne en fin d'échange, augmentez num_ctx dans la limite de votre mémoire plutôt que de changer de modèle.

Comment exposer Ollama sans risque ?

Par défaut, Ollama écoute sur 127.0.0.1:11434, donc uniquement depuis votre machine. La variable OLLAMA_HOST change l'adresse d'écoute ; posez-la dans la surcharge du service, comme les autres :

[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"

Ne jamais exposer Ollama sur Internet

La documentation officielle ne décrit aucune authentification sur l'API d'Ollama : écouter sur 0.0.0.0 la rend accessible à tout le réseau, et à Internet si le pare-feu le permet. Ce n'est pas théorique : en janvier 2026, les équipes SentinelLABS (SentinelOne) et Censys ont recensé environ 175 000 serveurs Ollama joignables publiquement dans 130 pays, relayés par The Hacker News. L'exposition vient de la configuration, pas d'une faille d'Ollama, et expose au vol de calcul (utiliser votre GPU à vos frais) et, quand les outils sont activés, à des actions sur la machine.

Pour un accès distant légitime, ne publiez jamais le port 11434 en clair. Écoutez de préférence sur l'adresse d'une interface privée plutôt que sur 0.0.0.0, passez par un VPN (WireGuard, Tailscale) ou un reverse proxy avec authentification, et gardez Ollama à jour.

À retenir

• La plupart des blocages viennent d'un service arrêté, d'un modèle absent ou d'un conflit sur le port 11434 : vérifiez systemctl status ollama, ollama list et ss -ltnp.
• Sous Linux, les variables se posent avec sudo systemctl edit ollama.service puis un redémarrage, jamais avec export suivi de ollama serve.
• Les modèles du service vivent dans /usr/share/ollama/.ollama/models, pas dans ~/.ollama/models.
• ollama ps répond à deux questions : GPU ou CPU (colonne PROCESSOR) et taille du contexte réservé (colonne CONTEXT).
• OLLAMA_NUM_PARALLEL, OLLAMA_MAX_LOADED_MODELS et OLLAMA_KEEP_ALIVE règlent la mémoire ; OLLAMA_MAX_QUEUE ne borne que la file d'attente.
• Ollama n'a pas d'authentification documentée : ne jamais exposer le port 11434 sur Internet.

Contrôle de connaissances

Vérifiez que l'essentiel de cette leçon est acquis. Les questions portent uniquement sur ce qui vient d'être expliqué ici.

Contrôle de connaissances

Validez vos connaissances avec ce quiz interactif

6 questions

6 min.

70% requis

Informations

• Le chronomètre démarre au clic sur Démarrer
• Questions à choix multiples, vrai/faux et réponses courtes
• Vous pouvez naviguer entre les questions
• Les résultats détaillés sont affichés à la fin

Démarrer le quiz

Lance le quiz et démarre le chronomètre

×

📖 Voir la documentation →