Faire tourner un modèle de langage chez soi n’a jamais été aussi simple, et deux outils gratuits se partagent l’essentiel de l’attention : Ollama, devenu la référence grand public, et KoboldCpp, plus confidentiel mais beaucoup plus bavard sur ce qu’on peut régler. Les deux reposent sur le même moteur, llama.cpp — la différence est ailleurs, dans la philosophie.
Ce comparatif ne contient aucun benchmark : la rédaction n’a pas mesuré la vitesse d’inférence des deux outils. Il s’appuie sur les dépôts GitHub officiels des deux projets. Les notes sont éditoriales.
Deux philosophies, un même moteur
KoboldCpp se présente comme un logiciel de génération de texte pour modèles GGML et GGUF, inspiré du KoboldAI d’origine. Il vise les utilisateurs qui veulent un contrôle étendu : 56 paramètres ajustables et 165 options en ligne de commande, selon Geeky Gadgets. Il est publié sous licence AGPL v3.0.
Ollama fait le pari inverse : la simplicité et le minimum d’intervention. Seulement hui réglages sont documentés et note qu’il ajuste silencieusement de nombreux paramètres à la place de l’utilisateur. Il est publié sous licence MIT, et son dépôt dépasse les 181 000 étoiles sur GitHub au moment de la rédaction.
Installation et prise en main
KoboldCpp se distribue sous la forme d’un exécutable unique d’environ 606 Mo, sans installation ni dépendance externe. Sous Windows, c’est un simple koboldcpp.exe à lancer ; des binaires existent pour Linux et pour les Mac Apple Silicon, ainsi que pour Docker, Colab, RunPod et même Android via Termux.
Ollama s’installe sur macOS, Windows et Linux (script ou installeur), ou via l’image Docker officielle. Une commande suffit ensuite pour télécharger et lancer un modèle depuis sa bibliothèque officielle, ollama.com/library. C’est l’approche « branchez et ça marche » qui me séduit le plus.
Réglages : le fossé principal
C’est ici que les deux outils s’éloignent le plus. KoboldCpp laisse ajuster à la main la longueur de contexte et l’ordre des samplers, ce qui intéresse les utilisateurs qui cherchent à affiner le comportement d’un modèle, notamment pour l’écriture ou la fiction interactive.
Ollama choisit à votre place : il adapte automatiquement la longueur de contexte à la mémoire de la carte graphique. Pratique quand on ne veut pas y penser, frustrant quand on veut comprendre pourquoi un modèle se comporte d’une certaine façon.
Fonctionnalités intégrées
KoboldCpp embarque beaucoup plus qu’un moteur de texte : interface KoboldAI Lite avec modes chat, aventure et écriture de récits ; génération d’images (Stable Diffusion 1.5, SDXL, Flux) ; reconnaissance vocale via Whisper ; synthèse vocale (Qwen3TTS, Kokoro, Parler) ; et reconnaissance d’images pour les modèles multimodaux. Côté accélération, il gère CUDA (Nvidia), Vulkan (Nvidia et AMD) et Metal (macOS).
Ollama concentre son effort ailleurs : le catalogue de modèles, une API REST documentée, des bibliothèques officielles Python et JavaScript, et des intégrations pour outils de code lancées d’une commande (ollama launch). J’ai déjà couvert plusieurs de ses évolutions récentes : l’application desktop officielle, et l’accélération sur Mac grâce à MLX.
API et écosystème
KoboldCpp expose des API compatibles avec celles d’OpenAI, d’Ollama et d’A1111 — ce qui lui permet de se brancher sur des applications pensées pour Ollama. C’est un point rarement souligné : choisir KoboldCpp ne ferme pas la porte aux outils de l’écosystème Ollama.
Lequel choisir ?
Malgré ma traditionnelle tagline, je refuse de trancher : le choix dépend du cas d’usage, de l’expertise technique et des préférences. Je serais plus directs. Ollama reste le bon réflexe pour la grande majorité des utilisateurs : il s’installe vite, se fait oublier et bénéficie du plus gros écosystème. KoboldCpp mérite le détour dès qu’on veut reprendre la main sur les réglages, générer des images ou de la voix sans installer trois outils, ou travailler l’écriture avec un contrôle fin du contexte.
Comparatif établi le 20 septembre 2026 à partir des dépôts GitHub officiels de KoboldCpp et d’Ollama. Aucun benchmark n’a été réalisé par la rédaction ; les chiffres sur le nombre de paramètres et de réglages sont ceux de la source. Cette page sera mise à jour après nos propres essais.