Construisez une application d’IA locale il y a un an et vous la construisiez sur un sol qui bougeait. Le moteur sous la plupart de ces applications, llama.cpp, paraissait comme un flux de versions numérotées par compilation. Un numéro de compilation disait quand le code était arrivé. Il ne disait rien sur la question de savoir si ce code allait briser le vôtre.
La version 1.0.0, parue le 13 novembre 2026, est la réponse du projet à ce problème. Ce n’est pas un nouveau modèle et ce n’est pas une promesse de vitesse. C’est un contrat : l’API publique est maintenant stable, et tout changement qui la brise arrivera comme une nouvelle version majeure, là où vous pouvez le voir venir.
llama.cpp
Site officielUn moteur d’inférence écrit en C et C++ qui fait tourner de grands modèles de langage, et maintenant des modèles de vision et d’audio, sur du matériel allant des téléphones aux serveurs. Cas d’usage principal : donner aux applications de bureau, aux outils de clavardage privés, aux assistants de codage et aux serveurs locaux un moteur portable qui fait tourner des modèles GGUF sans compte infonuagique.
Fonctions clés : prise en charge de plus de 150 variantes d’architecture de modèles et de toutes les méthodes courantes de décodage spéculatif, selon le projet; quantification et dorsaux optimisés grâce à ggml; un serveur intégré avec une API compatible avec OpenAI; et une distribution par artefacts précompilés et huit canaux de paquets.
Avantages : une API publique stable à partir de la 1.0, une énorme gamme de matériel, aucun coût de licence, et un numéro de version qui vous dit maintenant si une mise à niveau peut briser votre code. Limites : la mise à niveau vers la 1.0 elle même brise le code qui appelle encore l’API retirée, et les règles de version couvrent l’API publique en C telle qu’elle est écrite, pas chaque drapeau, chaque sortie ou chaque trait de performance.
Ce que c’est
llama.cpp n’est pas un modèle. C’est le moteur qui fait tourner les modèles. Vous apportez un fichier de modèle, habituellement au format GGUF, et le moteur le charge et génère une sortie sur le matériel disponible : un processeur de portable, un téléphone, un GPU ou un serveur. La quantification, qui rapetisse un modèle pour qu’il tienne dans moins de mémoire, et un ensemble de dorsaux matériels dans ggml, la bibliothèque de tenseurs sous le moteur, font le gros du travail.
Ce travail sans glamour est la raison pour laquelle le projet compte. L’équipe note que de nombreuses applications en aval dépendent déjà de ses interfaces de bibliothèque, et que chaque nouvelle intégration augmente le coût d’un bris négligent. Notre profil de Open Code Review avançait un point semblable dans l’autre sens : la valeur durable dans cette couche de la pile se trouve dans la structure autour du modèle, et une structure ne gagne la confiance que lorsqu’elle cesse de bouger sans avertissement.
Le projet a commencé en mars 2023 comme une façon de faire tourner le modèle LLaMA original en C et C++ simples. Trois ans et demi plus tard, il prend en charge des modèles multimodaux, plus de 150 variantes d’architecture, et du matériel allant des portables grand public aux serveurs d’entreprise, selon la formulation de l’équipe. Les numéros de version, jusqu’à maintenant, étaient des comptes de compilation.
La promesse, par écrit
L’annonce sur Hugging Face, publiée par l’équipe ggml-org le 13 novembre, met les nouvelles règles dans un court tableau. libllama et libggml sont tous deux à 1.0.0, et les règles s’appliquent aux projets ggml-org qui utilisent la version sémantique.
| Changement | Hausse de version |
|---|---|
| Bris de l’API publique en C dans le répertoire include | Majeure |
| Nouvelle fonction, mise à jour de dorsal, prise en charge de modèle ou ajout d’API qui garde la compatibilité | Mineure |
| Correctif de bogue sans changement d’API | Corrective |
Lisez ce tableau de près, parce que ses limites font partie de l’histoire. La promesse couvre l’API publique en C, les en têtes contre lesquels d’autres projets construisent. C’est une promesse forte et utile pour les développeurs d’applications, qui peuvent maintenant épingler une version majeure et prendre les mises à jour mineures et correctives avec beaucoup moins de crainte. Elle ne promet pas, telle qu’elle est écrite, que la sortie du modèle, la vitesse, l’usage de la mémoire, les drapeaux de ligne de commande ou les réponses du serveur resteront identiques pour toujours. Quiconque vous vend la 1.0 comme une stabilité totale vous vend plus que ce que l’équipe a écrit.
L’équipe dit aussi qu’elle reflétera les incompatibilités d’API et d’ABI dans les hausses majeures, et qu’elle deviendra plus stricte sur ces frontières à mesure que l’adoption grandit. L’ABI est le contrat au niveau binaire qui permet au code compilé de se lier et de tourner ensemble. Cette phrase, plus l’infrastructure de test élargie que le billet décrit, avec des exécuteurs auto hébergés sur les grandes plateformes matérielles et un soutien nommé de NVIDIA, AMD, Qualcomm, Arm, IBM et Intel, est la moitié opérationnelle de la promesse. Des règles sans tests ne sont que des intentions.
Ce que la version elle même change
Une ligne stable commence par un nettoyage, et celle ci est honnête à ce sujet. La version 1.0.0 retire l’API publique obsolète : 35 fonctions obsolètes disparaissent, avec le réglage de préchauffage llama_set_warmup et l’option de seuil de défragmentation. L’API de décodage spéculatif NextN passe dans l’en tête principal llama.h, et une fonction d’état est renommée dans le passage. Le code qui appelait les fonctions retirées ne compilera plus, et cet échec est le but : le bris arrive une fois, bruyamment, au début de la ligne stable, au lieu d’arriver en petits morceaux pour toujours.
Au delà de l’élagage, les notes de version énumèrent du vrai travail :
- Des caches KV en FP8, au format E4M3, avec des échelles statiques facultatives. Le cache KV est le contexte stocké qu’un modèle réutilise pendant qu’il génère, et un cache plus petit veut dire un contexte plus long ou des modèles plus gros dans la même mémoire.
- Un cache en mémoire hôte pour les modèles à mélange d’experts, avec une part configurable traitée par le processeur. Les modèles à mélange d’experts gardent de nombreux sous réseaux spécialistes et en utilisent quelques uns par jeton, donc mettre en cache ceux qui sont inactifs dans la mémoire système est une façon pratique de les faire tourner sur du matériel modeste.
- Le chargement de fragments PLE externes, pour que des parties d’un modèle puissent être livrées et chargées comme des fichiers GGUF séparés.
- La prise en charge de nouveaux modèles, dont les architectures de texte Kimi-K3.1-Pro, Ripple et xing4_0, le modèle de synthèse vocale drama-3, et la vision pour MageVL-Cowork et Kimi-K3.1.
- Une interface web de serveur repensée, avec des groupes de clavardage et un éditeur Markdown en aperçu direct.
ggml atteint la 1.0.0 en même temps. Ses notes élaguent sa propre API obsolète et des opérations héritées, ajoutent la prise en charge du FP8 et une troncature YaRN configurable, et portent un travail de performance sur les dorsaux CUDA, Metal, Vulkan, SYCL, OpenCL, WebGPU et Hexagon.
Le serveur a eu droit à un passage de sécurité
Bien des gens rencontrent llama.cpp par llama-server, le serveur intégré qui expose une API compatible avec OpenAI aux applications locales. Les notes de la 1.0 donnent à ce serveur une sérieuse ronde de durcissement : des correctifs pour la falsification de requête côté serveur par le mandataire CORS et les URL de médias, pour le reliaison DNS, et pour l’accès direct par navigateur aux instances enfants, plus un traitement plus serré des origines CORS.
Les outils et les médias penchent maintenant vers l’activation volontaire plutôt que le contraire, avec des drapeaux requis pour permettre les outils sans authentification ou les URL de médias privées, et le jeton Hugging Face restreint aux hôtes Hugging Face. Les appels d’outils MCP sont annulés quand un client se déconnecte ou dépasse le délai, ce qui est le genre de correctif sans glamour qui empêche un serveur local de faire un travail que plus personne n’écoute.
Le serveur gagne aussi un point de terminaison /v1/audio/speech compatible avec OpenAI, avec une option de température pour la synthèse vocale. Cela transforme un serveur de modèles local en une source vocale locale pour les applications qui parlent déjà cette forme d’API. Notre tutoriel sur donner de vrais outils à un modèle local avec Ollama et MCP couvre le terrain voisin : une fois qu’un moteur local expose des points de terminaison standards, les applications autour de lui se multiplient vite.
Ce qui fonctionne
- Version sémantique avec des règles écrites, pour que les bris arrivent maintenant comme des hausses majeures visibles
- Une API publique en C stable pour les nombreuses applications qui construisent sur libllama et libggml
- Des caches KV en FP8 et un cache d'experts en mémoire hôte qui aident les gros modèles à tenir sur du matériel modeste
- Durcissement du serveur, un point de terminaison vocal et une distribution sur cinq systèmes d'exploitation et huit canaux, gratuits sous MIT
Ce qui ne fonctionne pas
- La mise à niveau brise le code qui appelle encore les 35 fonctions retirées ou les options abandonnées
- La promesse de version couvre l'API publique en C telle qu'elle est écrite, pas la sortie, la vitesse, les drapeaux ou le comportement du serveur
- Les compilations nocturnes bougent encore vite, donc les utilisateurs qui suivent la pointe vivent encore sur un sol mouvant
- Vous fournissez et gérez vous même le matériel, les modèles et les mises à jour
Lequel devriez vous choisir
Migrez maintenant si vous construisez sur la bibliothèque. Si votre application se lie à libllama ou à libggml, la 1.0 est la ligne contre laquelle vos futures mises à jour seront mesurées. Bouger tôt, pendant que la liste des retraits est courte et documentée, coûte moins cher que bouger plus tard sous pression.
Migrez avec une liste de contrôle si vous faites tourner le serveur. Prenez les correctifs de sécurité, puis examinez les nouveaux drapeaux d’activation pour les outils et les URL de médias selon la façon dont votre serveur est exposé. Un serveur lié à votre propre machine et un serveur atteignable sur un réseau sont deux histoires de risque différentes, et la 1.0 les traite de cette façon.
Restez en place un peu plus longtemps si vous dépendez des appels retirés. Si votre code s’appuie sur l’API élaguée, épinglez la dernière compilation qui fonctionne, lisez la surface de migration dans les notes de version, et bougez selon votre propre horaire. La ligne stable sera encore là, et c’est plutôt le but de la chose.
Regardez les emballages si vous ne voulez jamais voir tout cela. Les applications construites sur llama.cpp cachent le moteur derrière un installateur normal et un sélecteur de modèles. Vous abandonnez le contrôle sur les versions et les dorsaux, et vous gagnez une vie tranquille. Pour un outil de clavardage privé sur un seul portable, cet échange est souvent le bon. Notre regard sur Kilo Desktop montre jusqu’où un bon établi peut mener cette idée.
Réflexions finales
La plupart des versions 1.0 sont du marketing. Celle ci ressemble davantage à une constitution. llama.cpp a passé trois ans et demi comme le plancher qui bougeait le plus vite en IA locale, et beaucoup de logiciels se tiennent maintenant sur ce plancher. La version 1.0.0 ne ralentit pas tant le projet qu’elle promet d’annoncer les tremblements à l’avance, dans le numéro de version, là où chaque développeur peut les voir.
C’est une promesse modeste et précieuse. L’IA locale vend la vie privée et le contrôle, et ni l’un ni l’autre ne veut dire grand chose si le moteur en dessous peut briser votre application dans une mise à jour de routine. Si l’équipe tient ses propres règles, et l’investissement en tests dans l’annonce suggère qu’elle a l’intention de le faire, on se souviendra de la 1.0 moins pour ce qu’elle a ajouté que pour ce qu’elle a cessé de faire sans avertissement.
Sources
- Release notes, API changes, new models, server changes, and ggml changes: Release v1.0.0, ggml-org/llama.cpp, on GitHub
- Announcement, versioning rules, distribution channels, and backend and model coverage: llama.cpp v1.0.0: A stronger foundation for the local AI ecosystem, ggml-org on Hugging Face
- Repository, licence, and documentation: ggml-org/llama.cpp repository on GitHub
- Repository card image: ggml-org on GitHub
- Hero illustration: Dirty Static, generated in house style
FIN DE LA TRANSMISSION
Restez curieux. Remettez tout en question.


