Faire fonctionner une intelligence artificielle directement sur son ordinateur, en local, sans abonnement ni connexion permanente au cloud, devient un peu plus accessible. Hugging Face vient de lancer Llama Windows, une application gratuite et open source qui permet de télécharger et d'utiliser des modèles d'IA sur Windows 11, sans passer par la ligne de commande.
Faire tourner une IA localement n'est pas forcément réservé aux développeurs. Des logiciels comme LM Studio ou Ollama ont déjà largement simplifié l'opération. Mais Hugging Face veut aller un peu plus loin avec Llama Windows, une application dévoilée le 13 octobre qui permet d'accéder directement au moteur llama.cpp depuis l'environnement Windows.
Précisons d'emblée que son nom peut prêter à confusion. Llama Windows n'est pas réservé aux modèles Llama de Meta. Il tire son nom de llama.cpp, le moteur open source sur lequel il repose, et peut exécuter différents modèles compatibles avec le format GGUF, notamment issus des familles Qwen, Mistral ou Gemma.
Une IA directement accessible depuis la zone de notification de Windows
Llama Windows ne cherche pas à devenir une nouvelle application occupant constamment une fenêtre sur le bureau. Développé avec WinUI 3, le logiciel s'installe discrètement dans la zone de notification de Windows 11, à proximité de l'horloge.
Un clic sur son icône ouvre un panneau permettant de parcourir les modèles recommandés sur Hugging Face, de les télécharger et de les charger en mémoire. Pour chacun, l'application affiche notamment le nombre de paramètres, la taille du téléchargement et la prise en charge éventuelle des images.
- Exécution locale rapide
- Compatible CPU et GPU
- Open source actif
Une fois le modèle lancé, le raccourci Alt + Espace permet d'ouvrir rapidement une interface de conversation, quelle que soit l'application utilisée.
Llama Windows se charge aussi d'installer llama.cpp si nécessaire, sans demander de droits administrateur. Il prend en charge les PC Windows équipés de processeurs x86 ou ARM, ainsi que les nouvelles plateformes NVIDIA RTX Spark.
Mais qu'apporte-t-il réellement face à LM Studio et Ollama ? D'abord, il s'agit d'un outil développé directement par l'équipe de llama.cpp. Il utilise également le cache standard de Hugging Face pour conserver les modèles téléchargés, plutôt qu'un système de stockage spécifique comme celui d'Ollama. Les fichiers peuvent ainsi être réutilisés par d'autres outils compatibles sans multiplier inutilement les téléchargements.
Un moteur local que d'autres logiciels peuvent également utiliser
Llama Windows ne se limite pas à une interface de discussion. Il peut aussi lancer un serveur local, accessible par défaut à l'adresse http://localhost:9931, avec une API compatible OpenAI.
Concrètement, un développeur peut y connecter ses scripts, applications ou agents IA pour exploiter les modèles installés sur son ordinateur, sans devoir solliciter systématiquement un service distant.
Les utilisateurs plus avancés peuvent également renseigner un jeton d'accès Hugging Face pour télécharger des modèles privés ou soumis à autorisation. Il est aussi possible de modifier l'emplacement du cache, notamment pour conserver les fichiers volumineux sur un autre disque.
Cette intégration présente un intérêt évident pour ceux qui souhaitent expérimenter avec l'IA locale tout en conservant davantage de contrôle sur leurs données. Une fois les modèles téléchargés, leur exécution peut se faire hors connexion, sans envoyer les requêtes à un fournisseur cloud.
En revanche, l'usage de Llama Windows au quotidien pose encore des questions. L'application vient tout juste de sortir et nous n'avons pas encore pu éprouver sa stabilité, ses performances ou sa facilité d'utilisation sur différentes configurations. Surtout, une installation simplifiée ne fait pas disparaître les contraintes matérielles : les modèles les plus imposants exigent toujours beaucoup de mémoire et de puissance de calcul.
Llama Windows est disponible gratuitement sur llama.app, et son code source peut être consulté sur GitHub.
