Pourquoi payer le prix fort pour utiliser une intelligence artificielle quand des modèles d’IA presque aussi performants peuvent fonctionner sur ses propres machines ? Pour IBM, l’essor des modèles à poids ouverts pourrait bien rebattre les cartes du marché, aussi bien dans les entreprises que chez les particuliers.
Faut-il vraiment mobiliser les modèles d’intelligence artificielle les plus puissants pour résumer un document ou répondre à un e-mail ? Le patron d’IBM, Arvind Krishna, en doute sérieusement. Lors de la présentation des résultats trimestriels du groupe, le 21 octobre, il a défendu les mérites des modèles à poids ouverts, dont les performances se rapprocheraient désormais de celles des meilleures IA propriétaires pour une fraction de leur coût.
Selon lui, ces modèles atteindraient environ 90% de l’efficacité de leurs concurrents fermés, avec un coût par token représentant 10 à 25% de celui des modèles de pointe fermés. « Voulez-vous payer dix fois plus cher ? », interroge ainsi le dirigeant. Des chiffres rapportés par The Register qu’il faut toutefois considérer avec prudence, IBM n’ayant pas détaillé le protocole permettant d’établir cette comparaison. Ces estimations ne décrivent pas non plus les performances des petits modèles que l’on peut installer sur un PC personnel.
Des IA puissantes qui n’ont plus besoin du cloud
Les modèles à poids ouverts ont un avantage considérable. On peut les télécharger et les exécuter sur ses propres machines, sans nécessairement passer par les serveurs de leur concepteur.
Leurs poids correspondent aux milliards de paramètres numériques ajustés durant l’entraînement. Leur publication permet de faire fonctionner le modèle localement et, selon la licence, de l’adapter à des besoins particuliers. Cela n’en fait pas automatiquement des logiciels open source, puisque les données et les méthodes utilisées pour les entraîner peuvent rester secrètes.
L'offre s’est considérablement étoffée ces derniers mois. IBM développe sa famille Granite, Alibaba propose Qwen, tandis que DeepSeek, Mistral et même OpenAI, avec gpt-oss, disposent de modèles dont les poids sont accessibles.
Tous n’offrent évidemment pas les mêmes performances ni les mêmes libertés d’utilisation, mais les entreprises ont désormais l’embarras du choix.
Pour les entreprises, le calcul devient intéressant
L’intérêt dépasse largement la facture. En faisant tourner une IA sur leurs propres serveurs, les entreprises peuvent exploiter leurs documents internes sans les transmettre systématiquement à un fournisseur extérieur. Elles disposent aussi de davantage de latitude pour personnaliser les modèles et maîtriser leur infrastructure. Arvind Krishna prend pour exemples les résumés d’e-mails, l’analyse de contrats, les réponses aux appels clients ou la rédaction de messages. « Toutes ces tâches peuvent être réalisées aussi bien avec une solution bien moins chère », assure-t-il.
Les économies potentielles s’accompagnent toutefois d’exigences techniques. « Où sont mes ingénieurs spécialistes des kernels ? », s’interroge également le patron d’IBM, qui évoque le réseau entre les GPU et la mise en cache des résultats. Au prix des machines et de l’électricité s’ajoutent donc la maintenance, la sécurisation des installations et les compétences nécessaires pour faire fonctionner l’ensemble. Pour une petite structure qui sollicite occasionnellement un assistant, une offre hébergée peut rester plus avantageuse.
Arvind Krishna constate aussi que les grandes entreprises examinent davantage la rentabilité de leurs investissements dans l’IA. Elles redoutent, selon ses propos repris par le Wall Street Journal, des dépenses « incontrôlables, sans véritable retour ». La recherche de modèles moins coûteux répond donc à une préoccupation concrète. IBM a d’ailleurs tout intérêt à défendre cette approche, puisque le groupe commercialise précisément les logiciels et les infrastructures nécessaires à son déploiement.
À terme, les entreprises pourraient surtout combiner les deux solutions avec des modèles locaux pour les tâches courantes et des IA plus puissantes dans le cloud lorsque cela se justifie.
Et demain, une IA performante directement sur son PC ?
Les particuliers peuvent déjà profiter de cette évolution. Des logiciels comme LM Studio permettent de télécharger des modèles compatibles et de les faire fonctionner hors ligne, notamment pour discuter avec une IA ou analyser des documents personnels.
Les progrès de la quantification rendent cette approche toujours plus accessible. Cette technique consiste à réduire la précision numérique des paramètres afin de diminuer les besoins en mémoire, quitte à perdre parfois un peu en qualité. Un modèle de 8 milliards de paramètres quantifié sur 4 bits nécessite ainsi environ 4 Go pour ses seuls poids, auxquels s’ajoutent les ressources indispensables à son fonctionnement.
Avec des familles comme Ministral 3, déclinée en versions de 3, 8 et 14 milliards de paramètres, il devient possible d’exécuter des IA utiles sur du matériel grand public. Les modèles les plus ambitieux demandent néanmoins des configurations autrement plus musclées.
Pour beaucoup d’utilisateurs, la prochaine révolution numérique pourrait consister à utiliser leur IA sans abonnement ni facturation à la requête.
Un modèle à poids ouverts est un modèle d’IA dont les paramètres appris pendant l’entraînement (les poids) sont publiés, ce qui permet de le télécharger et de l’exécuter localement, sans passer par l’API du concepteur. Cela facilite aussi, selon la licence, l’adaptation du modèle à un usage interne (fine-tuning, ajout d’instructions, etc.). En revanche, ce n’est pas forcément de l’open source : le code d’entraînement, les jeux de données et la recette exacte (hyperparamètres, nettoyage des données) peuvent rester fermés. La licence est déterminante, car elle peut autoriser ou limiter l’usage commercial, la redistribution ou la modification. En pratique, open weights décrit surtout l’accès au modèle final, pas la transparence complète du processus.
Un token est une unité de texte utilisée par les modèles de langage (morceaux de mots, mots, ponctuation), et c’est souvent l’unité de facturation des services cloud. Le coût par token dépend du modèle, mais aussi du volume traité (entrée + sortie) et du fait qu’on utilise une API hébergée ou une exécution locale. Côté technique, plus on consomme de tokens, plus on mobilise de calcul (GPU/CPU) et de latence, ce qui impacte directement la facture et la capacité à tenir une charge. Comparer des coûts par token suppose donc de préciser le scénario (longueur des prompts, taille des réponses, niveau de qualité attendu, contraintes de délai). Sans protocole de mesure, les comparaisons « x10 moins cher » restent difficiles à valider.
La quantification consiste à stocker et calculer les poids d’un modèle avec une précision numérique réduite (par exemple 4 bits ou 8 bits au lieu de formats plus lourds), pour diminuer la mémoire nécessaire et accélérer certains traitements. L’intérêt est concret sur PC : un modèle peut devenir exécutable avec moins de VRAM/RAM, ce qui élargit la compatibilité matérielle. Le compromis, c’est une possible perte de qualité (raisonnement, fidélité, stabilité) qui varie selon le modèle et la méthode de quantification. Les chiffres de mémoire cités concernent surtout le stockage des poids ; en usage réel, il faut aussi de la marge pour le contexte (KV cache), le runtime et le système. Résultat : la quantification rend l’IA locale plus accessible, mais ne supprime pas toutes les contraintes de performance.
