D’ici à 2030, les modèles à poids ouverts pourraient exécuter 90% des étapes confiées aux agents d’IA en entreprise, selon Gartner. Le cabinet recommande de leur déléguer la routine pour réduire les coûts, tout en gardant la main sur les données et les opérations.
Mobiliser la dernière version de ChatGPT ou de Claude pour classer des demandes clients peut vite alourdir la facture, surtout quand l’opération se répète des millions de fois. Dans une note présentée par The Register, Gartner invite les entreprises à mieux répartir le travail entre leurs modèles d’IA.
Des économies à calculer sur la tâche entière
Classer une information, appeler un logiciel, valider un résultat ou rapprocher des données constitue une grande partie du travail des agents. Pour ces opérations, Gartner estime que les modèles à poids ouverts peuvent atteindre des résultats comparables à ceux des modèles propriétaires. Leurs paramètres étant accessibles, les entreprises peuvent les télécharger et les exécuter sur l’infrastructure de leur choix.
Les écarts de prix dépendent ensuite de la comparaison. À score égal, le cabinet évoque un coût divisé par quatre face au modèle fermé le moins cher. Si l’on compare avec un modèle de pointe utilisé systématiquement, l’avantage peut atteindre un facteur vingt.
Ces chiffres correspondent toutefois aux conditions les plus favorables. Les modèles ouverts peuvent produire davantage de texte et multiplier les tentatives avant d’aboutir, ce qui consomme des ressources supplémentaires. Une fois ces dépenses prises en compte, le coût d’une tâche serait plutôt divisé par cinq ou six par rapport à celui d’un modèle de pointe. La différence reste considérable lorsque les mêmes opérations tournent en permanence.
Garder la maîtrise de ce que font les agents
Gartner insiste aussi sur la valeur de l’historique des opérations. Les décisions prises, les outils utilisés et les résultats obtenus constituent un patrimoine pour l’entreprise. Lors du rachat d’un éditeur de logiciels, cet historique peut aider l’acquéreur à comprendre comment le service est utilisé et comment ses agents fonctionnent. Pour les analystes de la société de conseil et de recherche, conserver la maîtrise de ces informations permet donc de préserver un savoir-faire qui pourra peser dans le prix de vente de l’entreprise.
L’accès aux poids ne garantit toutefois pas que les données restent dans l’entreprise : ces modèles peuvent aussi être proposés par un prestataire via une API. Pour garder la maîtrise de l’exécution et de l’historique des opérations, il faut donc également choisir où le modèle sera hébergé et quelles règles de conservation s’appliqueront.
C’est dans cette logique que Gartner prévoit, à l’horizon 2030, une place dominante pour les modèles ouverts spécialisés. Ils prendraient en charge les étapes stables et répétitives, parfois exécutées plusieurs millions de fois par mois.
Le logiciel qui répartit le travail devient stratégique
Encore faut-il organiser cette répartition. Gartner situe une part croissante de la valeur dans les logiciels d’orchestration, aussi appelés harness (harnais en français), qui pilotent les agents. Ils choisissent le modèle adapté, encadrent l’accès aux outils et coordonnent les opérations. Leur qualité détermine aussi le travail que l’utilisateur devra reprendre lui-même.
Les modèles de pointe conserveraient ainsi un rôle dans la recherche et la mise au point de nouveaux usages, avant de passer le relais aux modèles ouverts pour l’exécution quotidienne. Pour les fournisseurs qui investissent des milliards dans l’IA, cette répartition pourrait changer la donne. Leurs modèles resteraient utiles pour résoudre les problèmes difficiles, mais une grande partie du travail courant pourrait s’effectuer sur une infrastructure maîtrisée par l’entreprise (ou le matériel du particulier).
Un modèle à poids ouverts est un modèle d’IA dont les paramètres (les « poids » appris à l’entraînement) sont accessibles, ce qui permet de le télécharger et de l’exécuter sur sa propre infrastructure. À l’inverse, un modèle propriétaire (ou « fermé ») n’expose généralement pas ses poids et s’utilise surtout via un service hébergé par l’éditeur. Cette différence change la maîtrise technique : déploiement, configuration, optimisation matérielle et politiques de conservation des données. Elle influe aussi sur les coûts, car on remplace une facturation à l’usage (API) par des coûts d’infrastructure et d’exploitation (GPU, énergie, maintenance). Enfin, elle facilite la spécialisation (fine-tuning, adaptation au domaine) quand la licence et les outils le permettent.
Une API facture typiquement au volume de traitement, souvent corrélé au nombre de tokens (texte en entrée/sortie) et au modèle choisi. Quand une action simple (classer, extraire, valider) est répétée des millions de fois, le coût unitaire faible devient un poste budgétaire majeur. La facture peut aussi grimper si le modèle produit plus de texte que nécessaire ou s’il faut plusieurs tentatives pour obtenir un résultat exploitable. À cela s’ajoutent des contraintes opérationnelles : latence réseau, quotas, disponibilité du service et dépendance à la politique tarifaire du fournisseur. D’où l’intérêt de réserver les modèles les plus chers aux étapes où leur gain de qualité est réellement déterminant.
Un logiciel d’orchestration pilote l’exécution d’un agent : il découpe une tâche en étapes, choisit quel modèle appeler, et décide quand utiliser des outils (CRM, base de données, RPA, moteurs de recherche internes). Il gère aussi des garde-fous : permissions, limitations d’actions, vérifications de résultats, et traçabilité des décisions. Cette couche est stratégique car elle conditionne la fiabilité globale : un modèle moyen bien orchestré peut être plus utile qu’un modèle excellent mal encadré. Elle permet également d’optimiser les coûts en routant automatiquement les tâches routinières vers des modèles moins chers et en escaladant vers un modèle de pointe seulement en cas d’incertitude. Enfin, elle structure l’historique d’exécution (actions, outils, sorties), ce qui facilite audit, conformité et amélioration continue.
