L’intelligence artificielle (IA) générative devait devenir moins chère à mesure qu’elle grandirait. C’est tout l’inverse qui se produit, et la facture commence à peser lourd, jusque chez les géants de la tech.
Depuis des années, les entreprises d’IA vendent la même promesse aux investisseurs : plus un modèle est gros, plus il devient puissant. C’est ce qu’on appelle les « lois d’échelle ». Mais sur le terrain, cette course au gigantisme commence à coûter très cher.
Un problème d’échelle
Quand un service de streaming ou une application mobile gagne des millions d’utilisateurs supplémentaires, le coût de chaque nouvel utilisateur diminue. C’est ce qu’on appelle une économie d’échelle, et c'est exactement ce que recherchent les investisseurs : plus l’entreprise grossit, plus elle devient rentable.
Problème, IA génératives comme ChatGPT ou Claude fonctionnent dans le sens inverse. Plus on leur soumet de texte à traiter, plus elles réclament de mémoire et de temps de calcul. Et cette hausse n’est pas proportionnelle, puisqu’elle s’accélère à mesure que les volumes augmentent. Ainsi, doubler la quantité de texte à analyser peut largement plus que doubler la facture.
Ce défaut technique se répercute directement sur le portefeuille des entreprises clientes, car la plupart des contrats facturent l’usage de l’IA au volume traité, le fameux token. Résultat, la note grimpe avec l’intensité d’utilisation, sans que la valeur réellement produite pour l’entreprise suive au même rythme.
Les impacts sont déjà concrets
Cette inefficacité a des répercussions colossales. Car pour faire tourner leurs modèles, les géants de l’IA achètent aujourd’hui jusqu’à 70 % de l’offre mondiale de mémoire informatique haut de gamme. Conséquence directe, les prix des disques durs, des ordinateurs et des smartphones s’envolent, et la tendance ne semble malheureusement pas près de s'arrêter.
Et bien sûr, l'impact énergétique de cette dynamique est désastreux. Pour absorber une telle demande, la capacité des data centers américains pourrait être multipliée par huit dans les prochaines années, au point que certaines entreprises envisagent de recycler des réacteurs d’avion pour produire assez d’électricité. Un défi d’autant plus difficile à relever que les progrès du matériel informatique ralentissent : les composants ont atteint des limites physiques qui freinent leur miniaturisation.
Dans ce contexte, la rentabilité du secteur reste un immense point d’interrogation. De quoi un peu plus alimenter les craintes d’une bulle spéculative autour de l’IA, un secteur dans lequel des pans entiers de l’économie ont massivement investi…
Les lois d’échelle décrivent une relation empirique entre trois variables : la taille du modèle (nombre de paramètres), la quantité de données d’entraînement et la puissance de calcul utilisée. En pratique, elles indiquent que, quand on augmente ces ressources, les performances s’améliorent de manière assez prévisible sur certains indicateurs (perplexité, scores de benchmarks). Le point clé est que le gain est souvent marginal : chaque “palier” de performance coûte beaucoup plus cher que le précédent. Elles concernent surtout l’entraînement, mais elles poussent aussi à déployer des modèles plus gros, donc plus coûteux à faire tourner. Enfin, elles ne garantissent pas que les gains se traduisent automatiquement en valeur métier ou en baisse des coûts.
Lorsqu’un modèle génère ou analyse du texte, il doit traiter une séquence de tokens et maintenir un « contexte » en mémoire pour produire une réponse cohérente. Dans l’architecture Transformer utilisée par la plupart des grands modèles, le mécanisme d’attention a un coût qui tend à croître de façon quadratique avec la longueur du contexte (en simplifiant : plus il y a de tokens, plus il y a de relations à calculer). Cela augmente à la fois le temps de calcul (GPU) et la quantité de mémoire nécessaire, ce qui se répercute directement sur la facture. Même quand des optimisations existent (attention plus efficace, compression de contexte), elles ne font pas disparaître le problème pour les usages à très gros volumes. Résultat : allonger les prompts, multiplier les documents à ingérer ou augmenter les fenêtres de contexte fait grimper les coûts très vite.
Un token est une unité de texte utilisée pour mesurer l’entrée (prompt) et la sortie (réponse) d’un modèle ; ce n’est pas exactement un mot, mais plutôt un morceau de mot ou de ponctuation. La plupart des API d’IA facturent séparément les tokens entrants et sortants, parfois avec un tarif plus élevé pour des modèles plus performants ou des fenêtres de contexte plus grandes. Ce mode de facturation relie directement le coût à l’intensité d’usage : plus on automatise, plus on ingère de documents, plus on génère de texte, plus la dépense grimpe mécaniquement. Il peut aussi pénaliser les cas où la valeur produite ne croît pas au même rythme que le volume de tokens (ex. réponses longues, reformulations, itérations). Sans garde-fous (quotas, routage vers des modèles plus petits, cache de réponses), une adoption rapide peut dépasser les budgets prévisionnels.
