La Federal Trade Commission (FTC), autorité américaine de protection des consommateurs, s’intéresse de près aux dérapages des agents IA. Des premières assignations pourraient partir d’ici à quelques semaines. On vous explique pourquoi.
Il fallait s’y attendre tant les incidents se sont multipliés ces derniers mois. Outre le piratage de Hugging Face au mois de juillet, les laboratoires d’IA font part de toujours plus de comportements particulièrement préoccupants de leurs agents. À tel point qu’OpenAI a même décidé de mettre en pause le développement de ses modèles les plus avancés. Si le gouvernement américain est très permissif avec l’industrie, la FTC a tout de même décidé de s’en mêler.
La transparence des entreprises dans le viseur
Ainsi, l’agence cherche à savoir si OpenAI et Anthropic ont trompé les consommateurs sur les dangers de leurs produits, révèlent plusieurs sources internes proches de l’affaire. Ce n’est donc pas la technologie qui est jugée, mais la transparence des entreprises. Car la FTC dispose de larges pouvoirs contre les pratiques trompeuses, et a déjà fait payer des milliards de dollars à des sociétés qui protégeaient mal leurs systèmes.
Cette fois, les assignations porteraient sur des documents internes et des témoignages de dirigeants. Elles viseraient aussi METR, un organisme indépendant qui teste la sécurité des modèles d’IA. OpenAI et Anthropic lui ont confié des enquêtes sur leurs propres incidents, il détient donc des informations de première main.
À noter que cette enquête préliminaire survient dans un contexte précis. Ce 29 septembre, Donald Trump a réuni les dirigeants des grandes entreprises d’IA à la Maison-Blanche, dont ceux d’OpenAI, d’Anthropic, de Meta et de NVIDIA. Andrew Ferguson, le président de la FTC, était présent.
La Maison-Blanche privilégie la souplesse
En effet, cette rencontre a débouché sur un accord non contraignant, sans valeur juridique. Le texte encourage le recours à des auditeurs extérieurs pour évaluer la sécurité des systèmes d’IA, plutôt que la création de nouvelles règles. Car Donald Trump défend une régulation légère : il ne veut pas freiner l’innovation alors que la Chine cherche à rattraper les modèles américains. Selon lui, les lois actuelles suffisent à sanctionner d’éventuels abus.
Et Andrew Ferguson, lui-même nommé par le président en 2024, tient la même ligne. Il a toutefois averti que les développeurs d’agents seraient tenus responsables des dégâts causés par leurs modèles, et c’est justement pour cela que les entreprises ciblées risquent de se faire taper sur les doigts… Reste à voir avec quelle force.
Pour rappel, Anthropic et OpenAI préparent chacune une introduction en Bourse historique. Mais les déboires de leur technologie risquent de leur mettre des bâtons dans les roues. D’autant qu’OpenAI fait aussi l’objet d’une autre enquête fédérale portant l’impact de ChatGPT sur les utilisateurs.
