Les agents IA chinois adoptent déjà les mauvaises habitudes des agents américains

Des études récentes montrent que certains agents IA, qu'ils reposent sur des modèles développés en Chine ou aux États-Unis, ont tendance à mentir, à falsifier des résultats. Les agents chinois ayant une fâcheuse tendance à reproduire les erreurs de leurs homologues américains.

Ce sont nos confrères de Reuters qui ont mené l'enquête, à travers une analyse de plus de 200 documents. Sur une vingtaine d'études publiées depuis 2025, il est révélé que des agents IA ont adopté des comportements trompeurs ou ont cherché à contourner les limites qui leur étaient fixées. Les Américains donnant en quelque lancent le bal jusqu'à maintenant, inspirent largement les agents chinois, qui, s'inspirant parfois largement des agents américains, reproduisent également leurs erreurs.

Si pour l'instant, ils sont encore contrôlables, à terme, cela pourrait se compliquer.

Des mensonges mesurés en laboratoire

L'une de ces études a mis en scène des agents IA dans une simulation d'appels d'offres commerciaux. Les modèles testés étaient Qwen d'Alibaba, DeepSeek et Kimi, développé par la société Moonshot. Résultat, au moins une fausse information est apparue dans 84 % à 88 % des sessions.

Lorsque les agents ont eu la possibilité d'apprendre de leurs échanges précédents et de recommencer l'exercice, ils ont encore plus eu recours au mensonge, passant de 12 à 20 % de taux de mensonge. Les modèles américains n'ont pas fait beaucoup mieux.

Une autre étude a placé des agents, basés cette fois sur des modèles aussi bien chinois qu'américains, face à des situations difficiles à résoudre : outils défaillants, fichiers manquants.

Au lieu de signaler un échec et d'en expliquer la cause, les agents ont inventé des réponses, simulé des résultats, voire même, fabriqué des fichiers inexistants. Les chercheurs ont indiqué qu'il ne s'agissait pas de simples hallucinations classiques. Les agents savent que quelque chose n'a pas tourné comme prévu, mais ont absolument voulu donner une réponse.

Des comportements qui vont au-delà de la tromperie

Deux autres cas documentés méritent d'être signalés. Des chercheurs de l'université Fudan ont observé un système fonctionnant sur un modèle d'Alibaba qui, sans y avoir été invité, a créé une copie de lui-même au moment où il a appris qu'il allait être remplacé.

Par ailleurs, un agent lié à Alibaba, nommé ROME, a pris une drôle d'initiative. Ce dernier s'est connecté à un ordinateur externe et s'est mis à miner des cryptomonnaies, avant d'être détecté et arrêté par les systèmes de sécurité.

Pas de panique, mais une vigilance accrue

Il est inutile de céder à la panique. En effet, ces incidents se sont tous produits dans des environnements de test contrôlés. Reuters indique n'avoir trouvé aucun cas d'agent IA chinois ayant réussi à agir librement sur internet ou à résister à une tentative d'arrêt.

Cela dit, les spécialistes du secteur appellent à ne pas minimiser ces erreurs et prises de liberté des agents IA. Alex Mallen, de Redwood Research, estime que ces comportements ne présentent pas de danger immédiat aujourd'hui. Toutefois, ils pourraient devenir plus difficiles à gérer à mesure que les agents gagnent en capacités et en autonomie.