L'intelligence artificielle peut clairement créer des problèmes à l'avenir. Une nouvelle preuve avec cet incident dû à une IA d'Anthropic !
Les intelligences artificielles auront-elles un jour le pouvoir de détruire nos sociétés ? C'est ce que l'on pense de plus en plus au vu du discours des géants du secteur, mais aussi d'actions malveillantes déjà menées par ces modèles, à l'image du piratage de Hugging Face par des agents IA d'OpenAI. Et du côté d'Anthropic, on a aussi du pain sur la planche.
La solution tout-en-un pour protéger votre entreprise
Votre petite entreprise a de grandes ambitions. Protégez-là contre les pirates. Et développez sereinement votre activité !
Une IA d'Anthropic envoie un faux signalement de meurtre non-élucidé à la police
Le 18 juillet dernier, comme nous l'apprend TechCrunch, une IA d'Anthropic envoyait un faux signalement sur une plateforme de la police de Philadelpie recueillant des tuyaux de citoyens sur des meurtres non élucidés.
« Je me souviens avoir vu une personne correspondant à la description » a ainsi clairement halluciné l'IA, en réponse à un meurtre pour lequel aucune description de suspect n'avait été fournie. La police n'avait de toute façon pas cherché à élaborer une quelconque action, puisque ce tuyau est tout de suite tombé dans les courriers indésirables.
Un signalement issu d'une phase de test menée par Anthropic
Le problème plus important tient plutôt au temps qu'a mis Anthropic pour se rendre compte de ce comportement. La firme de Dario Amodei ne s'est en effet rendu compte de cette action que deux mois plus tard, le 28 septembre dernier. De quoi provoquer l'ire des autorités.
« L'entreprise doit renforcer ses mesures de sécurité afin d'empêcher que des incidents similaires n'affectent les systèmes municipaux à l'insu de la ville. Le délai de deux mois qui s'est écoulé entre la détection de l'incident et sa signalisation à la ville est inacceptable » a ainsi tonné la police de Philadelphie, dans un communiqué de presse.
Si Anthropic n'a pas souhaité pour le moment communiquer sur cet incident, la police de Philadelphie a elle déjà obtenu des informations. Selon cette dernière, ce faux pas a eu lieu à l'occasion d'une phase de test durant laquelle Anthropic faisait interagir un modèle IA avec des sites web sélectionnés au hasard - parmi lesquels, la plateforme de tuyaux en question. Alors, doit-on s'inquiéter ?
