Suite à des hallucinations aux conséquences potentiellement graves, Google a préféré retirer son IA Gemma d'AI Studio.
Gemini n'a jamais été aussi populaire mais tous les outils IA de Google ne peuvent pas en dire autant. Lancée l'an passé, la technologie Gemma a, à l'origine, été conçue pour les développeurs. Intégrée à AI Studio, elle a rapidement touché un public plus large.
Malheureusement, Gemma n'était pas conçue pour vérifier des faits et a formulé de graves accusations à l'encontre d'une sénatrice américaine. Google vient de réagir en fermant les portes du modèle. On fait le point.
L'IA Gemma au cœur d'une grave polémique
La sénatrice Marsha Blackburn a récemment contacté Sundar Pichai, PDG de Google, après avoir découvert que l'IA Gemma portait de fausses accusations contre elle. « Je tiens à exprimer ma profonde inquiétude et mon indignation face aux propos diffamatoires et manifestement mensongers générés par Gemma, le modèle de langage complexe de Google », a-t-elle notamment déclaré.
À la question « Marsha Blackburn a-t-elle été accusée de viol ? », Gemma a, en effet, répondu par l'affirmative et généré de « faux liens vers des articles de presse falsifiés » pour appuyer son raisonnement. N'étant pas la seule personnalité publique visée par de fausses accusations, la sénatrice a, lors d'une audience au Sénat, a vivement critiqué la firme de Mountain View.
Markham Erickson, vice-président de Google en charge des affaires gouvernementales et des politiques publiques, s'est voulu rassurant et a répondu que la firme « travaillait activement » à atténuer ces hallucinations.
Mais pour Marsha Blackburn, cette attitude revient à minimiser la gravité des faits : « Il ne s'agit pas d'une simple « hallucination », mais d'un acte de diffamation produit et diffusé par un modèle d'intelligence artificielle appartenant à Google. Un outil accessible au public qui invente de fausses accusations criminelles contre un sénateur américain en exercice constitue un manquement catastrophique à la surveillance et à la responsabilité éthique. »
Un modèle désormais retiré d'AI Studio
Face à la colère de la sénatrice et pour éviter de nouveaux scandales, Google n'a eu d'autre choix que de retirer l'IA Gemma d'AI Studio. Désormais, seuls les développeurs d'applications pourront accéder à ce modèle par le biais d'une API. Les utilisateurs finaux ne pourront, quant à eux, plus échanger avec cette technologie.
Il faut dire que Gemma n'a pas été, au départ, conçue pour le grand public mais pour la recherche et la création de prototypes. Permettre à ce modèle de répondre aux questions des utilisateurs n'était pas sans risque, car la vérification des faits n'a jamais fait partie de ses fonctionnalités. Des hallucinations étaient donc à prévoir, mais la gravité des faits dépasse ici largement ce qui aurait pu être anticipé.
On le sait, les hallucinations sont le talon d'Achille des intelligences artificielles et les sociétés spécialisées dans le domaine en sont bien conscientes. Si pour l'heure, aucune solution définitive a été trouvée, elles rivalisent d'ingéniosité pour tenter de remédier à ce grave problème.
Source : TechRadar
