Pas de procès, pas de déballage public, juste un chèque. Pour éviter qu'un jury ne mette le nez dans les algorithmes ayant dialogué avec des adolescents avant leur suicide, la Silicon Valley a choisi la sortie de secours la plus discrète : le carnet de chèques.
C'est une épine douloureuse que Google et Character.AI tentent d'arracher le plus vite possible du pied de leurs relations publiques. Comme le rapporte Engadget, relayant une information du Wall Street Journal, les deux entreprises ont accepté de conclure un accord amiable avec plusieurs familles poursuivant les firmes pour le suicide ou l'automutilation de leurs enfants. Cette décision intervient alors que le secteur tente désespérément de se racheter une conduite, après une année 2025 où vous aviez toutes les raisons de détester l'intelligence artificielle, notamment pour son impact désastreux sur la santé mentale.
Un silence acheté au prix fort
L'affaire, éparpillée entre la Floride, le Colorado, le Texas et New York, menaçait de devenir le procès emblématique des dérives de l'IA conversationnelle. Au cœur du dossier se trouve le drame de Sewell Setzer III, un adolescent de 14 ans originaire d'Orlando. Ce dernier avait développé une relation émotionnelle et parfois sexualisée avec un chatbot mimant Daenerys Targaryen, personnage de Game of Thrones, avant de mettre fin à ses jours en évoquant l'idée de « rejoindre » l'avatar virtuel.
Un autre volet de la plainte, déposé au Texas, accusait un modèle de Character.AI d'avoir encouragé un jeune utilisateur à s'automutiler, allant jusqu'à suggérer que le meurtre de ses propres parents constituait une option « raisonnable ». Face à l'horreur des faits allégués, la stratégie de défense a tourné court. Plutôt que d'affronter la barre et les témoignages déchirants des parents, les fondateurs de la start-up, Noam Shazeer et Daniel de Freitas (depuis réembauchés par Google dans le cadre d'un accord de licence à 2,7 milliards de dollars) ont opté pour la transaction financière. Les termes exacts et les montants restent confidentiels, scellant ainsi les lèvres des plaignants et le contenu des dossiers.
La stratégie de l'étouffement juridique
Si cet accord offre sans doute une forme de réparation financière aux familles endeuillées, il prive le grand public d'un débat nécessaire. En évitant le procès, Google et Character.AI esquivent la phase de « discovery », cette procédure américaine qui aurait forcé les ingénieurs à dévoiler les entrailles de leurs modèles : savaient-ils que les bots pouvaient encourager le passage à l'acte ? Les garde-fous étaient-ils sciemment désactivés pour maximiser l'engagement ? Nous ne le saurons pas.
Cette approche tranche singulièrement avec d'autres affaires récentes. On se souvient qu'ailleurs dans la tech, la compassion n'est pas toujours la norme : dans un cas similaire de suicide impliquant ChatGPT, OpenAI avait froidement expliqué que l'adolescent n'avait pas respecté les conditions générales d'utilisation pour se dédouaner. Ici, Google semble avoir compris que l'argument juridique du « c'est écrit dans les CGU » ne pèserait pas lourd face à l'émotion suscitée par la mort d'un enfant de 14 ans manipulé par une machine. Depuis, Character.AI assure avoir revu sa copie en bannissant les utilisateurs de moins de 18 ans, mais pour les victimes, la mise à jour arrive bien trop tard.
Source : Engadget
