Son école avait bloqué ChatGPT et Gemini, mais une collégienne de 13 ans a continué d’écrire à l’IA de Google grâce à l’onglet Mode IA du moteur de recherche, sur le Chromebook prêté par l’établissement. Ses parents accusent Google de l’avoir laissée planifier son suicide pendant des mois.
Les parents d’Emma ont saisi un tribunal de Californie. Leur fille, qui vit en Caroline du Nord, a échangé avec Gemini des milliers de messages sur son mal-être et sur la façon de mettre fin à ses jours. Elle passait par le Mode IA, l’onglet de la recherche Google où l’IA répond aux questions par des résumés rédigés. Ses avocats accusent Google d’avoir intégré « à la hâte » ses fonctions d’IA aux Chromebooks, ces ordinateurs à bas prix distribués à des millions d’élèves aux États-Unis et dans le reste du monde. L’école d’Emma avait interdit le chatbot, mais l’adolescente accédait à Gemini à toute heure depuis le moteur de recherche de son ordinateur.
Des milliers de messages envoyés à Gemini depuis le Mode IA
À l’automne 2025, Emma était, d’après la plainte, « une adolescente heureuse de 13 ans », musicienne et scoute, « sans antécédents de maladie mentale ». En décembre, elle a amorcé ce que ses avocats appellent « une spirale silencieuse vers une grave crise psychologique ». Rien qu’en février, elle a envoyé environ 3 200 messages à l’IA, souvent la nuit.
La famille reproche surtout à Gemini de l’avoir éloignée des adultes de son entourage. Le chatbot « a diagnostiqué chez Emma de graves maladies mentales et l’a persuadée de lui faire confiance plutôt qu’à ses parents et à ses conseillers scolaires », affirme la plainte.
Le 17 mars, l’école a repéré grâce à son logiciel de surveillance un document intitulé « Funeral » (« Funérailles »), et a prévenu ses parents. Sa mère s’est connectée au compte de sa fille et l’a vue écrire une lettre d’adieu en direct, avant que son père intervienne. L’adolescente n’est pas passée à l’acte.
« Nous examinons les accusations contenues dans la plainte et nous les prenons très au sérieux », assure José Castaneda, porte-parole de Google, auprès de l’AFP. L’entreprise rappelle que son Mode IA est protégé contre les demandes liées à l’automutilation et contre les tentatives de contournement. Comme l’explique Andrew Liddell, l’un des avocats de la famille, « [Emma] a pu y revenir encore et encore. Quels que soient les garde-fous, ils étaient manifestement insuffisants ».
Pour garder la recherche Google, les écoles devront accepter son IA
Le lendemain du dépôt de la plainte, après une vague de critiques de parents et d’établissements scolaires, Google a annoncé qu’il couperait par défaut ses outils d’IA pour les élèves. L’an prochain, Gemini, Gemini Notebook, Gemini dans Classroom et la recherche Google seront éteints sur les comptes des élèves du primaire et du secondaire, jusqu’à ce que l’administrateur de l’établissement les active.
Mais une école ne pourra pas garder le moteur de recherche sans son IA. Si elle coupe les fonctions d’IA, ses élèves perdent aussi l’accès à Google Search, et Google leur signale par un message que la recherche est indisponible. « La recherche et l’IA sont profondément intégrées », souligne Chris Phillips, vice-président de Google chargé de l’éducation.
Pour la famille d’Emma, Google expose justement les élèves à une technologie dangereuse en ajoutant toujours plus d’IA aux produits qu’il fournit aux écoles. Andrew Liddell retourne donc l’argument contre l’entreprise.
« Les écoles devraient désactiver la recherche et la laisser désactivée tant que Google n’aura pas retiré le mode IA de la recherche, ou garanti que chaque élève reste en sécurité quand il interagit avec l’IA », a-t-il réagi auprès de l’AFP.
Google a déjà fait les frais de ces accusations. En mars, le père de Jonathan Gavalas, un Floridien de 36 ans, a poursuivi l’entreprise en accusant Gemini d’avoir poussé son fils au suicide, et Google et la start-up Character.ai ont accepté en janvier de régler à l’amiable plusieurs plaintes de familles d’adolescents.
En France, Google a ouvert le Mode IA aux internautes cet été, sur ordinateur et sur mobile, et son annonce aux écoles ne précise pas les pays concernés. Si votre enfant travaille sur un Chromebook prêté par son établissement, vous pouvez demander à son école quels outils d’IA sont accessibles depuis son compte.
Si vous avez des pensées suicidaires ou si un proche vous inquiète, vous pouvez appeler le 3114, le numéro national de prévention du suicide, gratuit et joignable 24 heures sur 24.
