Google va proposer Gemini aux enfants de moins de 13 ans dès la semaine prochaine. Seuls les comptes gérés par les parents via Family Link pourront y accéder. Des protections spécifiques accompagnent ce lancement.
- Google va lancer Gemini pour enfants de moins de 13 ans, via Family Link avec sécurité renforcée.
- Google a développé des protections spécifiques et n'utilisera pas les données des enfants pour entraîner Gemini.
- Malgré les garde-fous, Google admet des erreurs possibles et conseille une surveillance parentale continue.
Le géant de Mountain View étend son public cible pour son IA conversationnelle. Cette décision arrive dans un contexte où les chatbots deviennent omniprésents. Des millions d'adolescents les utilisent déjà comme compagnons virtuels ou outils d'aide aux devoirs. Google prend les devants avec une approche qui mise sur la sécurité et le contrôle parental.
Les associations de défense des enfants ont sonné l'alarme sur les risques potentiels de ces technologies. Désinformation, manipulation ou contenus inappropriés figurent parmi les dangers identifiés. Google en est conscient et a développé des garde-fous spécifiques pour sa jeune audience. L'entreprise a également mis en place un système qui empêche l'utilisation des données des enfants pour améliorer ses modèles d'IA.
- Un modèle de génération puissant
- Une base de connaissances actualisée en temps réel
- Gratuit et intégré à l'écosystème Google
Un accès supervisé et des garde-fous pour les jeunes utilisateurs
Les parents reçoivent depuis quelques jours des emails de la part de Google. « Votre enfant pourra bientôt accéder aux applications Gemini », peut-on y lire. Le message précise que les jeunes utilisateurs pourront « poser des questions, obtenir de l'aide pour leurs devoirs et inventer des histoires ». Google a prévu plusieurs mécanismes de protection. Karl Ryan, porte-parole de l'entreprise, l'a confirmé au New York Times.
« Lorsqu'un enfant disposant d'un compte Family Link utilise Gemini, l'entreprise n'utilisera pas ces données pour entraîner son IA », a-t-il déclaré. Une différence notable avec l'usage habituel des chatbots, qui apprennent généralement de leurs interactions avec les utilisateurs.
Les parents recevront une notification à la première connexion de leur enfant. Ils pourront ajuster les paramètres ou bloquer complètement l'accès. Family Link permet déjà aux parents de gérer Gmail, YouTube et d'autres services Google pour leurs enfants. La création d'un compte enfant requiert le nom et la date de naissance.
Google reconnaît les limites et risques de son chatbot
« Gemini peut faire des erreurs ». Voilà ce que Google admet dans ses e-mails aux familles. L'entreprise ne cache pas les faiblesses de sa technologie et demande aux parents d'encourager leurs enfants à vérifier les réponses du chatbot.
Google leur recommande aussi de rappeler régulièrement deux choses essentielles:
- « Gemini n'est pas humain » ;
- Il ne faut « pas saisir d'informations sensibles ou personnelles dans Gemini ».
Malgré tous les filtres mis en place, les enfants « peuvent être confrontés à du contenu que vous ne souhaitez pas qu'ils voient », avertit encore Google. Les inquiétudes concernant l'usage des chatbots par les mineurs se multiplien…
Common Sense Media a publié un rapport qui fait plutôt froid dans le dos récemment. Les chatbots IA « encouragent les comportements nuisibles, fournissent du contenu inapproprié et aggravent potentiellement les problèmes de santé mentale » chez les utilisateurs de moins de 18 ans, selon l'organisation.
Une inquiétude que partage l'UNICEF. « L'IA générative a produit du contenu dangereux », a déclaré son bureau de recherche mondial. L'agence des Nations Unies craint que les jeunes enfants ne comprennent pas la nature non-humaine des chatbots.
Google n'est pas seul à vouloir conquérir ce marché. Les grandes entreprises tech rivalisent pour attirer les jeunes utilisateurs avec leurs produits d'IA. YouTube Kids existe depuis 2015. Cette application vidéo a rencontré un certain succès auprès des familles. D'autres ont dû revoir leurs ambitions à la baisse. Meta a abandonné son projet Instagram Kids en 2021 face aux critiques des procureurs généraux américains.
Le lancement de Gemini pour les enfants sera progressif. Les entreprises tech avancent prudemment dans ce domaine. Plusieurs d'entre elles, Google inclus, ont déjà payé des amendes pour violation de la loi américaine sur la protection de la vie privée des enfants en ligne.
Les parents décideront finalement si leurs enfants accèdent ou non à cette technologie.
Source : The New York Times (accès payant), Google, Common Sens Media
