OpenAI annonce des mesures inédites pour encadrer l’usage de ChatGPT par les mineurs. Les échanges liés au suicide et aux contenus sexuels seront désormais strictement limités.
L’entreprise dirigée par Sam Altman a dévoilé une série de règles visant à protéger les adolescents face aux risques liés aux chatbots. Ces nouvelles dispositions surviennent alors qu’OpenAI est visée par une plainte déposée par les parents d'un adolescent, Adam Raine, qui s'est suicidé après plusieurs mois d'utilisation prolongée de ChatGPT. Dans ce contexte, la société affirme privilégier la sécurité des jeunes et leurs parents disposeront également de nouveaux outils de contrôle, comme des horaires de coupure, pour encadrer l’accès à l’IA.
La plateforme 1minAI propose en ce moment son offre Pro Lifetime à seulement 29,97 $ (environ 26 €) au lieu de 234 $, soit un accès à GPT-5 et aux autres IA majeures comme Gemini, Claude 3 ou Midjourney
Offre partenaire
Des restrictions pour les mineurs appliquées automatiquement
Parmi les principaux changements, ChatGPT n’engagera plus de discussions à caractère sexuel avec des utilisateurs identifiés comme mineurs. Les conversations flirt ou suggestives seront bloquées de manière automatique. De plus, des garde-fous renforcés sont mis en place autour des thématiques liées au suicide. Si un adolescent sollicite le chatbot pour évoquer des scénarios d’autodestruction, la plateforme tentera d’alerter les parents, voire de prévenir les autorités locales en cas de danger immédiat.
Ces mesures répondent à des inquiétudes grandissantes concernant l’impact psychologique des intelligences artificielles conversationnelles. OpenAI souligne que la technologie est encore récente et qu’elle peut amplifier certaines vulnérabilités, notamment chez les plus jeunes. L’objectif est donc de réduire les risques de dérives tout en conservant une utilité pédagogique et sociale.
Le sujet dépasse d’ailleurs le seul cas d’OpenAI. Meta, un autre acteur important de l'intelligence artificielle aujourd'hui, a modifié ses conditions d'utilisation récemment.
- Chat dans différentes langues, dont le français
- Générer, traduire et obtenir un résumé de texte
- Générer, optimiser et corriger du code
OpenAI prend les devants avant une commission d'enquête ouverte par le Sénat américain
En parallèle des restrictions de contenu, OpenAI introduit de nouvelles fonctions de supervision. Les parents pourront désormais paramétrer des périodes d’indisponibilité appelées « blackout hours », empêchant toute utilisation du service à certaines heures. Ce dispositif vise à limiter l’usage nocturne ou excessif, en complément des filtres déjà en place.
La question de l’identification des utilisateurs mineurs reste un défi technique. OpenAI développe un système permettant de mieux distinguer les moins de 18 ans, mais précise que dans les cas d’incertitude, les règles les plus restrictives s’appliqueront par défaut. Associer le compte d’un adolescent à celui d’un parent sera, selon l'éditeur, le moyen le plus fiable pour garantir une supervision effective.
Le timing de ces annonces ne doit enfin rien au hasard. La famille d'Adam Raine sera entendue par le Sénat américain lors d'une commission d'enquête portant sur les dangers de l'IA. Sam Altman et ses équipes ont sans doute souhaité soigner leur image, même si c'est un peu tard aujourd'hui.
Source : TechCrunch
