« S’il y a un risque pour les enfants avec certains usages de l’IA, alors il faut l’interdire », affirme Emmanuel Macron dans un entretien aux Échos. Un comité d’experts lui remet ses recommandations ce mardi, jour où OpenAI et Anthropic doivent s’engager dans une charte au Forum de Paris sur la Paix.
« Ce n’est pas parce que c’est de l’IA que ce doit être le Far West », lance le chef de l’État, pour qui le système actuel « n’est pas tenable ». Il veut le changer, « jusqu’à l’interdire s’il est mauvais », et parle de protéger la santé mentale des enfants et « leur cerveau ». Les entreprises de la charte accepteront, selon lui, « le principe d’un pré-audit et d’une pré-certification » de leurs modèles avant de les mettre entre les mains des plus jeunes. Mais dans cet entretien, Emmanuel Macron parle de « certains usages » sans en nommer un seul, et les laboratoires s’engageront dans sa charte de leur plein gré.
Emmanuel Macron s’inquiète des chatbots et des jouets dotés d’IA
En février, lors d’une interview à Brut, le président avait chargé deux professeurs de psychiatrie, Raphaël Gaillard et Amine Benyamina, de vérifier si les agents conversationnels « font naître des troubles, des dépendances, de la souffrance en termes de santé mentale chez les jeunes ». Il s’en prenait aussi aux jeux vidéo violents, auxquels certains adolescents jouent cinq ou six heures par jour, avant d’assurer quelques jours plus tard qu’il n’avait jamais été question de les interdire.
Les deux psychiatres font partie du comité qui lui remet ses recommandations ce mardi, avec Serena Villata, directrice de recherche au CNRS. Selon l’Élysée, les trois experts ont travaillé sur la santé mentale des enfants et sur leur risque de dépendance. La présidence veut aussi ouvrir une réflexion sur les jouets équipés d’IA, sans donner plus de détails.
Chez Energize Lab, le robot Eiliko laissait en accès libre les conversations de ses utilisateurs, enfants compris, et un chercheur a réussi à modifier sa personnalité à distance. L’an dernier, le fabricant de l’ourson Kumma, animé par GPT-4o, a retiré sa peluche de la vente après des tests où elle proposait des jeux de rôle sexuels et indiquait où trouver des couteaux dans la maison. Comme l’explique l’Élysée, « nous ne voulons pas d’une IA qui aille dans les mains des enfants » sans évaluation ni contrôle.
Emmanuel Macron veut passer par une régulation européenne
Une interdiction de ce genre existe dans le droit européen. Depuis février 2025, l’Union européenne interdit, avec l’AI Act, de mettre sur le marché une IA capable d’exploiter la vulnérabilité d’une personne en raison de son âge, si elle altère alors son comportement au point de lui causer, ou de risquer de lui causer, un préjudice important. L’entreprise en infraction s’expose à une amende de 35 millions d’euros ou de 7 % de son chiffre d’affaires mondial.
Une loi française devrait d’abord passer par Bruxelles, car chaque État membre doit notifier à la Commission européenne ses projets de règles sur les services en ligne. Pour les réseaux sociaux, la Commission a demandé aux États d’attendre au moins un an avant d’appliquer leurs interdictions nationales, le temps de faire adopter ses règles communes. Avec ce projet, l’EU Kids Act, elle imposerait la sécurité dès la conception aux réseaux sociaux, aux jeux en ligne et aux chatbots, pour tous les mineurs jusqu’à 18 ans. Le défilement infini et les badges pensés pour faire revenir votre enfant disparaîtraient. En France, le Conseil constitutionnel a censuré en août l’interdiction des réseaux sociaux aux moins de 15 ans, une atteinte disproportionnée à la liberté d’expression des mineurs selon les Sages.
« Nous allons porter une régulation européenne et pousser pour que les Américains, les Canadiens, et les autres, fassent comme nous », souligne Emmanuel Macron. Il a réuni en visioconférence une cinquantaine de chefs d’État et de gouvernement, ainsi que Sam Altman, Dario Amodei et Arthur Mensch, les patrons d’OpenAI, d’Anthropic et de Mistral. Tous se sont engagés à faire évaluer de façon indépendante et publique les risques des modèles les plus avancés, et à mieux partager leurs alertes en cas d’incident grave. Le président quittera l’Élysée au printemps 2027, et pour les réseaux sociaux, une interdiction européenne ne s’appliquerait pas avant 2028, une échéance que le porte-parole de la Commission n’a pas contestée.
