La reconnaissance faciale pour rendre le Web plus sûr pour les enfants, la bonne solution ?

21 septembre 2021 à 00h28
17
Enfant écran ordinateur © Shutterstock
© Maria Sbytova/Shutterstock

En aidant à distinguer les enfants des adultes, la technologie d'analyse faciale pourrait-elle contribuer à créer un Internet plus sûr pour nos rejetons ?

Les sites et les législateurs de plusieurs pays se posent cette épineuse question.

Comment déterminer l'âge des visiteurs de sites pornographiques ?

Depuis le 30 juillet 2020 en France, le fait pour un site de laisser ses internautes accéder à des contenus pornographiques sans vérifier leur âge constitue un délit. La loi sur les violences conjugales dispose qu’ils pourront être bloqués ou déréférencés à la demande du CSA s’ils ne mettent pas en place un contrôle strict, autre qu’une « simple déclaration ». Mais sans imposer de méthode particulière à utiliser.

Un an plus tard, force est de constater que la majorité des sites pornographiques restent accessibles aux mineurs. En mars 2021, relève Next INpact, trois associations défendant les droits de la famille et de l'enfance (Open, Cofrade, Unaf) ont ouvert une action judiciaire contre Pornhub, Xvideos, Xhamster et Jacquie et Michel. Mais rien n’a bougé. Seul Jacquie et Michel a réagi, en mettant en place une vérification par carte d’identité, My18Pass.

Il faut dire que les moyens pour vérifier l’âge des visiteurs demeurent un vrai casse-tête en l’absence d’un cadre plus précis. Pourtant, ce ne sont pas les idées qui manquent. Le site Pornhub en a déjà listé plusieurs : utiliser un identifiant officiel tel que FranceConnect, effectuer un micro-paiement par carte bancaire, obtenir un code SMS auprès d’un opérateur, ou envoyer un selfie et/ou une pièce d'identité à un système d'analyse du visage (nous y reviendrons).

Un projet de décret d’application est en cours d’examen. Constatant que les éditeurs naviguent à vue, il réclame au CSA d’adopter des « lignes directrices » relatives aux procédés de vérification de l’âge. Mais la CNIL a déjà fait savoir qu’ils ne devront pas « remettre en cause le principe d’anonymat en ligne ».

De la carte d’identité à l’analyse du visage

Ailleurs en Europe, les mêmes réflexions donnent les mêmes maux de tête aux éditeurs de sites et aux législateurs. En 2017, le Royaume-Uni souhaitait lui aussi s’aligner sur la directive européenne « Services de médias audiovisuels » (SMA). Selon elle, les pays de l’UE doivent « éviter que les mineurs aient accès à des programmes susceptibles de nuire à leur épanouissement ». Une loi similaire avait été adoptée, avant d’être abandonnée en 2019, car le gouvernement n’avait pas trouvé de solution respectant à la fois la vie privée, la protection des mineurs et la liberté d’expression. L’obligation d’entrer un numéro de carte de crédit ou de scanner une pièce d’identité avait été jugée trop risquée. À l’époque, The Guardian affirmait avoir réussi à contourner l’un des systèmes envisagés en créant un faux numéro de carte bancaire.

Enfant reconnaissance faciale © Shutterstock
© Chepko/Dreamstime.com

En Angleterre, le débat se poursuit (hors UE) avec un nouveau projet de loi. Et certains proposent désormais d’utiliser une technologie attirante, mais controversée : la reconnaissance faciale. L’idée : demander à l’internaute de se prendre en photo avant d’accéder à un site porno ou à un réseau social (puisque des contenus choquants y prolifèrent aussi). Mais il ne s’agirait pas de reconnaître un visage en particulier. L’IA utilisée analyserait seulement les points d’un visage afin de déterminer son âge. Tout en garantissant l’anonymat, indique The Guardian dans un article récent.

La collecte des données en question

Autre limite : s’il faut des jeux de données pour entraîner les IA, « le problème est que les bases photos d’enfants sont interdites par la loi. Il n’en existe qu’à partir de 16 ans » note Kevin Bailly, de l’Institut des Systèmes Intelligents, dans Numerama. Dans le cas des chercheurs d’Orange Labs, ces derniers ont récolté 5 273 visages d'enfants issus de photos de classe... fournies par des parents et des amis.

Ce système ressemblera-t-il à celui utilisé en Chine pour freiner l’usage par les enfants des jeux mobiles ? Tencent a récemment dévoilé son intention de « procéder à un contrôle des visages pour les comptes qui jouent d’une façon excessive la nuit ». L’objectif est de détecter ceux tenus par des mineurs. En Europe, protection de la vie privée oblige, il ne pourrait s’agir que d’une version édulcorée, anonymisée. Mais la CNIL, peu convaincue, note sur son site que l’analyse du visage, même sans « reconnaissance », repose sur « une collecte massive de données personnelles et apparaît difficilement conforme aux principes de protection des données ». Par exemple, pour un concours, des chercheurs d’Orange Labs à l’origine d’un prototype de logiciel d’analyse de « caractéristiques faciales » ont dû utiliser pas moins de 523 000 photos de célébrités.

Une fiabilité qui laisse à désirer ?

En outre, la fiabilité d’une telle technologie laisserait probablement à désirer, avec de faux positifs comme de faux négatifs. Un adolescent aux traits plus « adultes » ou, a contrario, un adulte au visage juvénile pourraient par exemple être soit acceptés, soit refusés à tort. « Il est actuellement impossible pour une IA de déterminer l’âge d’une personne à partir d’une seule image. Et même avec plusieurs photos, les algorithmes ont une marge d’erreur non négligeable » affirme Kevin Bailly.

Comment une telle technologie, dans ces conditions, pourrait-elle « préserver la capacité à naviguer librement, sans s’identifier » comme le préconise la CNIL ? The Guardian cite l’exemple d’une start-up londonienne, Yoti, qui fournit aux supermarchés en libre-service une technologie de « détection automatique de l’âge » des clients. L’entreprise assure que ce système est « déjà aussi performant qu'un humain pour déterminer l'âge d'une personne à partir d'une vidéo ». Concernant la protection de la vie privée, elle argue que l’IA « ne reconnaît pas le visage de manière individuelle, mais essaie seulement de déterminer l’âge ».

Reste la possibilité, toutefois, pour un mineur de déjouer un tel système en demandant à un ami plus âgé de se placer devant l’écran à sa place. Il faut en outre savoir que 44 % des 11-18 ans déclarent avoir déjà menti sur leur âge sur les réseaux sociaux, selon Génération Numérique. Changeront-ils de comportement face à un tel système ? Rien n’est moins sûr.

Soyez toujours courtois dans vos commentaires.
Respectez le réglement de la communauté.
17
12
Stef_R
Au parents d’être responsables et surveiller les gamins.<br /> Les pare-feux, contrôles parentaux, etc… ne sont pas fait pour les chiens
Fatima
On ne donne pas de tablette , ni Pc ni smartphone jusqu’à l’âge de 18 ans .<br /> Malheureusement les parents maintenant donne tout ça dès 3 ans pour être tranquille devant Netflix et réseau sociaux
crush56
Mais c’est pas possible j’en peux plus de ce monde, ça devient effrayant.
SPH
Pas d’ordi en dessous de 15 ans : une gameboy
MisterDams
Impossible d’avoir un enfant qui n’utilise pas un ordi avant 15 ans, c’est bien trop nécessaire pour l’école et la maîtrise d’un ordinateur est un prérequis pour bon nombre de métiers.
Maspriborintorg
La Chine fait déjà appliquer la reconnaissance faciale obligatoire pour les fournisseurs de<br /> jeu en ligne pour empêcher les enfants de jouer après 22 h. Un contrôle avec les parents est nécessaire pour donner tous les renseignements (dont une photo de l’enfant).
mcbenny
Interdire l’accès à un ordinateur ou matériel équivalent avant 15 ans ou même avant est irréalisable de nos jours, l’éducation passe aussi par là, et l’école demande l’utilisation d’ordinateurs.<br /> Par contre, le contrôle parental, le contrôle d’horaires d’accès, le temps d’usage etc. sont des choses qui existent via Windows ou Mac OS, les «&nbsp;comptes enfants&nbsp;» etc.<br /> Et après, le retrait pur et simple de l’appareil pour la nuit ou l’extinction de la box ça marche aussi.<br /> Après, vouloir interdire l’accès total et inconditionnel à des contenus porno par exemple, c’est utopique. Ils trouveront toujours un moyen (on avait le catalogue de la Redoute avant). Reste à éduquer, parler, expliquer, relativiser etc. Un boulot (chiant) de parent.
pecore
Encore et toujours la faute des parents, c’est d’un fatiguant. Les parents ne peuvent pas être H/24 sur le dos de leur enfant et tout contrôler. D’ailleurs ce serait mauvais pour son développement. De plus, à partir d’un certain âge, plus les parents interdiront une chose à leur enfant, plus il aura envie de la faire.<br /> Pourquoi est il si absurde de dire que la responsabilité doit être partagée entre la supervision et l’éducation parentale et la responsabilisation des sites adultes et offrir ainsi un double niveau de protection pour les mineurs.<br /> Mais la reconnaissance faciale comme solution, je n’y crois pas une seconde.
Stef_R
Jusqu’à preuve du contraire, les enfants mineurs sont sous la responsabilités des parents.
Stef_R
Des solutions existent… ça m’a pris 3 minutes pour trouver les liens… donc les mauvaises excuses…<br /> Windows<br /> https://www.malekal.com/windows-10-controle-parental/<br /> Android<br /> Meilleur contrôle parental Android : notre top 4 !.<br /> IOS<br /> Utilisation du contrôle parental sur l’iPhone, l’iPad ou l’iPod&nbsp;touch de votre enfant - Assistance Apple (FR)<br /> Linux<br /> CTparental : le contrôle parental pour Linux | Numétopia
pecore
Stef_R:<br /> Jusqu’à preuve du contraire, les enfants mineurs sont sous la responsabilités des parents.<br /> Ce qui signifie faire tout son possible et non l’impossible ni qu’ils sont les seuls à avoir une responsabilité. Ainsi les commerçants, cafetiers, buralistes ont la responsabilité de ne pas vendre d’alcool ou de tabac aux mineurs.
iodir
Toujours plus de flicage, toujours plus intrusif. La dystopie complètement délirante.
pecore
Il n’y a pas l’ombre d’une chance que cela passe chez nous, pour dix milles raisons légales, éthiques ou techniques. Je suis pour un renforcement des contrôles de l’accès à la pornographie mais ça c’est vraiment une idée stupide qui n’a aucune chance d’aboutir et qui fait plus de mal que de bien.
MisterGTO
(message retiré par son auteur, il sera supprimé automatiquement dans 24 heures à moins qu’il ne soit signalé)
Stef_R
Exactement… il y a des lois, chacun doit les respecter. Celui/Celle qui enfreint risque une amende.<br /> Pour consulter un site porno, l’hébergeur a pour obligation d’informer le type de contenu et l’âge minimum requit. S’il ne le fait pas il sera verbalisé. Si l’utilisateur ne respecte pas, ce devrait aussi à lui (l’utilisateur) d’être verbalisé… logiquement.
pecore
C’est la que nous ne sommes pas d’accord, informer n’est pas suffisant, c’est même trop facile pour des sociétés qui brassent des millions.<br /> Pour rester sur l’exemple précédent est ce que les cafetiers doivent simplement poser un écriteau comme quoi la vente d’alcool est interdite aux mineurs ? Non, ils seront tenus responsables s’ils le font, avertissement ou pas, car ce sont des professionnels, que la vérification est attendue d’eux et la sanction peut aller bien plus loin qu’une amende.<br /> Je ne demande rien de plus que cette même responsabilité et ce même professionnalisme de la part des gérants de sites pornos et je pense que ce n’est pas demander la lune.
David_BOCART
c’est totalement inapplicable sur un site web, la personne physique n’est pas identifiable
pecore
Tout comme il est possible de se faire de faux papiers pour les mineurs vraiment déterminés, mais au moins on rend l’accès moins facile voire impossible pour la grand majorité. Même un début de solution vaut mieux que pas de solution du tout.
Stef_R
Et bien, on fait comme en CHINE ou en IRAN… ce qui n’est pas approuvé par les dirigeants est interdit d’accès… donc plus de souci et moins de liberté.<br /> Fais comme tu veux, éduques tes enfants comme tu veux, ça n’est pas mon problème.<br /> Moi, je ne mets pas d’outils dangereux (réels ou support de médias) dans les mains de mes gamins et je ne me repose pas sur les autres. J apprends à mes enfants en fonction de leur évolution dans l’âge. C’est mon point de vue et je ne l’impose à personne. Ce que font les autres… «&nbsp;Balec&nbsp;», comme certains disent.
pecore
Il y a un certain nombre d’interdictions et d’obligations dans notre pays et je suis à peu près certain qu’elles ne sont pas toutes d’inspiration chinoise ou iranienne. De plus le sujet initial n’a jamais été l’éducation mais la protection des mineurs, qui n’est pas une notion nouvelle ni un gros mot.<br /> Cela aurait été bien si pour une fois, pour une fois, la discutions était restée sur le sujet au lieu de ripper sur l’éducation parentale où elle n’avait rien à faire.
Stef_R
J’abandonne. tu as forcement réponse à tout, et raison à tout.<br /> @Admin pour info, je me désabonne.
kyosho62
Stef_R:<br /> pour info, je me désabonne.<br /> C’est à dire ?
pecore
Une réaction pareille pour un peu de contradiction à propos de … pornographie !?<br /> Je… les bras m’en tombent.
Blackalf
Stef_R:<br /> @Admin pour info, je me désabonne.<br /> Supprimer mon compte clubic Courrier des lecteurs<br /> Bonjour, pour ceux qui rencontreraient un souci lors de la suppression de leur compte utilisateur, notez aussi que vous pouvez nous contacter à desinscription@clubic.com pour que nous le fassions le plus promptement possible ! Merci <br />
Voir tous les messages sur le forum

Lectures liées

She-Hulk : Disney+ vous donne rendez-vous en août pour cette avocate Marvel pas comme les autres
Sandman, Cyberpunk, Umbrella Academy... Netflix annonce sa Geeked Week à grand renfort de trailers
Chez Netflix, si vous n’aimez pas le contenu, vous pouvez démissionner
The Boys, saison 3 : en juin, ça va cogner sur Prime Video
For All Mankind : direction Mars dans le premier trailer de la saison 3
Netflix n'en a pas terminé avec Black Mirror
Prenant le contrepied de Netflix, Apple TV+ s'apprête à dégainer un nouveau film d'animation
Festival de Cannes : TikTok s'invite sur la croisette
Pour Dune Part. II, Denis Villeneuve a trouvé son empereur Padishah
Netflix dévoile un premier aperçu de sa prochaine série Resident Evil avant sa sortie estivale
Haut de page