Présentée comme un espace sûr pour que les adolescents se fassent des amis, l'application française Wizz est dans le collimateur des autorités américaines. Le Congrès américain veut désormais imposer aux plateformes tech un "duty of care", une obligation de sécurité qui n'existe pas encore dans ce secteur.
Wizz fonctionne sur le principe du swipe, exactement comme Tinder, Bumble ou Hinge. L'application française se défend pourtant d'être une plateforme de rencontre et promet un système de vérification d'âge par intelligence artificielle pour séparer les utilisateurs par tranches d'âge. Mais cette barrière censée protéger les mineurs s'avèrerait totalement inefficace.
Une vérification d'âge bien trop souple
Les cas d'agressions sexuelles impliquant Wizz se multiplient. À Hawaï, une fillette de 11 ans a été agressée par un Marine de 19 ans qui se faisait passer pour un adolescent de 15 ans sur l'application. D'autres affaires révèlent des schémas similaires : un homme de 23 ans prétendant avoir 14 ans pour agresser une victime du même âge, ou un individu de 27 ans se présentant comme mineur pour violer plusieurs adolescentes.
Le journal The Hill a testé le système de vérification avec un journaliste de 28 ans. Résultat : l'algorithme d'IA a validé son inscription en tant que mineur de 16 ans sans sourciller. Les "algorithmes sophistiqués de sécurité par IA" brandis par Wizz ne seraient donc qu'une façade. L'application avait été retirée du Google Play Store et de l'App Store après des pressions médiatiques, avant de revenir avec de prétendues améliorations qui n'ont manifestement rien changé.
Un cas concret pour le KOSA
Dans le cadre du débat sur la vérification de l'âge et du chiffrement, nous évoquions l'été dernier le Kids Online Safety Act (KOSA). Ce projet de loi, soutenu par les Républicains et les Démocrates, vise à instaurer un "duty of care" : une obligation légale pour les plateformes de prouver leur sécurité auprès des régulateurs américains avant de pouvoir opérer, sur le même modèle que les constructeurs automobiles.
L'industrie tech reste la seule à échapper à ce type de standards de responsabilité concernant l'usage de ses produits. Le KOSA obligerait les plateformes à démontrer qu'elles ont mis en place des mesures concrètes pour éviter que les mineurs ne subissent des préjudices. Si la loi passe, les entreprises comme Wizz ne pourraient donc plus se contenter de promesses marketing sur leurs systèmes de sécurité. Elles devraient prouver leur efficacité ou s'exposer à des poursuites judiciaires. Si le texte doit encore franchir plusieurs étapes au Congrès, la société française Wizz devra donc elle aussi montrer pattes blanches.
