Les deux géants américains Apple et Google ne se contentent pas d'héberger des applications de manipulation d'images intimes sur leurs boutiques. Un rapport révèle qu'ils les mettent activement en avant via leurs systèmes de recherche et de publicité.
Le Tech Transparency Project (TTP) publie une enquête explosive sur les pratiques d'Apple et Google. L'organisation a identifié 38 applications capables de déshabiller numériquement des personnes réelles ou de générer des vidéos pornographiques à partir de photos. Ces outils restent accessibles sur l'App Store et Google Play malgré des politiques officielles interdisant ce type de contenu. Pire encore : 31 d'entre elles portent une classification les rendant téléchargeables par des mineurs. L'enquête montre que les deux plateformes orientent directement leurs utilisateurs vers ces applications par le biais de leurs algorithmes de recherche et de leurs espaces publicitaires.
Apple et Google face à une vague d’applications problématiques
L’enquête du Tech Transparency Project recense plusieurs dizaines d’applications capables de manipuler des images pour en produire des versions à caractère sexuel. Au total, 38 services de ce type ont été identifiés sur les deux principales boutiques mobiles, dont 18 sur l’App Store et 20 sur Google Play.
Ces outils reposent sur l’intelligence artificielle pour altérer des photos de personnes réelles, en simulant leur nudité ou en les intégrant dans des contenus explicites. Cumulées, ces applications affichent près de 483 millions de téléchargements et environ 122 millions de dollars de revenus générés.
Autre élément relevé par le rapport : leur accessibilité. Une large partie de ces applications est présentée comme adaptée à tous les publics, y compris les plus jeunes. Une classification qui contraste avec les usages possibles de ces logiciels, capables de produire des images sexualisées à partir de visages bien réels.
Des recherches qui mènent pourtant directement à ces applications
Au-delà de leur présence, ces applications bénéficient d’une visibilité accrue au sein des plateformes. Les recherches effectuées par le Tech Transparency Project montrent qu’en utilisant des termes liés aux deepfakes ou à la nudification, une part importante des résultats proposés renvoie vers ces services. Dans certains cas, ils apparaissent même en tête de liste.
Le rapport souligne également le rôle des espaces publicitaires intégrés aux boutiques. Des annonces sponsorisées pour ce type d’applications sont affichées directement dans les résultats de recherche, renforçant leur exposition auprès des utilisateurs. Les suggestions automatiques participent aussi à cette mise en avant en orientant les requêtes vers des contenus similaires.
Pour Katie Paul, directrice de l’organisation, la responsabilité des plateformes est engagée : « Ce n’est pas seulement que les entreprises échouent à examiner correctement ces applications et continuent de les approuver et d’en tirer profit. Elles dirigent activement les utilisateurs vers les applications elles-mêmes ».
Après la publication du rapport, Apple a indiqué avoir supprimé plusieurs applications identifiées, tandis que Google en a suspendu certaines. Les deux groupes affirment appliquer des règles interdisant les contenus à caractère sexuel, sans préciser comment ces services ont pu être validés ni pourquoi certains restaient accessibles à un jeune public.
Sources : Engadget, Digital Trends
