Apple a modifié son règlement d’examen des applications pour s’attaquer aux outils d’IA capables de déshabiller une personne réelle sur une photo. Les éditeurs qui présentent une appli anodine à ses équipes avant d’activer une fonction cachée risquent désormais le retrait de l’App Store et la résiliation de leur compte développeur.
Au tournant de l’année, des milliers d’internautes ont demandé à l’assistant Grok d’Elon Musk de dénuder des femmes et des mineures sur X. Apple n’a rien dit en public, mais a menacé xAI de retirer Grok de l’App Store en janvier, avant de valider une version corrigée de l’appli. La firme de Cupertino vient de réécrire ses règles. Les images intimes non consenties, y compris celles générées par IA, sont citées noir sur blanc à l’article 1.2, et un nouvel article 2.5.19 bannit toute fonction cachée. Apple durcit le texte, mais les éditeurs d’applis de « nudification » ont surtout profité des failles de son examen et de la vitrine de l’App Store.
Apple interdit les applis à double fond
« N’incluez aucune fonctionnalité cachée, dormante ou non documentée dans votre application », exige désormais Apple dans son règlement. Les développeurs qui tentent de masquer ces fonctions dans le code de leur appli, par obfuscation ou par une autre méthode, risquent le retrait de l’App Store et la résiliation de leur compte. Avec l’obfuscation, un éditeur rend son code illisible et cache son véritable fonctionnement aux équipes d’examen. L’article 2.3.1 interdisait en réalité les fonctions cachées, mais Apple a voulu une règle plus explicite et nomme la « nudification » dans sa note aux développeurs.
L’éditeur soumet à l’examen une appli inoffensive et ne révèle sa fonction de « nudification » qu’après validation. Apple appelle cette tactique « bait-and-switch ». Ses équipes ont trouvé l’an dernier des fonctions cachées dans 22 000 soumissions, et Apple a retiré près de 59 000 applis validées en tant que jeux ou utilitaires, puis transformées en outils d’escroquerie après leur approbation.
Les éditeurs peuvent aussi jouer sur la localisation de leurs utilisateurs. 9to5Mac a ainsi découvert en juillet sur l’App Store brésilien des dizaines de plateformes de paris déguisées en jeux et en utilitaires, dont beaucoup étaient accessibles aux enfants. Hors du Brésil, ces applis fonctionnaient normalement, et la plateforme de paris n’apparaissait qu’aux internautes connectés depuis une adresse IP brésilienne.
Apple a également réécrit la section 5 de son règlement. Les applis qui facilitent la traite d’êtres humains ou l’exploitation d’enfants, interdites de longue date sur l’App Store, seront aussi bloquées sur les canaux de distribution alternatifs, ouverts en Europe par le DMA.
- Interface fluide et intuitive
- Sécurité des apps vérifiée
- Intégration avec iCloud
Apple laisse de côté son moteur de recherche
À l’article 1.2, Apple demande aux éditeurs d’applis de création ou de partage de contenus d’empêcher la publication d’images intimes non consenties et de les retirer sans attendre de signalement. Ceux qui n’installent pas de garde-fous suffisants, ou ne corrigent pas une infraction après notification, risquent d’enfreindre le code de conduite des développeurs et de voir leur appli retirée.
Le Tech Transparency Project est une ONG américaine spécialisée dans les enquêtes sur les géants de la tech. Elle a trouvé en janvier 47 applis de « nudification » sur l’App Store et 55 sur Google Play, avec plus de 700 millions de téléchargements et 117 millions de dollars de revenus au total. Apple et Google prélèvent une commission sur ces revenus, et Apple a retiré 28 de ces applis après la publication. « Grok n’est vraiment que la partie émergée de l’iceberg », avait alors prévenu Katie Paul, directrice de l’ONG, dans un entretien à la presse britannique.
Trois mois plus tard, l’ONG a montré qu’Apple orientait directement les internautes vers ces applis, avec ses suggestions de recherche et ses publicités. Quand l’ONG tapait « AI NS », Apple lui suggérait la recherche « image to video ai nsfw », et plusieurs applis de « nudification » apparaissaient dans les dix premiers résultats. Apple a retiré 15 applis signalées. Les trois articles réécrits le 16 octobre sont tous consacrés aux obligations des développeurs, et ni le moteur de recherche ni les publicités de l’App Store ne sont mentionnés dans la réforme.
Chez Google, le règlement du Play Store interdit explicitement les applis qui prétendent déshabiller les gens ou voir à travers les vêtements. Après une mise en demeure du procureur municipal de San Francisco, David Chiu, la firme de Mountain View a indiqué en juillet avoir suspendu des centaines d’applis et restreint la recherche de termes associés, dont « nudify ». David Chiu exigeait aussi d’Apple le retrait de huit applis, et l’entreprise avait alors retiré trois d’entre elles.
« Nous n’hésitons pas à retirer des applications, et à radier leurs développeurs, lorsqu’elles enfreignent ces règles », prévient Apple dans sa note. Interrogée en avril par le Tech Transparency Project sur les suggestions de son moteur de recherche, Apple n’avait pas répondu.
L’obfuscation consiste à rendre le code volontairement difficile à lire (noms de fonctions brouillés, logique éclatée, chiffrement de chaînes, etc.) afin de compliquer l’analyse. Elle peut avoir des usages légitimes (protéger une propriété intellectuelle ou limiter la rétro‑ingénierie), mais elle sert aussi à masquer des comportements interdits. Dans un processus de revue comme celui d’un magasin d’applications, l’obfuscation augmente le risque qu’une fonctionnalité réelle échappe aux vérifications. C’est particulièrement critique quand l’app peut activer à distance des modules sensibles (contenus sexuels, fraude, collecte de données) après validation. Les plateformes cherchent donc à distinguer la protection du code d’une dissimulation de fonctionnalités non déclarées.
Le “bait-and-switch” décrit le fait de soumettre une application apparemment conforme (fonctionnalités limitées, contenu neutre) pour obtenir l’approbation, puis de modifier son comportement après coup. La bascule peut se faire via une mise à jour, un paramètre caché, une configuration serveur, ou du contenu chargé dynamiquement (feature flags, modules distants). Techniquement, cela exploite le décalage entre ce qui est vérifié au moment de la soumission et ce qui est exécuté ensuite sur les appareils. Cette pratique est problématique car elle contourne les garde-fous de sécurité, de protection des mineurs et de conformité légale. Les stores tentent de la contrer en imposant la déclaration complète des fonctions et en sanctionnant les mécanismes de déclenchement dissimulés.
Le DMA (Digital Markets Act) est un règlement européen qui impose des obligations spécifiques aux grandes plateformes considérées comme “gatekeepers”, dont l’ouverture à des modes de distribution d’apps autres que le magasin officiel. Concrètement, cela peut permettre l’installation d’applications via des boutiques tierces ou des mécanismes alternatifs, tout en maintenant des exigences de sécurité et de conformité. Pour les développeurs, cela introduit plusieurs voies de diffusion, chacune avec ses propres règles, contrôles et responsabilités. Pour les plateformes, l’enjeu est d’empêcher que des apps interdites sur la boutique principale réapparaissent via ces circuits parallèles. D’où l’importance d’aligner les interdictions (exploitation, abus, contenus illégaux) sur l’ensemble des canaux, pas seulement sur le store historique.
