L'IA générative devient une arme de choix pour les groupes terroristes, qui en usent pour inonder le web de leur propagande. Une évolution dans la guerre technologique qui menace grandement de saper les efforts que les grandes entreprises de la tech déploient pour supprimer ces contenus dangereux.
Alors que certaines grandes entreprises comme YouTube sont dans le viseur de l'UE en raison de la diffusion de contenus illégaux dans le contexte du conflit Israël-Hamas, une réalité inquiétante émerge. L'usage de l'IA générative par les groupes terroristes s'accroît et devient un outil très efficace pour asseoir la propagande de certaines idéologies dangereuses. Adam Hadley, Directeur général de Tech Against Terrorism, estime que c'est aujourd'hui une préoccupation majeure. Ce nouvel usage de l'intelligence artificielle pourrait mettre en péril les systèmes actuels de détection et de suppression des contenus préjudiciables diffusés en ligne.
L'IA : une nouvelle pièce dans l'arsenal terroriste ?
La lutte contre la radicalisation et les idéologies extrémistes violentes se joue également sur le terrain du virtuel. Au début de l'année, la Commission européenne mettait en demeure 22 pays pour non-respect des dispositions du règlement sur les contenus terroristes. Les entreprises privées de la tech ont, elles aussi, un rôle clé à jouer dans la modération de ces contenus. Leur méthode principale pendant des années a été de créer des bases de données nommées hashing databases, qui permettait une suppression rapide et automatique des contenus concernés.
Hadley explique à Wired que « notre plus grande préoccupation est que les terroristes utilisent l'IA générative pour manipuler des images à grande échelle, ce qui anéantirait la solution de protection "hash-sharing". C'est un risque très important ». Il explique que plus de 5 000 contenus générés par IA sont détectés chaque semaine, contournant ainsi ces mesures de protection.
Ces dernières semaines, ce sont des images liées au Hamas et à Hezbollah qui ont essaimé, avec pour objectif d'influencer le récit de la guerre actuelle entre Israël et le Hamas. Ce n'est pas la seule idéologie concernée, puisque certains canaux néonazis font usage du même procédé pour générer des images à partir de prompts antisémites et racistes.
Quelles réponses technologiques face à cette menace croissante ?
Les images ne sont pas les seuls motifs d'inquiétude, puisque l'IA générative sert également à aider à la création de messages personnalisés ou à la traduction automatique. Un processus qui peut donc accélérer le recrutement en ligne en boostant la diffusion de propagande en plusieurs langues. Face à ce phénomène, Tech Against Terrorism va s'associer avec Microsoft pour l'atténuer. Hadley clarifie : « Nous allons collaborer avec Microsoft pour voir s'il est possible d'exploiter nos archives documentaires pour créer un système de détection d'IA générative. Cela dans le but de contrer cette nouvelle menace d'utilisation de l'IA pour diffuser à grande échelle du contenu terroriste ».
Une initiative dévoilée la veille du Sommet des Leaders de l'Appel de Christchurch à Paris. Brad Smith, vice-président de Microsoft, insiste sur le fait que « l'utilisation des plateformes numériques pour diffuser du contenu extrémiste violent est un problème urgent ». En effet, la collaboration entre décideurs politiques et géants de la tech est l'unique solution pour créer une stratégie de défense efficace sur le long terme.
Source : Wired
Une fois réveillé dans le bateau arrivé en Morrowind, j’avais mis le doigt dans l'engrenage. Un autre de mes doigts fut lui aussi coincé entre les pages des livres d’auteurs classiques : Charles Baudelaire, Émile Zola, Choderlos de Laclos ou Victor Hugo pour ne citer qu’eux. Vingt ans après, quelques milliers d'heures à jouer, à lire, et me voilà ! Mon coeur balance toujours entre ma passion de la tech, des jeux vidéo et mon amour incommensurable pour les Lettres. Spoiler : je n’ai pas choisi et cela ne risque pas d’arriver de sitôt.
Lire d'autres articles
