Pour aider à lutter contre les deepfakes, Google publie 3 000… deepfakes

26 septembre 2019 à 09h53
9
ZAO-deepfake.png

Google a rendu publique une base de données comprenant 3 000 vidéos « deepfake ». Le but de la manœuvre est d'aider la recherche visant à détecter ce type de contenus, susceptibles d'induire en erreur les utilisateurs en ligne.

Depuis près de deux ans, les « deepfakes » ne cessent de faire parler et d'inquiéter. Cette technique s'appuie sur l'intelligence artificielle et permet de créer de faux contenus audio, photo ou vidéo, paraissant plus vrais que nature. Il est alors possible de générer des visages réalistes ou, de façon plus malveillante, d'intégrer le visage de célébrités dans un film pornographique. Et il ne s'agit là que d'un exemple des potentielles dérives.

Entraîner les algorithmes de détection

C'est pourquoi des chercheurs tentent de limiter l'impact de cette tendance, afin d'éviter d'éventuelles manipulations politiques. Pour y parvenir, leur but est de développer des algorithmes capables de reconnaître si une vidéo est issue, ou non, d'une manipulation « deepfake ». Mais pour exercer ces programmes, il faut pouvoir bénéficier de contenus dédiés à leur entraînement.

Google a donc décidé de contribuer à cette lutte contre la désinformation, en fournissant une base de données de 3 000 vidéos « deepfake ». Afin de constituer cet ensemble, l'entreprise a filmé plusieurs comédiens (rémunérés pour l'occasion) dans diverses situations. Puis elle s'est appuyée sur des méthodes de génération « deepfake » directement accessibles en ligne.

La firme a laissé ses contenus à disposition du plus grand nombre, en l'intégrant au sein du « FaceForensics benchmark », un programme de détection de vidéos manipulées conçu par l'université technique de Munich et l'université Federico II de Naples.

Les entreprises de la tech unies contre les deepfakes

Pour l'instant, le nombre de 3 000 vidéos peut sembler un peu juste pour entraîner suffisamment les algorithmes. Mais la société a promis qu'elle enrichirait régulièrement sa base de données, tout en suivant avec attention les évolutions technologiques associées.

De cette façon, Google affirme son engagement pour un usage éthique des applications de l'intelligence artificielle. Elle rejoint ainsi les initiatives portées par d'autres grands groupes de la tech, tels que Microsoft et Facebook, ce dernier prévoyant également de publier une base de données de vidéos trafiquées.

Source : Engadget
Soyez toujours courtois dans vos commentaires.
Respectez le réglement de la communauté.
9
8
toug19
“Les entreprises de la tech unies contre les deepfakes”, pour mieux ensuite corriger leurs algorithmes de création de deepfake?
newseven
Super donc on pourrait avoir tout les films de super-man avec la face d’un seul acteur .<br /> Ou encore batman.<br /> J’adore maintenant le deepfake .<br /> On pourrait s’amuser à remplacer la face d’un acteur par son propre visage et après le visionner avec c’est ami ou la famille.<br /> Je veux remplacer le visage de Jack Nicholson dans le film shining.
Saulofein
LOL, on a bien eu un fast and furious avec Paul Walker alors qu’il était mort… Et c’était bien avant qu’on nous bassine avec les deepfake!
Exosia
Cette techno serait pourtant bien utile dans le monde du cinéma.<br /> Pouvoir faire la suite d’un film par exemple d’il y a X années avec le même visage de l’acteur de l’époque.<br /> On a eu l’exemple avec Paul Walker et Carrie Fisher.<br /> En était attentif on se rend compte que cela reste du fake du au manque d’expression du visage aseptisé, mais une fois bien optimisé ca serait vraiment pas mal.<br /> Après oui, ça risque de poser problème dans d’autres secteurs comme les boullards xD
gwlegion
il ne s’agit pas des meme techniques …<br /> dans le premier cas, c’est souvent soit de la 3D normale, soit la magie du montage … (je pense entre autre au dernier star wars avec carrie fisher …<br /> le deep fake, c’est encore autre chose … et surtout, c’est automatique … l’intervention humaine n’est plus necessaire.<br /> par contre, ca souleve une question pour l’utilisation de l’image d’acteur morts dans de nouveaux films …<br /> un commedien pourrais interpreter le personnage, et son visage remplacé par celui de l’acteur mort …
Saulofein
Oui, mais du coup on a simplifié un procédé complexe!<br /> Pour ce qui est des acteurs morts dans les film, c’est quand même super glauque! x)
gwlegion
c’est plus complexe que ca … y’a un monde entre ajouter quelque chose qui n’existe pas et modifier ce qui existe …<br /> Rensigne toi sur les deep fakes … le procedé est super interessant …<br /> ca s’appuie sur le deep learning… ca necessite d’entrainer 4 algo en parallelle …<br /> pour la faire simple, tu entraine les algo par paires a decomposer et recomposer des images.<br /> tu entraine la premiere paire a decomposer / recomposer des images de ta source (film avec l’acteur d’origine) et l’autre paire a faire la meme chose avec des image de ta cible (image de toi par exemple.<br /> les algo vont apprendre a decomposer les images a leur plus simple expression… puis a les recomposer a l’identique.<br /> Apres, tout le jeu, c’est d’intervertir les algo. Tu decompose les images de ta source avec l’algo de decomposition de ta sources, mais tu lui colle au cul l’algo de recomposition de ta cible … ce qui fait que l’image d’origine sera recomposé avec ton visage en lieu et place de ce lui de l’acteur d’originie …<br /> et tu te retrouve avec un paire d’algo qui peuvent remplacer ton visage par celui de ta source …<br /> Ca, c’est la version simple …<br /> quand aux acteurs morts dans les films … je sais pas …<br /> Si ca sert l’histoire, pourquoi pas … Apres, de toute facon, c’est les ayants droit qui decideront…<br /> moi j’suis pas contre … mais je comprends les reticences.
Peter_Vilmen
Les 3000 vidéos contiennent-ils du porno ? De quoi donner un peu d’intérêt à ces quelques gigabytes.
nicgrover
Gyga… bites… doit-on lire ?
SckyzO
Bah on attend de voir le prochain Star Wars avec Princesse Leya
Voir tous les messages sur le forum

Actualités du moment

Les iPhone 11 vous avertiront en cas de remplacement de l’écran par un modèle non officiel
Fort recul du Bitcoin et des cryptomonnaies ces dernières heures
Mafia : les deux premiers jeux remasterisés et un opus inédit en approche ?
Windows Core OS, le nouveau système d'exploitation de Windows, aurait fuité sur Geekbench
Un mystérieux smartphone Xiaomi serait capable de filmer en 8k
Apple retire discrètement le serveur web Zoom caché via une mise à jour sur Mac
Comment régler les couleurs de son écran PC ?
4 techniques simples pour nettoyer son PC
Alimentation de 850 W pour le multi-GPU chez Corsair
USB Type-C : tout savoir sur la nouvelle norme USB
Haut de page