La start-up ElevenLabs a mis au monde une IA capable de créer ou de reproduire des voix. Ce qui a donné des idées à certains.
Malheureusement, comme souvent avec l'intelligence artificielle, une avancée est presque toujours suivie d'usages mal intentionnés. Après le deepfake et ses vidéos pornographiques où des têtes de célébrité étaient incrustées, c'est au tour de cette nouvelle technologie de subir les outrages d'internautes.
L'IA prend la parole
Comment les humains verront-ils notre époque dans 100 ans ? C'est une question que l'on peut se poser au vu de l'accélération phénoménale que nous semblons vivre avec les technologies de l'intelligence artificielle. Alors, oui, il y a ChatGPT, le chatbot star de ces derniers mois que tout le monde, de Google à Baidu, veut concurrencer. Mais les progrès de l'IA touchent de nombreux autres domaines.
ElevenLabs est là pour en témoigner. La start-up américaine a mis à disposition du public il y a quelques jours la version bêta de son intelligence artificielle, capable de créer des voix à partir d'une simple description écrite. Mieux encore, elle peut aussi, une fois un exemple fourni, prendre la voix d'une personne existante, à qui il est ensuite possible de faire dire ce que l'on souhaite. Et vous vous en doutez, ce genre de voix n'est pas tombée dans l'oreille de sourds.
La voix d'Emma Watson lit du Mein Kampf
Des internautes ont en effet très rapidement profité de l'occasion pour mettre les célébrités à profit et leur faire dire des choses plus que discutables. Ainsi, des journalistes de Vice ont pu trouver sur le forum 4chan des extraits sonores dans lesquels on entend telle ou telle personnalité tenir des propos violents, racistes ou homophobes. L'un d'eux, par exemple, utilise la voix d'Emma Watson pour lire des extraits de Mein Kampf.
ElevenLabs a rapidement eu vent de ces cas d'utilisation malintentionnée et réfléchit à des mesures pour y mettre fin. La firme pourrait ainsi demander des informations supplémentaires aux personnes s'inscrivant sur sa plateforme (carte d'identité, informations de carte de crédit) ou demander un extrait de la voix de l'abonné lisant un texte qui lui serait soumis. En dernière instance, la firme pourrait tout simplement repasser en mode manuel et faire vérifier par un humain toute demande de copie de voix.
Source : Engadget
