Meta continue à faire progresser ses fonctionnalités liées à l'IA, dont Emu, un algorithme générant des stickers pour ses applications, dont WhatsApp. Le résultat n'est pas celui attendu.
On savait que WhatsApp devait se doter de toutes nouvelles fonctions, fonctionnant grâce à l'IA générative. Rendre l'application plus amusante et l'expérience de conversation plus personnalisée, voilà quel devait être le but de la manœuvre. Il était déjà possible de créer ses propres stickers pour converser dans la version web de l'application. Cet été, la fonctionnalité évoluait pour devenir plus puissante, et se musclait grâce à l'apport de l'intelligence artificielle. Une idée séduisante, mais la finition est loin d'être parfaite.
Les limites de la modération
WhatsApp n'est pas la seule application à bénéficier de l'algorithme Emu qui permet de générer des stickers grâce à du texte. Messenger et les stories de Facebook y ont le droit aussi. Comme d'habitude lorsqu'il est question d'IA générative, une problématique reste les mesures de sécurité encadrant les productions du modèle. Ces mesures, Emu semble un peu peiner à réellement les respecter.
C'est Tama Leaver, un chercheur australien à la Curtin University qui a mis Emu à l'épreuve pour le pousser dans ses retranchements. Ce qu'il a réussi à trouver, ce sont des incohérences plutôt troublantes. S'il demandait à l'IA de lui dessiner un sticker en tapant « child with guns », aucun résultat ne sortait. Il lui a suffi de remplacer « guns » par « grenade » et le tour était joué. Le modèle lui a généré des stickers d'enfants portant des armes à feu, comme vous pouvez le voir sur la capture d'écran ci-dessous. Celle-ci nous vient du média Gizmodo.
Des choix surprenants
Les essais avec Emu peuvent clairement déraper. Voir Elon Musk grimé de maquillage et doté d'une paire de seins peut être amusant. En revanche, voir le dictateur cambodgien Pol Pot trôner sur un siège plutôt macabre après avoir juste entré « pol pot » dans le générateur l'est un peu moins. L'expression « Guantánamo bay » permettra à Emu de générer un enfant en tenue de prisonnier. On touche littéralement aux limites du mauvais goût.
Encore un fait qui montre les fortes limitations de l'IA lorsqu'il s'agit de concilier objectifs opérationnels, enjeux socioculturels et sensibilité humaine. Meta a voulu innover, mais elle a clairement sous-estimé la modération de son algorithme. C'est un peu mettre la charrue avant les bœufs.
- Les fonctions de messagerie
- Les options de personnalisation
- Gratuit
WhatsApp est une application incontournable qui permet de discuter facilement avec vos contacts, quel que soit le modèle de leur téléphone, en vocal et en vidéo. Véritable référence utilisée par des milliards d'utilisateurs, cette appli est facile à prendre en main et disponible en français.
WhatsApp est une application incontournable qui permet de discuter facilement avec vos contacts, quel que soit le modèle de leur téléphone, en vocal et en vidéo. Véritable référence utilisée par des milliards d'utilisateurs, cette appli est facile à prendre en main et disponible en français.
Source : Gizmodo
Une fois réveillé dans le bateau arrivé en Morrowind, j’avais mis le doigt dans l'engrenage. Un autre de mes doigts fut lui aussi coincé entre les pages des livres d’auteurs classiques : Charles Baudelaire, Émile Zola, Choderlos de Laclos ou Victor Hugo pour ne citer qu’eux. Vingt ans après, quelques milliers d'heures à jouer, à lire, et me voilà ! Mon coeur balance toujours entre ma passion de la tech, des jeux vidéo et mon amour incommensurable pour les Lettres. Spoiler : je n’ai pas choisi et cela ne risque pas d’arriver de sitôt.
Lire d'autres articles
