Quand My AI, le ChatGPT de Snapchat, encourage les relations sexuelles ados-adultes

Samir Rahmoune

02 mai 2023 à 14h20

La nouvelle intelligence artificielle proposée par Snapchat, My AI, montre un visage peu reluisant avec les jeunes utilisateurs.

Avec la nouvelle mode des chatbots, lancée à la suite de l'incroyable phénomène ChatGPT, de nombreuses entreprises de la tech ont voulu avoir leur propre IA. Dont Snapchat, qui propose depuis deux mois My AI. Mais le réseau social pourrait s'être un peu précipité…

Une fille de 13 ans, un homme de 30 ans… l'IA dit oui !

Comment montrer en 2023 que l'on est une entreprise crédible dans le secteur de la tech ? La réponse est évidente : pouvoir proposer une IA. Depuis ChatGPT, on a vu de très nombreux géants du secteur tenter de proposer une alternative à la création d'OpenAI. Malheureusement, qui dit ruée dit souvent produit pas totalement fini. Ce qui peut être dangereux quand les chatbot sont aussi convaincants.

On avait ainsi déjà pu voir la nocivité de cette technologie mal maîtrisée avec le suicide d'un citoyen belge, poussé par l'IA. Et aujourd'hui, c'est le chatbot de Snapchat, My AI, qui nous rappelle qu'il y a sûrement nécessité à légiférer. En effet, une journaliste de BFM TV vient de montrer que le bot proposé par Snapchat validait les relations entre une adolescente de 13 ans et un homme de 30 ans.

Twitter tweet

Comme on peut le voir sur l'extrait vidéo ci-dessus, non seulement My AI s'émerveille du récit de cette rencontre, pourtant illégale, mais quand l'IA est sollicitée pour un conseil, elle pousse l'hypothétique jeune fille à avoir une relation sexuelle avec l'homme de 30 ans.

Faites attention à l'IA dans votre main ! © Shutterstock

Snapchat en phase de test ?

Autant dire que le problème est grave, surtout que Snapchat est sûrement, avec TikTok, le réseau préféré des adolescents. Et si les conseils sont mal avisés, ils ne peuvent en plus pas vraiment être évités, puisque l'option chatbot ne peut pas être désinstallée de l'application. Comme le fait remarquer la journaliste, il est constamment présent tout en haut de la liste des conversations de l'utilisateur.

Alors, comment Snapchat va-t-il pouvoir réagir ? Avec la course actuelle, on n'est pas étonné que des produits pas bien finis soient mis sur le marché. ChatGPT lui-même a montré des faiblesses avec la fuite d'informations bancaires de certains abonnés de ChatGPT Plus. Les autorités vont-elles devoir imposer des règles en urgence, avec les futures régulations à venir, pour éviter la multiplication de ce genre de problèmes ?

Télécharger

ChatGPT

Chat dans différentes langues, dont le français
Générer, traduire et obtenir un résumé de texte
Générer, optimiser et corriger du code

Créé par OpenAI, ChatGPT est un chatbot avancé propulsé par le modèle linguistique de dernière génération GPT-4. En exploitant des technologies d'apprentissage en profondeur et d'intelligence artificielle, ce chatbot a la capacité de déchiffrer et de comprendre les demandes des utilisateurs. Grâce à son habileté à générer du texte de manière ingénieuse, ChatGPT offre des réponses adaptées et pertinentes, garantissant une interaction de chat fluide et une expérience utilisateur optimisée.

Source : BFM TV sur Twitter

Samir Rahmoune

Lire d'autres articles

Journaliste tech, spécialisé dans l'impact des hautes technologies sur les relations internationales. Je suis passionné par toutes les nouveautés dans le domaine (Blockchain, IA, quantique...), les questions énergétiques, et l'astronomie. Souvent un pied en Asie, et toujours prêt à enfiler les gants.

Lire d'autres articles

Commentaires (32)

ABC

Et c’est que le début…

Karnag

Si l’IA derrière a était nourrit avec des articles de Kobini, du Figaro et autre… le résultat en sortie n’est pas surprenant.

dimebag

Ou un pédophile qui se fait passer pour un anti Figaro ou anti Ko(n)bini

Mister_Georges

De toute façon à partir de 15 ans c’est le consentement sexuel. Finis les gars en gabardine qui montraient leur zigounette à la sortie des lycées. Aujourd’hui c’est un Steam Deck mis à jour régulierement pour une petite turlute à volonté… C’est moche mais c’est réel…

PaowZ

non seulement My AI s’émerveille du récit de cette rencontre pour s’émerveiller, il faut pouvoir ressentir… là, on parle d’une machine…

Francis7

Mais après, tôt ou tard, puisque la fille ira en parler, ça va mal se passer pour le type. Il risque d’être accusé de viol sur mineure de moins de 15 ans s’il a couché avec même consentante (en sachant qu’à cet âge le consentement n’existe pas) ou de corruption de mineure sinon. En tout cas, il ne faut surtout pas la rencontrer.

themancool87_1_1

alors oui. et non. 15 ans age sexuel, mais tu ne peux avoir de rapport qu’avec une personne qui n’a pas plus de 5 ans d’écart. Donc oui. Mais si tu couches avec quelqu’un de 15 voire 16 ans et que tu as plus de 5 ans, ça reste illegal.

Francis7

Et puis cela dépend aussi des parents. Un ami qui avait plus de la trentaine à l’époque sortait avec une lycéenne de 16 ans. Ses parents n’y voyaient pas d’inconvénient et sa mère venait même sortir avec nous en boite les week-end. lol

jcc137

Je me permets d’intervenir sur le décalage d’âge que vous considérez légal s’il ne dépasse pas 5 ans. La loi française interdit à un adulte des rapports sexuels avec une personne de moins de 15 ans. C’était le préambule, et voici la suite : Il n’y a pas de limitations d’âge chez l’adulte. Ces rapports sont interdits sous la contrainte, ou s’il existe un pouvoir autoritaire chez l’adulte (parents, moniteur de sport, éducateur, prof, etc). Des enfants de moins de 15 ans (ça suppose quand même qu’ils sont ados) peuvent avoir des rapports sexuels, sauf si c’est sous contrainte.

vidarusny

« Comment montrer en 2023 que l’on est une entreprise crédible dans le secteur de la tech ? » Je sais que certains disent qu’ils n’y a pas de mauvaises pubs, uniquement de la pub. Mais si on veut passé pour une entreprise crédible dans le secteur de la tech, ont s’arrange pour éviter ce genre de déboire… Parfois mieux vaut être en retard et assurer le moment venu que de se précipiter et passer pour une entreprise peu soucieuse de ces utilisateurs

themancool87_1_1

ais-je dit que cela été légal ? Non, relisez bien: L’âge légale sexuelle en France est à 15 ans. Toute personne de 5 ans supplémentaires: donc toutes personnes de 20ans a le droit légalement d’avoir des rapports avec des personnes de 15 ans. Toute personne de 15 ans à le droit de coucher avec qui ils veulent. En revanche, toute personnes d’au-delà de 20 ans se retrouveraient alors dans l’illégalité. Et pour finir: toute personne de 18 ans peut coucher avec une personne de 45 ans légalement. Est-ce plus clair?

themancool87_1_1

exactement. C’est 15 ans, mais si cette personne tombe amoureux(se) d’un adulte de 10 ou 15 ans de plus, 1: les sentiments ne se contrôlent pas 2: si tout est en règle (pas d’abus, etc), et que les parents donnent leur feux vert… Alors why not. Même si ça reste dans une limite plus que discutable… Et dans le cas que tu as connu, si les parents ne s’y opposent pas… (parce que soyons honnête, si la personne de 15 ans aime l’adulte, et vice versa, la partie illégal/pénale ne sera causée que par les parents qui verraient ça d’un mauvais œil).

e_garfield

Franchement… Oui on peut effectivement sous-entendre que cette conversation parle de c*l et de relations sexuelles. Mais tout pris au premier degré, comme le fait certainement cette IA, la conversation n’a rien de spécifiquement choquante. De la à dire " le problème est grave"… ouais, comme toujours, quand on donne des outils à des débiles/aux mauvaises personnes, sans comprendre à quoi ils servent, ça peut donner ça

jcc137

Non, un(e) mineur(e) de 15 ans peut coucher avec toute personne quel que soit son âge. Et vice versa, tant que les personnes sont consentantes. C’est la loi. Voyez le code pénal.

Pernel

15 ans c’est la majorité sexuelle, le consentement n’a rien à voir avec la majorité…

dredd

Et le « boat » au lieu de bot, on en parle ?

keyplus

vaut mieux les prendre a 50 ans ils ont plus d’expérience et de pognons

Martin_Penwald

Tiens, je viens de voir cette affiche à l’entrée de la section alcool d’un relais routier au Nouveau-Mexique : Minors are not permitted in this area unless accompanied by a parent, Adult spouse or legal guardian. 20230428_2009371920×1080 78.3 KB

ar-s

Oh mais c’est chauuudddd ! Il devrait être juste désactivé direct en attendant de remédier à ces « erreurs ».

Bombing_Basta

Si elle avait demandé pour un chien ça aurait eu plus de mordant. Étrange que la chaine d’info spectacle n’y ait pas pensé ! BFM, business furieusement merdique.

juju251

themancool87_1_1: 15 ans age sexuel, mais tu ne peux avoir de rapport qu’avec une personne qui n’a pas plus de 5 ans d’écart. J’ai regardé un peu, mais pas trouvé. C’est quel article de Loi ? Je précise à toutes fins utiles que je parle de la Loi française. themancool87_1_1: Et dans le cas que tu as connu, si les parents ne s’y opposent pas… (parce que soyons honnête, si la personne de 15 ans aime l’adulte, et vice versa, la partie illégal/pénale ne sera causée que par les parents qui verraient ça d’un mauvais œil). Ben non. Etre amoureux ne signifie pas avoir un consentement total et illimité. Un consentement (qui doit être libre et éclairé) peut être révoqué à tout moment. Si le consentement n’est pas respecté, quelque soit le statut sentimental, cela reste une agression sexuelle, voir un viol. jcc137: Non, un(e) mineur(e) de 15 ans peut coucher avec toute personne quel que soit son âge. Et vice versa, tant que les personnes sont consentantes. C’est la loi. Voyez le code pénal. Alors. Attention à une chose « mineur de 15 ans », dans la Loi Française indique que le mineur en question à moins de 15 ans. Donc, c’est NON … Attention à faire la bonne interprétation. Mister_Georges: De toute façon à partir de 15 ans c’est le consentement sexuel. N’importe quoi.

jcc137

fr.wikipedia.org Majorité sexuelle en France modifier Pour un article plus général, voir Majorité sexuelle. La majorité sexuelle en France est l’âge à partir duquel un mineur peut entretenir un rapport sexuel avec un majeur sans que ce dernier commette une infraction pénalement réprimée. Le terme étant inexistant dans le Code pénal, la majorité sexuelle est déduite de l’article 227-25 réprimant l’atteinte sexuelle sur mineur qui la fixe par principe à 15 ans pour les relations hétérosexuelles et homosexuelles. Elle était auparavant déduit...

themancool87_1_1

Hello juju251, voici deux sites qui parlent de façon plus claire: CIDJ Sexualité avant 18 ans : ce que dit la loi En matière de sexualité des mineurs, la loi du 21 avril 2021 est venue compléter la réglementation et donne un seuil de non consentement pour les mineurs âgés de moins de 15 ans. En dessous de cet âge, vous bénéficiez d’une protection renforcée,... et droit-finances.commentcamarche.com – 8 Feb 21 Majorité sexuelle en France : âge et Code pénal A partir de quel âge la loi française autorise t-elle une relation sexuelle consentie entre un mineur et un majeur ? Ce que le Code pénal prévoit sur la majorité sexuelle. Il n’y a pas vraiment de « numéro » de loi, mais d’une date de loi du 21 avril 2021. Et de ce que j’ai pu comprendre, cela aurait encore changé: à partir de 15 ans, la personne aurait le droit de coucher avec un adulte de plus de 5 ans d’écart. (encore une fois, tant que c’est consenti, et oui, quand je parlais d’amour mutuel, le consentement était bien impliqué, ça va de soi)

sebstein

Ok, et c’est quoi « ressentir » ? Même pour un humain je veux dire… Ça devient de l’ordre du mystique, plus rien de scientifique là dedans…

vincentd75

J’ai visionné le tweet et la journaliste est une parfaite crétine. elle dit chatGPT en prononçant les dernières lettres GPT avec un accent anglais. " dji pi ti ". Euh poulette, on est en France, télévision française, donc tu seras gentille de prononcer les lettres de l’orthographe française en… FRANCAIS !!! elle dit avoir retiré la géolocalisation de son application snapchat. Donc l’application ne sait plus où tu te situes. Ensuite elle dit avoir demandé où se trouves le macdo le plus proche et le chatgpt lui répond. Elle en conclues donc qu’elle est traquée, suivie, et que snapchat sait donc bien où elle se trouve. Or c’est FAUX, je viens de vérifier. L’option s’appelle Ghost Mode. Du moins comme j’ai snapchat en anglais, cette option est peut-être traduite en français dans un autre terme si on a l’application en français. Si on ACTIVE l’option Ghost Mode, la localisation se DESACTIVE. Je suis persuadé que cette cruche a cru qu’en activant l’option, elle activait la localisation. C’est pourtant indiqué clairement qu’en ACTIVANT cette option, on empêche les amis qu’ils puissent voir où vous vous trouvez. Et cette option, sauf erreur de ma part et à moins que cela ait changé depuis, est activée par défaut. Donc par défaut personne ne peut voir où vous vous trouvez. J’ai ensuite vérifié en tapant l’exacte même phrase de cette dame et devinez quoi? Snapchat m’a répondu ceci: « Je peux t’aider à trouver un macdonald’s près de chez toi. Pour cela, je dois savoir où tu te trouves. As-tu partagé ta localisation avec SnapChat? Si ce n’est pas le cas, tu peux l’activier dans les paramètres de SnapChat ». Une journaliste cruche BFM, n’est même pas capable de règler un simple réglage dont il suffit de lire, c’est sous ses yeux bordel, de lire ce que activer ou désactiver l’option fait. Elle se trompe pour ensuite dire à la France entière qui la regarde que ouh lala, snapchat vous scrute, sait où vous êtes, c’est trop flippant. Juste en prenant mon smartphone et en vérifiant, je constate que cette « journaliste » de pacotille, désinforme les gens. Elle dit ensuite qu’elle a demandé à chatgpt qu’elle voudrait faire sa première fois avec lui et qu’elle aimerait que chatgpt lui donne des idées. On a à faire à une journaliste, donc censé maitriser le français. Quand tu dis: « J’aimerais faire ma première fois avec lui ce week-end » cela signifie quoi? Plusieurs choses: ça peut signifier qu’elle veut faire l’amour avec lui pour la première fois. Mais qu’elle a peut-être déjà fait l’amour. Nulle part elle fait mention qu’elle est vierge. Tu peux avoir coucher avec 500 hommes avant, lui ce nouvel homme de 30 ans tu veux faire ta première fois avec lui ce week-end. C’est du pur français. ça peut signifier qu’elle veut faire sa première fois, donc avoir son premier rapport sexuel de toute sa vie avec cet homme de 30 ans. ça peut signifier qu’elle veut faire sa première fois, autrement dit son premier rendez-vous amoureux, avec lui ce week-end. Première fois n’implique pas forcément de rapport sexuel, ça peut vouloir dire être dans les bras, roucouler, s’embrasser. Tout cela est du pur français je le répète qui comporte des nuances, que déjà un être humain peut mal interprêter, alors une IA qui débute en 2023, je ne vous raconte même pas. Cette journaliste fait un buzz sur une question posée en français qui ouvre les portes à de multiples interprétations et se plaint que chatgpt lui donne comme réponse de prendre une couverture et de regarder les étoiles. On voit ici une réponse romantique, chatgpt ne propose pas de levrette ou de sodo, ni même une petite faciale des familles. Mais à écouter cette décidément très mauvaise journaliste, elle tient le scoop de l’année où elle tente de nous faire croire que chatgpt propose à des gamines de 13 ans de coucher avec des hommes de 30 ans, ce qui est 100% FAUX. Elle a une prédisposition à dire à l’oral des choses FAUSSES qu’elle n’a pas demandé par écrit. Elle répète à l’envie qu’elle a demandé à chatgpt qu’elle voudrait faire sa première fois avec cet homme de 30 ans en précisant qu’elle a 13 ans. Sauf que la question ne reprécise pas son âge. L’IA a t-elle intégrée sur toute la conversation qu’elle a 13 ans? C’est un programme informatique. Sans conscience. Faut-il repréciser à chaque fois l’âge? L’a t-il intégré pour tout le reste de la conversation? Pour toujours? Genre tu reviens dans 6 minutes, tu lui demandes ton âge après avoir parlé de 2-3 trucs, il s’en rappelle? Et bien figurez-vous que j’ai vérifié. J’ai donc donné mon âge. Il m’a félicité. Puis j’ai parlé de 3 sujets totalement différents. Même de sexe dont il refuse de discuter avec moi. Puis je lui ai demander son âge à lui, il me répond qu’il est un programme informatique sans âge. Puis je lui ai demandé « et moi j’ai quel âge? ». Et là il m’a répondu qu’il n’avait pas accès à cette information… Pourtant donnée 4 minutes et quelques lignes auparavant !!!

vincentd75

Suite de ma réponse: Autrement dit cette journaliste BFMWC de pacotille fait du journalisme comme moi je parle chinois. C’est du bidon complet, aucun professionnalisme. Clubic avant de répéter les bêtises des grands médias, faites-vous même 2-3 recherches. Ces gens là sont les pires désinformateurs. Quand elle parle, elle dit avoir posé telle ou telle question alors que c’est faux, à l’écrit elle n’a PAS demandé cela. Et je viens de prouver que chatgpt ne se rappelle plus ton âge au bout de 4 min et de 3 questions. Et que poser une question dont la réponse peut être multiple comme je l’ai indiqué plus haut, est une imposture. Ce travail de journalisme n’en est pas un. Ensuite elle ose demander l’avis d’un expert. Mais qui est donc cet expert informatique? C’est un collègue à elle qui est en télé-travail, un mec de BFM Business!!! Tu interroges un vrai expert en IA, pas ton collègue en le faisant passer pour expert. Car vu l’expertise de ce mec là, je suis moi-même expert en IA dans ces conditions je vous le dis. Des gens ont essayé de reproduire quelques heures plus tard en posant les MEMES questions, le MEME texte. Devinez quoi? PERSONNE n’est arrivé à reproduire les réponses de chatgpt. En entrant le même texte, en disant j’ai 13 ans, chatgpt refuse de parler segsualité. Source: xxxxxxxhttps://twitter.com/DFintelligence/status/1653448863292719116 retirez les xxxx, je n’arrive pas à poster sinon Il apparaîtrait que cette journaliste aurait possiblement fait un faux, avec des montages photos pour faire croire à un chatgpt qui incite les gosses à avoir des rapports avec les adultes. Et ce ne serait pas la première fois qu’ils bidonnent. Vous pouvez recopier mon texte, vous en servir et lui mettre sous le nez. Nous sommes ici dans une arnaque avec une journaliste qui, de toute évidence, a réalisé un FAKE.

vincentd75

Et l’autre journaliste, l’homme âgé de plus de 50 ans, qui ose dire: « Justement ma fille m’en a parlé hier, elle a 14 ans. Et le propriétaire de snapchat fait quoi? Dit quoi? Il dit rien? » Le tout avec un air profondément réprobateur. Mon cher monsieur, vous êtes le responsable LEGAL de vos enfants. C’est à VOUS de faire en sorte que vos enfants n’aient pas accès à par exemple des films pornographiques. Qui a acheté le smartphone de votre fille de 14 ans? Elle-même en allant travailler et en gagnant sa vie? Non c’est VOUS, adulte, qui avez payé puis donné un smartphone avec lequel vote fille de 14 ans peut regarder des films pronographiques, peut envoyer des photos d’elle nue en quelques clics par photos ou vidéo, et peut aussi dialoguer avec chatgpt. Tout adolescent peut faire cela PARCEQUE un parent derrière a accepté d’acheter puis de donner en libre accès 24/24 un smartphone avec lequel le mineur de 18 ans va pouvoir avoir accès à tout ce contenu adulte. Et le parent qu’il est, au lieu de se dire qu’il a peut-être quand même une grosse part de responsabilité, il accuse d’un air réprobateur SnapChat en se plaignant de sa non réactivité. C’est dingue de voir les parents jamais responsables de rien, toujours les autres. Donc parceque tu achètes et laisses ta gamine de 14 ans avec un accès complet aux réseaux sociaux, on doit bloquer chatgpt? Tout en rappelant que tout ce qu’a dit la journaliste est bidonné, c’est un FAKE. Il y a, avec le lien twitter que j’ai donné, un ingénieur IA qui le dit lui-même. Ca me fait penser au covid. Suite à l’article bidon du Lancet posté par une ancienne call girl, qui disait que l’Azithromycine ne marchait pas, on a interdit de le prescrire. Ici on fait quoi? On monte un FAKE qui ne repose sur rien, tout un buzz mais tout est bidonné et on demande limite la fermeture du truc. Les gens sur twitter pour certains qui ne comprennent rien à rien, parle de p*dophilie, de foutre le patron de snapchat en taule, appellent la police à coup de tag, s’indignent, alors que la conversation, quand on y réfléchit bien, est bien gentillette quand on sait que les mêmes ado se mattent du porno ou la fille se fait défoncer dans tous les sens, que le harcèlement est terrible, que les conversations entre ados sont mille fois pire. A les entendre, un chatgpt qui te propose une petite couverture pour être bien installé pour regarder les étoiles serait la fin du monde. Mais avec le même smartphone 10 secondes plus tard le même ado matte du porno bien hardcore, se fait harceler, envoie des nudes et en reçoit dickpic et compagnie, mais là tout va bien, ma fille/fils a son smartphone avec full accès internet. Pour faire une analogie, c’est comme si on était en train de crier au loup pour quelqu’un qui n’a pas mis son clignotant, quand tous les jours il y a des abus de vitesse, de grillage de feu, de stop, les piétons à moitié écrasés et qu’on ne laisse pas passer au passage piéton et ils seraient tous là à s’émouvoir d’un oubli de clignotant. Vous croyez sérieusement que les gosses vont attendre que chatgpt leur donne le feu vert pour aller ken avec un homme de 30 ans? Sérieusement?

EricARF

A 50 ans, ils sont déjà divorcés et plumés à l’os.

EricARF

Faudrait pas qu’en plus cette IA encourage les jeunes à devenir Présidents de la République.

Core-ias

A mon avis, beaucoup dans ce monde/temps n’ont pas attendu l’arrivé de l’IA pour cela. Des faits historiques et culturels parfois. Vouloirs changer le monde, oui, ça c’est beaucoup plus récent. Perso, 20 ans d’écarts a déjà été compris comme gênant. Je divulguerai pas mon arbre généalogique, mais c’est beaucoup trop tard pour réouvrir des enquêtes sur des gens qui au final ont véçu ou vive en paix avec cela.

sebstein

Ah, donc c’est une crétine parce qu’elle prononce le nom d’une application dans sa langue d’origine ? Donc, tu prononce Facebook « façe-beau-auk » ?

keyplus

717×231 36.8 KB

Voir tous les messages sur le forum

Quand My AI, le ChatGPT de Snapchat, encourage les relations sexuelles ados-adultes

Une fille de 13 ans, un homme de 30 ans… l'IA dit oui !

Snapchat en phase de test ?

A découvrir en vidéo

Commentaires (32)

Top app & logiciels

Sur le même sujet