OpenAI s’apprête à autoriser la génération de contenu érotique sur ChatGPT pour les adultes, une décision qui répond à une vieille attente d’une partie de ses utilisateurs. Cette ouverture, présentée comme un gage de confiance, ravive pourtant le débat sensible sur la sécurité des IA et la responsabilité de leurs créateurs.
La nouvelle est tombée via un message de Sam Altman, le PDG d’OpenAI : dès décembre, les utilisateurs majeurs et vérifiés pourront, s’ils le souhaitent, accéder à des contenus plus crus, y compris à caractère érotique. C’est la concrétisation d’une promesse murmurée il y a près d’un an, celle d’un ChatGPT moins bridé et plus « humain ». Mais cette promesse de liberté ne cache-t-elle pas une boîte de Pandore, à l’heure où la question de la responsabilité juridique des intelligences artificielles est plus brûlante que jamais ?
Une liberté sous conditions
Sur le papier, l’intention d’OpenAI est claire : « traiter les adultes comme des adultes ». Fini, le ton parfois aseptisé et les refus polis face à des requêtes jugées inappropriées. L’entreprise assure que ce mode de fonctionnement sera optionnel, nécessitant une activation manuelle et, surtout, une vérification d’âge robuste. Sam Altman justifie ce virage par le développement de « nouveaux outils » capables de mieux gérer les risques liés à la santé mentale, un argument qui avait initialement poussé OpenAI à la plus grande prudence.
"Nous avons rendu ChatGPT assez restrictif afin d’être prudents face aux questions de santé mentale. Nous savons que cela l’a rendu moins utile et moins agréable pour de nombreux utilisateurs qui n’avaient pas de problèmes de santé mentale, mais compte tenu de la gravité du sujet, il nous importait de bien faire les choses.
Maintenant que nous avons pu atténuer les problèmes graves liés à la santé mentale et que nous disposons de nouveaux outils, nous allons pouvoir relâcher en toute sécurité les restrictions dans la plupart des cas.
Dans quelques semaines, nous prévoyons de publier une nouvelle version de ChatGPT qui permettra d’adopter une personnalité plus proche de ce que les gens appréciaient avec 4o (nous espérons qu’elle sera meilleure).
Si vous voulez que votre ChatGPT réponde d’une manière très humaine, utilise beaucoup d’émojis ou agisse comme un ami, ChatGPT devrait le faire (mais seulement si vous le souhaitez, pas parce que nous cherchons à maximiser l’usage).
En décembre, à mesure que nous déploierons plus largement le contrôle d’âge et dans le cadre de notre principe « traiter les adultes comme des adultes », nous autoriserons encore davantage de choses, notamment l’érotisme pour les adultes vérifiés."
Cette décision place OpenAI sur un terrain glissant, où la frontière entre personnalisation et dérive est mince. L’enjeu technique est de taille : comment garantir que les systèmes de contrôle d’âge seront infaillibles ? Les adolescents, particulièrement ingénieux pour contourner ce type de barrières, resteront la principale préoccupation. La firme devra prouver que sa technologie est à la hauteur du défi, sous peine de voir sa réputation entachée une nouvelle fois par des dérapages.
- Chat dans différentes langues, dont le français
- Générer, traduire et obtenir un résumé de texte
- Générer, optimiser et corriger du code
Un champ de mines juridique et éthique
Des drames récents, impliquant des interactions néfastes entre des jeunes et des agents conversationnels, ont déjà mis en lumière les failles de ces systèmes. Des poursuites ont été engagées, questionnant la responsabilité des entreprises technologiques face aux usages dangereux de leurs produits. En ouvrant la porte à des contenus pour adultes, OpenAI s'expose à un examen encore plus minutieux de la part des régulateurs et de la justice.
Au-delà des aspects légaux, c’est une question éthique fondamentale qui se pose. L’assouplissement des garde-fous, même pour un public averti, pourrait normaliser des interactions dont les conséquences psychologiques à long terme sont encore inconnues. Le pari d’OpenAI est audacieux : celui d’une technologie qui s’adapte à la maturité de son utilisateur. L’avenir dira si ce pari était une avancée vers plus de liberté ou une imprudence aux conséquences potentiellement graves.
Source : OpenAI
