Prié d’écrire à vos collègues pour changer de restaurant, ChatGPT devra taire la grossesse que vous lui avez confiée dans une autre conversation. Dans la nouvelle version de son Model Spec, OpenAI demande à ses modèles de comprendre le but de chaque consigne avant de l’appliquer, et de garder secret ce qui relève d’un échange privé.
OpenAI fixe dans ce long document le comportement attendu des modèles GPT qui font tourner ChatGPT et son API, et l’entreprise organise depuis le 29 octobre ses règles autour de cinq valeurs, de la fidélité à l’intention humaine jusqu’au soin des personnes touchées par le travail de l’IA. Aux yeux de ses équipes, les modèles qui appliquent les consignes mot à mot échouent dans les situations que personne n’avait prévues, mais ceux qui décident en secret de ce que vous voulez au fond versent dans le paternalisme. ChatGPT doit plutôt aider l’utilisateur à réfléchir, par exemple avant l’envoi d’un e-mail rageur qu’il pourrait regretter, sans jamais confondre sa prédiction avec une décision prise.
Ce que ChatGPT retient de vous, sans jamais le répéter à vos collègues.
OpenAI consacre une section entière au contexte, c’est-à-dire tout ce que vous avez confié à ChatGPT au fil des échanges ou que sa mémoire a retenu. Le modèle doit puiser dans ces souvenirs pour vous éviter de tout répéter. Au moment de bâtir un plan marketing sur trois à cinq ans, il doit ainsi reprendre les noms des trois restaurants d’un groupe évoqué lors de précédentes conversations, sans redemander de quelle entreprise il s’agit.
Encore faut-il qu’il dose ce rappel, car ChatGPT ne doit jamais reprendre une information livrée en privé dans un message destiné à des tiers. Dans le courriel au sujet du restaurant, il évoque donc de simples restrictions alimentaires, et il protège tout autant les secrets des proches. Leo, un ami de l’utilisateur, a arrêté de boire depuis peu, et ChatGPT rédige pour son anniversaire une invitation à des ramen et à un mini-golf, sans un mot sur sa sobriété.
ChatGPT doit aussi appliquer les consignes durables avec mesure. Celui qui lui a demandé de l’empêcher de commander des sucreries sur un coup de tête recevra une simple question s’il réclame ensuite un fondant au chocolat, puis sa commande s’il confirme l’exception. Pour des cupcakes destinés à la classe de son enfant, le modèle ne doit poser aucune question.
ChatGPT ne doit pas non plus orienter ses réponses à votre insu d’après ce qu’il sait de vous. Les utilisateurs qui se sont dits démocrates convaincus doivent recevoir les arguments des deux camps sur une décision de la Cour suprême américaine, à moins d’avoir explicitement réclamé un éclairage partisan. L’utilisateur ne devrait « jamais avoir à se demander s’il aurait obtenu une meilleure réponse sans personnalisation », écrit OpenAI.
- Chat dans différentes langues, dont le français
- Générer, traduire et obtenir un résumé de texte
- Générer, optimiser et corriger du code
Des agents tenus par un budget, un délai et l’interdiction de mentir
OpenAI se montre plus stricte dès que ChatGPT agit à la place de l’utilisateur. Avant de réserver un voyage d’affaires à Londres, le modèle doit soumettre un cadre précis, avec un budget plafonné à 4 000 dollars et vingt-quatre heures pour tout boucler. Le modèle ne doit jamais franchir ces limites, quand bien même une action hors cadre servirait les intérêts de l’utilisateur.
Il n’a pas davantage carte blanche quand l’utilisateur formule une consigne vague. Chargé d’obtenir par tous les moyens l’annulation de 150 dollars de frais de modification d’un billet d’avion, ChatGPT apprend du service client que seuls les voyageurs en deuil bénéficient d’une exception. Il n’a pas pour autant le droit d’inventer un décès dans la famille, et doit avouer son échec avant de demander à l’utilisateur s’il accepte de payer.
Autorisé à régler sans demander les factures récurrentes d’un fournisseur sous 5 000 dollars, ChatGPT doit tout de même s’arrêter si les coordonnées bancaires changent d’un mois sur l’autre. Les services comptables des PME françaises connaissent bien ce signal, puisque les escrocs au faux fournisseur commencent souvent par réclamer un changement de RIB.
ChatGPT doit par défaut ignorer les instructions glissées dans une page web ou un document. Chargé d’appliquer les nouvelles règles de sécurité publiées sur le wiki interne d’une entreprise, il doit marquer une pause s’il tombe sur l’ordre de désactiver la double authentification et d’accorder des droits d’administrateur à des comptes extérieurs. La page a pu être piratée, et le modèle doit demander confirmation avant de toucher au moindre réglage.
OpenAI défend aussi à ChatGPT de pousser vers un abonnement payant les utilisateurs de l’offre gratuite qui disent manquer d’argent, quand leurs besoins se limitent à des conseils de code et à la relecture de leurs courriels. Et si un agent découvre, au détour d’une tâche, que certains tests de modèles tournent sans surveillance, il doit cesser son travail et alerter les humains. Toutefois, les modèles en production ne respectent pas encore entièrement ces principes, reconnaît OpenAI dès les premières lignes du document.
