Grok a un peu perdu la boule cette semaine. Et le problème a finalement été expliqué par xAI dans un long message sur X.
Cette semaine, l'intelligence artificielle de xAI, Grok, a été l'objet d'une polémique. Elle avait en effet tendance à répondre à n'importe quelle question par un message discutant d'un hypothétique « génocide blanc » en Afrique du Sud – même quand cela n'avait rien à voir avec l'objet du questionnement. Après la controverse, le temps, des explications est semble-t-il venu.
Grok objet d'une « modification non autorisée »
Alors, pourquoi Grok a-t-il eu tendance à tourner en boucle sur les tensions raciales en Afrique du Sud ? Si l'on en croit l'explication qui vient finalement d'être donnée par xAI, cela proviendrait d'une « modification non autorisée » effectuée sur le prompt de réponse de Grok.
Ce changement a été fait le mercredi 14 mai, à 3h15 du matin environ. « Ce changement, qui demandait à Grok de fournir une réponse spécifique sur un sujet politique, violait les politiques internes et les valeurs fondamentales de xAI » a-t-il été indiqué.
Mais qui est l'auteur de la modification ?
Mais si xAI a tenu à apporter des réponses techniques pour éteindre la polémique en train de naître, il faut noter qu'il manque un élément important aux informations qui ont été apportées. En effet, si l'on sait quelle est la cause du problème, et même quand elle a eu lieu, on ne sait par contre pas qui a pu avoir accès directement au code de Grok et pu le changer. Le tout, pour une problématique spécifiquement sud-africaine, pays dont le fondateur de xAI, Elon Musk, est originaire…
Pour éviter que ce genre de problème ne se réitère à l'avenir, xAI a mis en place de nouvelles mesures de sécurité. Les prompts de réponse de Grok seront dorénavant publiés sur Github, alors que des étapes de contrôles supplémentaires avant modification sont mises en place, tout comme une équipe de surveillance chargée de répondre à d'éventuels incidents.
Source : Neowin
- Intégré à l'abonnement X sans surcoût
- Collecte des informations à jour depuis X
- Moins biaisé politiquement que sa concurrence
