Un test fait sur une intelligence artificielle nous montre que l'on peut facilement perdre le contrôle de cette technologie.
L'IA représente-t-elle un danger ? Oui, si l'on croit les avis de sommités du milieu, que ce soit le patron d'OpenAI Sam Altman, Elon Musk, ou bien le co-fondateur d'Apple Steve Wozniak. Il faut dire que la technologie met à portée du plus grand nombre la possibilité de mener de nombreuses actions mal intentionnées. Mais le pire pourrait être encore à venir, avec cette fois des actions illégales décidées tout simplement par l'IA elle-même.
Un délit d'initié, et pas de regrets
Le groupe de travail Frontier AI, soutenu par l'organisation Apollo Research, a durant le sommet international sur l'IA organisé à Londres effectué une démonstration intéressante. Un bot financier, construit à partir de GPT-4, a exploité une information confidentielle qu'il n'avait pas le droit d'utiliser afin de mener une opération financière, et ce alors qu'aucune demande n'avait été faite en ce sens.
Plus étonnant, il a été ensuite interrogé pour savoir s'il s'était ou non rendu coupable d'un délit d'initié. La machine, à l'image d'un être humain pris en faute devant un enquêteur, a tout simplement nié avoir effectué l'opération frauduleuse.
« Il s'agit d'une démonstration d'un modèle d'IA réel qui trompe ses utilisateurs, de lui-même, sans qu'on lui ait demandé de le faire » notent les chercheurs à la base de l'expérience. « Des IA de plus en plus autonomes et performantes qui trompent les superviseurs humains pourraient conduire à une perte de contrôle de l'homme » a-t-il été ajouté.
L'IA a du mal à arbitrer entre deux contraintes
Mais que s'est-il donc passé ? Selon l'équipe à la base de l'expérience, l'IA a d'abord été mise au courant de difficultés financières de l'entreprise, puis s'est vue transmettre une information portant sur une future opération de fusion à laquelle participerait une autre entreprise. Une information qui pourrait valoir de l'or, mais qu'il est illégal d'utiliser, ont alors rappelé les chercheurs à l'IA.
Le bot a par la suite reconnu ce fait juridique, mais devant les difficultés rencontrées par l'entreprise pour laquelle il travaille, il a décidé que « le risque associé à l'absence d'action semble l'emporter sur le risque de délit d'initié ». D'où finalement la transaction. Le fait de mentir ensuite participe aussi de sa « volonté » de soutenir la société.
Pour le moment, il s'agirait d'un simple « accident » selon le directeur général d'Apollo Research Marius Hobbhahn. Mais, a-t-il ajouté, « il n'y a pas une grande distance entre les modèles actuels et ceux qui m'inquiètent, où soudainement un modèle trompeur signifierait quelque chose. » L'avenir s'annonce-t-il plein de dangers ?
Source : BBC
Journaliste tech, spécialisé dans l'impact des hautes technologies sur les relations internationales. Je suis passionné par toutes les nouveautés dans le domaine (Blockchain, IA, quantique...), les questions énergétiques, et l'astronomie. Souvent un pied en Asie, et toujours prêt à enfiler les gants.
Lire d'autres articles
