OpenAI s'inquiète de ce que ChatGPT pourrait vous dire... sur votre visage

Une version de ChatGPT capable d'analyser des images et de reconnaître des images existe déjà.

Mais il y a peu de chances que vous puissiez y avoir accès dans un futur proche. Le système, qui n'a été rendu accessible qu'à un groupe fermé de testeurs, permet d'analyser des images et d'en faire une description détaillée. Mais sa capacité à reconnaître les visages pose de nouvelles questions éthiques et de vie privée, et OpenAI semble prendre les devants pour éviter le retour de bâton.

Une utilisation déjà fonctionnelle, mais inaccessible

Les quelques personnes qui ont eu accès à la fonctionnalité de ChatGPT permettant de reconnaître et d'analyser les images sont assez unanimes : le système fonctionne très bien. C'est le cas par exemple d'un chef d'entreprise américain non voyant qui a utilisé l'IA au cours des derniers mois pour interroger des images. Au New York Times, il explique qu'au cours d'un voyage d'affaires, il a pu prendre une photo de la douche de son hôtel pour savoir quelle bouteille contenait du shampooing. Sur les réseaux sociaux, l'outil peut également fournir une description très détaillée des images postées et répondre à des questions additionnelles qui lui seraient posées. Mais cette fonctionnalité peut aussi être utile pour des personnes voyantes. La photo d'un moteur de voiture pourrait par exemple permettre d'en identifier la panne et de suggérer une réparation.

Mais comme souvent avec l'IA, il y a aussi les mauvais côtés. Ainsi, cette version de ChatGPT serait capable de reconnaître et d'identifier rapidement des visages, pour l'instant uniquement de personnes connues. Et si OpenAI n'invente pas la reconnaissance faciale, la possibilité de rendre un tel outil aussi librement accessible n'est clairement pas innocente. L'entreprise indique d'ailleurs clairement ne pas vouloir que son IA soit utilisée dans ce but. Enfin, même si le chatbot explique qu'il est incapable de résoudre des CAPTCHA, c'est tout simplement faux, comme l'ont démontré des chercheurs et des journalistes.

OpenAI ne veut pas prendre de risques

Si cette fonctionnalité n'a été accessible qu'à un groupe réduit de personnes sélectionnées, c'est pour une bonne raison. Malgré les garde-fous que l'entreprise s'impose et se fait progressivement imposer par les législateurs, il n'est pas rare que des utilisateurs plus ou moins malveillants parviennent à contourner les barrières. Mais surtout, presque tous les laboratoires d'IA font déjà face à des procès pour une variété de raisons, des faits qui datent généralement d'avant leur médiatisation.

Forcément, une technologie librement accessible capable de reconnaître les visages de personnes n'ayant jamais donné leur accord risque de provoquer quelques remous. En Europe, la pratique est tout simplement interdite, puisque la loi impose aux entreprises d'obtenir le consentement des utilisateurs pour utiliser leurs données biométriques, dont fait évidemment partie le visage.

OpenAI s'inquiéterait également de ce que l'intelligence artificielle pourrait dire aux utilisateurs, si elle doit deviner leur genre ou établir leur état émotionnel, par exemple. Ces utilisations pourraient créer de nouveaux problèmes pour une entreprise qui n'en manque pas. Enfin, comme avec des prompts écrits, le risque que cette IA hallucine ne disparaît pas non plus. Face à la photo d'un parfait inconnu, elle pourrait lui inventer un nom, une famille, ou bien une carrière.

Microsoft semble prendre les devants quant au potentiel de cette nouvelle technologie et aux risques qu'elle fait courir à la vie privée. L'un de ses porte-parole a ainsi déclaré que l'entreprise travaillait « étroitement avec [ses] partenaires d'OpenAI pour tenir [leur] engagement partagé pour un déploiement sécurisé et responsable des technologies d'IA ».

Source : New York Times