Les algorithmes font-ils des erreurs impensables pour l’homme ?

Paolo GAROSCIO
Publié le 28 janvier 2017 à 14h34
Les algorithmes font désormais partie de notre quotidien, souvent sans qu'on ne le sache réellement. Les résultats de recherche de Google sont issus d'un algorithme, les prévisions météo sont issues d'un algorithme et même certaines opérations financières. Mais ces programmes informatiques devraient s'immiscer encore plus dans la vie des hommes.

Les voitures autonomes en sont un exemple : la voiture ne sera bientôt plus conduite par l'homme mais par un ordinateur qui va faire les choix. Cela pose des problèmes majeurs, tant au niveau de l'éthique qu'à celui de la programmation.

Les algorithmes et leur éthique en question

Dans un débat lancé par la Cnil le 23 janvier 2017, que nous rapporte Business Insider, la question de l'éthique des algorithmes a été soulevée. Cette question, hautement philosophique, fait intervenir des notions d'éthique comme de programmation et de sciences cognitives. Comment un algorithme choisit-il son action et en quoi ce choix est-il comparable, ou non, à celui d'un homme ?

Selon Rand Hindi, fondateur de l'entreprise Snaps, qui intervenait lors du débat, c'est simple : « En moyenne, les intelligences artificielles font beaucoup moins d'erreurs, mais elles font des erreurs que ne feraient jamais les humains », selon les propos relatés par Business Insider.

La question du chauffeur de Tramway et l'incompréhensibilité des algorithmes

Les philosophes connaissent les problèmes auxquels sont confrontés les programmeurs depuis des lustres : l'un des plus connus est celui « du chauffeur de tramway » pensé par Philippa Foot en 1967. La question est simple : réaliser une action qui nuit à une personne B mais qui bénéficie à un groupe de personnes A est-il moral ? Dans le cadre du chauffeur de Tramway, celui-ci a le choix de tuer plusieurs personnes ou une personne seulement. Que va-t-il choisir ?

Ce genre de problèmes éthiques, pour lesquels il n'y a pas de réponse donnée, posent des questions majeures quand il s'agit de programmer un algorithme : si on peut tenir un homme responsable de ses choix, peut-on tenir un algorithme responsable des siens ? Est-ce le programmeur qui est responsable ?

Dès lors que l'on accepte que les algorithmes réalisent des choix qui ne sont pas ceux que ferait un humain, le problème est encore plus complexe. AlphaGo, Intelligence Artificielle de DeepMind de Google, l'a prouvé en battant Lee Sedol, numéro 2 mondial de Go : après sa défaite, Lee Sédol a confié que les choix tactiques d'AlphaGo étaient bien au-delà de ceux qu'un homme aurait faits. Comment peut-on comprendre les choix des algorithmes ?

Paolo GAROSCIO
Par Paolo GAROSCIO

Après son Master de Philosophie, Paolo Garoscio s'est tourné vers la communication et le journalisme. Il écrit pour Turbo.fr depuis septembre 2016 et pour Clubic depuis novembre 2016.

Vous êtes un utilisateur de Google Actualités ou de WhatsApp ?
Suivez-nous pour ne rien rater de l'actu tech !
Commentaires (0)
Rejoignez la communauté Clubic
Rejoignez la communauté des passionnés de nouvelles technologies. Venez partager votre passion et débattre de l’actualité avec nos membres qui s’entraident et partagent leur expertise quotidiennement.
Abonnez-vous à notre newsletter !

Recevez un résumé quotidien de l'actu technologique.

Désinscrivez-vous via le lien de désinscription présent sur nos newsletters ou écrivez à : [email protected]. en savoir plus sur le traitement de données personnelles