Elles ont le vent en poupe, mais savez-vous comment sont nourries et entraînées les IA ?

17 décembre 2022 à 15h00
8
© geralt / Pixabay
© geralt / Pixabay

Derrière, ce sont des êtres humains situés en Afrique ou en Asie, a priori toujours faits de chair et d'os et donc pas du tout artificiels, et « légèrement » moins bien payés que les employés de Meta ou de Google.

Le terme d’intelligence artificielle est source de pas mal de fantasmes. Les plus alarmistes et imaginatifs voient en son développement les prémisses de l’avènement d’une IA consciente capable de contrôler le monde. Bon, en réalité, l’écrasante majorité des systèmes IA sont des systèmes discriminants capables de distinguer un chien d’un chat, Pierre de Paul, ou de répondre à quelques questions basiques. Et loin d’être auto-suffisante, l’intelligence artificielle nécessite une multitude de cerveaux bien humains pour fonctionner et se perfectionner. Des humains très souvent exploités par des grands groupes qui, s’ils prétendent changer le monde, ont pourtant recours à un modèle économique n’ayant rien de révolutionnaire. Une enquête de Vice nous plonge au cœur du sujet.

Une main-d'œuvre invisible

Vous avez peut-être déjà vu passer des offres, et même participé à certaines, proposant de répéter quelques phrases ou de trier des images moyennant rémunération. Pour Krystal Kauffman, « turker » depuis sept ans pour Mechanical Turk (une plateforme de micro-travail détenue par Amazon), et pour des dizaines de milliers d’autres travailleurs, ce genre d’activités est un quotidien et un moyen de subsistance.

« Par le passé, nous avons travaillé sur plusieurs grands projets d'IA. Il y a donc des tâches où les gens doivent simplement répéter la même phrase six fois, donc il s'agit d'entraîner l'IA à reconnaître différentes voix et d'autres choses », déclare Kauffman. « J'ai donc l'occasion de faire un peu de tout, mais il y a beaucoup d'apprentissage automatique et d'étiquetage des données d'IA en ce moment. Nous avons vu une augmentation de la demande pour ce travail ».

Vous l’imaginez, ces tâches routinières et peu stimulantes n’intéressent pas les grosses entreprises comme Meta ou Google ; ils les sous-traitent à des travailleurs indépendants employés par des sociétés comme Sama, Alegion ou iMerit. Ces travailleurs précaires, principalement originaires d'Afrique subsaharienne et d'Asie du Sud-Est, s’efforcent d’entraîner des IA, par exemple pour améliorer leurs capacités d’analyse d’images ou de reconnaissance vocale. En effet, lorsqu’une image est triée par un algorithme d’intelligence artificielle, ce processus n’a en réalité rien d’artificiel : au contraire, l’IA a préalablement « appris » à le faire à partir des décisions prises par des humains.

En pratique, Krystal Kauffman et ses frères de labeur ne sont pas informés de l’aboutissement ou de la finalité de leur travail. S’ils ne s’attendent pas à une quelconque reconnaissance de la part des entreprises qui les sollicitent, ils s’amusent de voir l’ignorance dans laquelle baignent la plupart des utilisateurs finaux à l’autre bout de la chaîne.

« Nous avons l'habitude de travailler sur des choses dont nous ne savons pas exactement à quoi elles servent […]. Et même si je n'ai pas besoin d'être qualifiée d'employée ou quelque chose comme ça, vous entendez très rarement une grande entreprise de technologie reconnaître la main-d'œuvre invisible qui est derrière une grande partie de cette technologie. Ils font croire aux gens que l'IA est plus intelligente et plus avancée que ce qu'elle est en réalité, ce qui est [la raison pour laquelle] nous continuons à la former chaque jour », rapporte Kauffman.

Des propos confirmés par Laura Forlano, professeure associée à l'Institute of Technology de l’Illinois. Elle explique : « Je pense que l'un des mythes autour de l'informatique IA est qu'elle fonctionne réellement comme prévu. Je pense qu'à l'heure actuelle, ce que le travail humain compense, c'est essentiellement beaucoup de lacunes dans la façon dont les systèmes fonctionnent. D'un côté, l'industrie peut prétendre que ces choses se produisent comme par magie dans les coulisses, ou qu'une grande partie de ce qui se passe est informatique. Cependant, nous savons que dans de très nombreux cas, qu'il s'agisse du contenu en ligne, de la façon de faire fonctionner un véhicule autonome ou des appareils médicaux, le travail humain est utilisé pour combler les lacunes d’un système qui n'est pas vraiment capable de fonctionner de manière autonome ».

Une chaîne d'approvisionnement, comme d'autres

Les entreprises technologiques donneraient ainsi l’illusion d’une IA auto-fonctionnelle, masquant une réalité bien différente. En outre, ce secteur donne le sentiment d’être hors sol, or, vous le savez désormais, il est soutenu par des dizaines de milliers de travailleurs indépendants.

Kelle Howson, chercheuse à l'Oxford Internet Institute, déclare :  « Je pense que le public n'a pas une bonne conscience du fait qu'il s'agit d'une chaîne d'approvisionnement. C'est une chaîne d'approvisionnement mondiale, elle contient des flux et des relations géographiques inégaux. Et elle repose sur une énorme quantité de travail humain. »

Et à l’instar de la plupart des chaînes d’approvisionnement mondiales, comme celle du textile, celle de l’IA est déséquilibrée. D’un côté, des travailleurs des pays en développement qui sont le véritable carburant de son bon fonctionnement, de l’autre, ceux qui tiennent les commandes ainsi que les utilisateurs, situés dans des pays développés.

« Il y a beaucoup plus de travailleurs sur les plateformes de micro-travail dans les pays du Sud que dans les pays du Nord. Ainsi, la majorité de l'offre de main-d'œuvre sur ces plateformes est concentrée dans le Sud, alors que la majorité de la demande est située dans le Nord », résume Howson.

Des conditions de travail peu enviables

Bien sûr, entre travailler debout dans des champs, à porter des charges lourdes en étant soumis aux aléas climatiques, et être assis devant un écran, la deuxième option paraît moins éprouvante et plus enviable. Physiquement, les deux tâches sont effectivement incomparables. Néanmoins, la modération de contenus peut avoir des répercussions psychologiques. Par ailleurs, le statut de ces travailleurs les maintient dans la précarité.

« Il s'agit uniquement d'un travail à la tâche dans lequel une personne accède à un salaire à temps partiel en passant une heure par jour ici et là, il ne s'agit pas d'un emploi d'impact, car il ne conduit pas réellement à un développement de carrière et, en fin de compte, à la réduction de la pauvreté », estime Sara Enright, Directrice de projet à la Global Impact Sourcing Coalition (GISC).

T. Okolo, étudiant en doctorat au département d'informatique de l'université Cornell et l'un des auteurs d’un document portant sur le rôle de la main-d'œuvre mondiale dans le développement de l'IA publié en 2021, renchérit : « Essentiellement, les gens [du Sud] sont souvent payés sur la base d’un salaire dit équitable, sur la base du PIB ou du revenu local de leur contexte respectif. Mais le travail est très routinier, très manuel et un peu fatigant aussi, même si on ne peut évidemment pas le comparer au travail physique et au travail dans les plantations à l'époque coloniale. Toutefois, ce travail est confié aux mêmes régions et à des entreprises similaires ». Il complète : « La modération est aussi une activité plus troublante pour les travailleurs eux-mêmes, qui doivent visionner différents types de contenus toute la journée, ce qui est éprouvant mentalement pour quelqu'un qui y est exposé en permanence ».

Ainsi, en mai dernier, Daniel Motaung, un ancien modérateur de contenus, a intenté une action en justice à Nairobi, au Kenya. Il accuse Meta, la société mère de Facebook, et son principal partenaire d'externalisation, Sama, de travail forcé, de traite d'êtres humains et de démantèlement des syndicats. Des accusations soutenues par une enquête du Time Magazine. La rémunération de Daniel Motaung et de ses collègues ? 1,5 dollar de l’heure. Pas cher payé pour de la modération de contenus ayant entraîné chez deux d’entre eux des syndromes de stress post-traumatique après qu’ils ont visionné en boucle des images et des vidéos de viols, de meurtres ou encore de démembrements.

Vous travaillez aussi pour l’IA… et ce, gratuitement

Les plus cyniques d’entre nous penseront peut-être que c’est là la réalité économique du monde telle qu’elle a toujours existé : des exploitants et des exploités, à défaut de maîtres et de leurs esclaves. Mais ceux-là apprécieront peut-être moins de travailler parfois gratuitement pour les géants de la tech.

Vous résolvez un CAPTCHA en sélectionnant des trains ou des avions parmi un panel d’images, prouvant que vous n’êtes pas un robot ? Vous avez au passage contribué à améliorer un algorithme de discrimination d’images.

Vous publiez des photos en vous évertuant à correctement les légender ? Bien, vous participez certainement à perfectionner des modèles d’apprentissage profond en garnissant des bases de données. La collection LAION-5B (Large-scale Artificial Intelligence Open Network) par exemple rassemble 5,8 milliards d’images légendées, récupérées un peu partout sur le Web.

Comment améliorer la situation ?

Le constat est là : est-ce possible de mieux faire ? Naturellement. Comment ? En « réfléchissant sérieusement à la façon dont la main-d'œuvre humaine se trouve impliquée dans le développement de l'IA. Cette main-d'œuvre mérite d'être formée, soutenue et rémunérée pour être prête et disposée à faire un travail important que beaucoup pourraient trouver fastidieux ou trop exigeant » soutiennent Mary L. Gray et Siddharth Suri, auteurs du livre Ghost Work : How to Stop Silicon Valley from Building a New Global Underclass.

Dans l’ensemble, tous les intervenants cités recommandent une plus grande transparence de la part des entreprises technologiques, la création de politiques qui améliorent les conditions de travail et les salaires, ou encore la mise en place de formations pour permettre à des individus comme Krystal Kauffman de contribuer aux modèles d'IA autrement que par l'étiquetage.

En outre, ils suggèrent que tous ceux qui contribuent à former une IA devraient être informés et reconnus comme tels, et avoir la possibilité d’y participer ou non. Le cas échéant, d’être rémunérés en conséquence ou de bénéficier d'incitations plus importantes.

Source : Vice

Vous êtes un utilisateur de Google Actualités ou de WhatsApp ? Suivez-nous pour ne rien rater de l'actu tech !
google-news

A découvrir en vidéo

Haut de page

Sur le même sujet

Rejoignez la communauté Clubic S'inscrire

Rejoignez la communauté des passionnés de nouvelles technologies. Venez partager votre passion et débattre de l’actualité avec nos membres qui s’entraident et partagent leur expertise quotidiennement.

S'inscrire

Commentaires (8)

serged
D’accord, mais :<br /> Des « petites mains » pour la reconnaissance vocale, basées en Afrique ou en Asie ont des accents différents de celle de l’américain (ou le français) moyen. Comment les IA vont s’y retrouver ?
nicgrover
« comment sont nourries et entraînées les IA ? »<br /> Avec toutes nos informations collectées et revendues par Google et consorts…
Proutie66
Non.<br /> Google ne revend rien. OpenAi vole par contre tout le web.
MqcdupouletBasquez
ça devient scandaleux que des pauvres travaillent désormais…<br /> vraiment, y’a pas à dire, on vit dans un monde merveilleux.
ABC
Un article brillant et très instructif. Merci Rémi !
ABC
serged : « Des petites mains pour la reconnaissance vocale, basées en Afrique ou en Asie ont des accents différents de celle de l’américain (ou le français) moyen. Comment les IA vont s’y retrouver ? »<br /> J’avais vu un reportage il y a quelque temps qui montrait des pauvres en Amérique du Nord ou en Grande Bretagne qui travaillaient pour des salaires de misère. Vu que c’est présenté comme une activité « libre » via une application en ligne (un peu comme un jeu que vous exercez quand bon vous semble), ça échappe totalement au droit du travail et permet de payer sous le seuil de pauvreté. Ces invisibles n’ont absolument aucun droit, c’est le pire de ce qu’on peut trouver dans l’ubérisation.<br /> Ainsi, nombre d’algorithmes vocaux ont été optimisés par des mères célibataires ou des retraités pauvres pour moins de 2$ de l’heure. L’exploitation derrière les écrans n’a pas de frontière, ça peut être à l’autre bout du monde ou chez votre voisin. Même si le gros des troupes se trouve dans des pays pauvres.<br /> Pour le reste, comme par exemple le tri des images criminelles, pédo-pornographiques ou d’actes de tortures et de barbarie, j’avais vu qu’il y avait beaucoup de travailleurs asiatiques qui visualisaient des milliers d’images 12h par jour dans des locaux anonymisés. Ils travaillent essentiellement pour les grands noms de la tech, Facebook étant un des plus gros clients. Souvent la nature exacte du travail est cachée lors du recrutement. Ils finissent presque tous traumatisés à vie, avec des suicides et des atteintes psychiatriques lourdes.<br /> On peut clairement parler d’esclavage moderne. Puisque dès qu’une personne est détruite, elle est dégagée sans ménagement et aussitôt remplacée par une autre qui sera détruite à son tour, depuis des années et dans l’indifférence générale.<br /> Derrière les applications dites intelligentes et les effets « Woah », se cache parfois une odeur de sang.
Ornelien
Comme quoi le vrai waouh c’est que l’esclavage continue
_DARKWOLF_1_1
Allez voir sur Artstation, les artistes mènent la guerre à la plateforme contre les IA, qui volent leurs œuvres.
Voir tous les messages sur le forum