Les algo' rythment nos vies, et ce n'est pas fini

Thomas Pontiroli
27 octobre 2016 à 09h00
0
Le nez collé au smartphone, happé par des contenus divertissants sans substance, le citoyen n'a pas vu la nouvelle règle du jeu arriver, selon laquelle l'algorithme décide au mépris des libertés.

Dans La nouvelle servitude volontaire (éditions FYP), Philippe Vion-Dury, journaliste et essayiste, s'attaque avec rigueur et lucidité à la mutation en cours de la société sous l'effet du numérique. Le « futur » tel qu'imaginé par la science-fiction est bien là, mais il n'est pas encore aussi spectaculaire. Et c'est bien pour cette raison, dit l'auteur, que cette révolution est dangereuse. Insidieuse, elle échappe au contrôle politique, n'est que peu remise en cause par les médias, et les algorithmes auto-apprenants deviennent si complexes, qu'ils ne seront bientôt plus compris par personne. À la source, le capitalisme libéral et son insatiable quête de profit pousse les entreprises à plus de rationalité et de rentabilité. Au grand dam de l'éthique et de la liberté, y compris dans les médias.


Interview de Philippe Vion-Dury :

Comment avez-vous eu l'idée de consacrer un ouvrage à ce sujet et pourquoi ?

C'est en lisant un article du Time qui parlait de big data et de Big Brother. J'ai été frappé de voir à quel point on pouvait déjà anticiper les comportements des gens. Ce pouvoir de prédiction m'a semblé inquiétant. Pour moi il y avait un vide sur le sujet, alors j'ai commencé à flairer ce qui n'allait pas. Tout est parti de la publicité ciblée, dont les méthodes de tracking et de prédiction ont été étendues à d'autres domaines. Je me suis rendu compte que nous n'avions pas conscience de l'ampleur de ce phénomène, et que la réalité avait déjà rattrapé la fiction. Par exemple en Chine, avec Credit Sesame : il récompense les bons citoyens en fonction de leur comportement !

Sur la technologie, médias et politiques semblent unanimement enthousiastes, pas vous ?

Le seul débat admis autour de la percée de la technologie, et qui ne soit pas vu comme réactionnaire, c'est celui de la protection de la vie privée. Mais dès qu'on sort de ce sujet, on se confronte vite à la rhétorique voulant que ce qui fait du mal puisse aussi faire du bien... Le politique est pris de court par le développement de l'entreprise.
Il faudrait remettre un dogme en amont pour garder la maîtrise des choses, retarder la sortie de technologies...


08581750-photo-la-nouvelle-servitude-volontaire.jpg
Philippe Vion-Dury, La nouvelle servitude volontaire, FYP Éditions, 2016.


Que le législateur soit en retard sur ces innovations pourtant profondes, c'est inquiétant non ?

Le meilleur exemple est la Hadopi, qui s'est attaquée au téléchargement illégal alors que les internautes se mettaient au streaming. Les politiques ont du mal avec ces sujets, on n'est pas formé à l'école. De leur côté, les entreprises font tout ce qu'elles peuvent pour les mettre devant le fait accompli. Une fois qu'un service est bien intégré dans les usages (Uber), c'est là que le débat commence, mais l'entreprise elle, est passée à autre chose.

Est-ce à dire que le politique a abandonné une partie de son pouvoir à l'entreprise ?

Pas vraiment, l'entreprise ne gouverne pas le monde et n'a que les moyens que lui fournit l'État. Mais l'État se place aussi comme tremplin pour les sociétés technologiques (French Tech...) et joue un rôle d'arbitre. Le lobby est légal, rien ne n'empêche de le contrôler... mais ce n'est pas le cas. Le débat est au niveau des institutions.

Laisser l'innovation filer en avant à toute allure, sans contrôle, cela mènera où ?

Nous sommes dans une dictature du pratique, où l'on est prêt à financer une start-up des millions pour gagner quelques secondes, mais sans envisager les effets externes négatifs. Le seul effort resterait d'avoir à appuyer sur un bouton. Vous prenez un VTC ? Il n'y a pas besoin de payer ni de dire bonjour, car tout est automatisé et le chauffeur a déjà votre nom. Dans tout ça on oublie que l'efficacité est propre de la machine, pas de l'humain.

Une fois que toutes les basses besognes seront automatisées, alors que ferons-nous ?

Nous tendons vers une société de loisirs. Comme le disait Spinoza, il y a deux accès au monde : le pouvoir (qui est de faire faire) et la puissance (qui est de faire). Quand on se guide avec un GPS, on ne regarde plus le monde et on perd sa puissance, son contrôle. Et quand il tombe en panne, on est perdu. Dans la technologie, il faut voir ce qui est utile et n'enlève pas trop de puissance. Mais comme tout le monde veut éviter la friction, on optimise !


03E8000008581774-photo-wall-e.jpg
Lorsque les humains n'ont plus rien à faire d'autre que de se gaver de contenus et de nourriture, dans le film Wall-E.


Dans ce monde personnalisé et automatisé, l'algorithme retire toute notion de hasard...

Des écosystèmes comme Spotify, Netflix ou même Amazon font tout pour nous gaver. Ils affichent les contenus qui sont susceptibles de nous plaire en pondérant cela avec le retour sur investissement attendu. Il n'y a plus de sérendipité. Néanmoins, ces entreprises en prennent conscience, alors elles réintroduisent une dose de hasard... du moins en apparence, car c'est un hasard dans une réalité chiffrée. Le but est de générer du hasard rentable. La dose de hasard est déterminée en calculant ce dont a besoin l'esprit humain pour accepter la nouvelle norme.

Si nos choix sont fléchés vers la seule rentabilité, l'appauvrissement intellectuel guette !

Le sociologue Dominique Cardon pointe un risque de normalisation des comportements, et imagine aussi des outils pour enrichir le savoir humain : des algorithmes favorisant la qualité (éthique, richesse de l'information, impartialité...) et réservés à une élite, là où les autres algorithmes font passer la recherche de profit avant tout, peu importe la qualité. Le capitalisme libéral est modulaire. S'il y a un marché rentable, alors il l'investira.



« L'apparente normalité des choses est ce qui les rend dangereuses. »




Les films de SF n'avaient pas prévu que le « futur » s'installe de façon si insidieuse...

Toutes ces technologies transforment en profondeur la société, alors qu'on ne les voit pas, car ce sont des logiciels et des algorithmes. Il n'y a rien de spectaculaire à voir quelqu'un regarder une vidéo YouTube dans la rue, pourtant, on ne se rend pas compte de ce que cela suppose. L'apparente normalité des choses est ce qui les rend dangereuses... Un robot trop proche de l'homme serait rejeté car trop troublant, alors qu'un smartphone.

Sans robot, pas de « soulèvement des machines », mais une perte de contrôle quand même ?

Oui ! Ces sociétés privées ne dévoilent rien de leurs algorithmes, si bien que Google lui-même a déjà été embarrassé à expliquer comment certains fonctionnent. Au-delà des données recueillies et de comment elles sont brassées, le plus difficile est de comprendre ce qui est déduit de leur analyse (machine learning). Mais si Google lève le voile, il remet en question la concurrence car tout le monde le copiera. L'enjeu est pourtant de taille car en modulant l'affichage des articles dans les résultats, il est capable de renverser une élection ! On a vu que Facebook était capable de pousser des centaines de millions de personnes aux urnes avec ses algorithmes et même de mettre en valeur des actualités favorables à la candidate Hilary Clinton. Le pire est que même l'État ne se montre pas transparent sur ses algorithmes, en refusant d'expliquer comment marche Admission post-bac.




Si le politique lui-même est menacé par ces nouvelles règles du jeu, pourquoi ne fait-il rien ?

Le politique n'agit pas car il n'évolue pas sur la même temporalité. Lui est intéressé au court terme pour sa réélection, Facebook et les autres jouent à l'échelle d'une génération, d'une vingtaine d'années. Et puis les évolutions se font lentement, par paliers, repoussant sans cesse le niveau d'acceptation, ce qui rend la vraie mutation plus difficile à appréhender. Enfin, il n'y a pas de remise en cause possible de la technologie et de ses dérives sans confrontation frontale avec le système qui a enfanté et nourrit tout cela : le capitalisme libéral.

Est-on finalement arrivé à « la fin de l'histoire » de Fukuyama, sans contestation possible ?

Cette fin de l'histoire n'est pas possible selon moi car on aime trop la contestation, on l'a vu avec les VTC. Le problème, c'est que ça ne suffira pas car les gens sont entretenus dans un cocon de confort. Lorsqu'ils rentrent chez eux le soir, ils sont abreuvés de contenus divertissants au détriment de ce qui est important. Le système se nourrit des forces du capitalisme, mais aussi de ses faiblesses. Donc s'il ne crée pas de croissance, il s'effondre. Face à ces changements, je pense qu'il faut donc garder un réflexe critique pour éviter d'être pris pour un con.
Modifié le 01/06/2018 à 15h36
0 réponses
0 utilisateurs
Suivre la discussion

Les actualités récentes les plus commentées

De nouveaux modèles climatiques ont été créés... et la situation est pire que prévue
La dernière mise à jour de Windows 10 causerait des pannes de carte réseau
La Suisse veut forcer les compagnies aériennes à renseigner les émissions CO2 sur les billets d'avion
Un démantèlement des GAFA ?
Ça y est, le Fold est disponible en France... pour 1,6 SMIC (net).
Le trou noir au centre de notre galaxie semble avoir de plus en plus faim
Des chercheurs remettent sur la table la solution de l'ascenseur vers la Lune
Le saviez-vous ? Un Game Boy, meurtri, a survécu à la guerre du Golfe
Le GPS européen Galileo est désormais utilisé sur un milliard de smartphones
La Renault ZOE 2 se lance (enfin !) officiellement

Notre charte communautaire

1. Participez aux discussions

Nous encourageons chacun à exprimer ses idées sur les sujets qui l'intéressent, et à faire profiter l'ensemble de la communauté de son expertise sur un sujet particulier.

2. Partagez vos connaissances

Que vous soyez expert ou amateur passionné, partagez vos connaissances aux autres membres de la communauté pour enrichir le niveau d'expertise des articles.

3. Échangez vos idées

Donnez votre opinion en étayant votre propos et soyez ouverts aux idées des autres membres de la communauté, même si elles sont radicalement différentes des vôtres.

4. Faites preuve de tolérance

Qu'il s'agisse de rédacteurs professionnels ou amateurs, de lecteurs experts ou passionnés, vous devez faire preuve de tolérance et vous placer dans une démarche d'entraide.

5. Restez courtois

Particulièrement lorsque vous exprimez votre désaccord, critiquez les idées, pas les personnes. Évitez à tout prix les insultes, les attaques et autres jugements sur la forme des messages.

6. Publiez des messages utiles

Chaque participation a vocation à enrichir la discussion, aussi les partages d'humeurs personnelles ne doivent pas venir gêner le fil des échanges.

7. Soignez votre écriture

Utilisez la ponctuation, prohibez le langage SMS et les majuscules, relisez-vous afin de corriger un peu les fautes de frappe et de français : trop de fautes n’engagent ni à lire le message, ni à répondre à une question.

8. Respectez le cadre légal

Ne publiez pas de contenus irrespectueux, racistes, homophobes, obscènes ou faisant l'apologie de courants radicaux, qu'ils soient politiques ou religieux. N'utilisez pas plusieurs comptes utilisateurs.

9. Ne faites pas de promotion

Ne profitez pas d'une discussion pour faire la publicité d'un produit, d'un service ou même de votre site web personnel.

10. Ne plagiez pas

Exprimez uniquement vos opinions ou partagez des idées en citant vos sources.

scroll top