Inquiet, pessimiste même, l'ex-monsieur IA de Google dévoile pourquoi il a quitté l'entreprise

02 mai 2023 à 18h00
31
© Reuters
© Reuters

L'intelligence artificielle pourrait bien faire planer un danger mortel au-dessus de l'humanité, selon le spécialiste Geoffrey Hinton.

Les humains commencent maintenant à être habitués aux rappels sur les dangers de l'intelligence artificielle. Mais si un consensus se forme sur les problèmes potentiels de cette nouvelle technologie, pour certains, comme pour cet ancien de Google, le danger est encore plus élevé qu'attendu.

L'IA bientôt plus intelligente que nos énarques ?

L'intelligence artificielle, combien de dangers ? On le sait, l'IA peut poser de nombreux problèmes, que ce soit dans son contact avec des publics fragiles ou même de manière plus globale avec son impact sur les emplois occupés par des êtres humains. Pourtant, le principal péril de la technologie ne serait pas là selon Geoffrey Hinton, pionner de l'IA chez Google, et qui a démissionné de l'entreprise de Moutain View.

« Je suis parti pour pouvoir parler des dangers de l'IA sans tenir compte de l'impact sur Google », a-t-il ainsi expliqué sur Twitter. Car pour ce chercheur spécialisé dans l'IA, l'humanité serait arrivée à un tournant de son histoire, avec la possibilité que l'intelligence artificielle devienne rapidement plus intelligente… que les humains.

« La plupart des gens pensaient que c'était une erreur. Et moi aussi. Je pensais que c'était dans 30 à 50 ans, voire plus. Évidemment, je ne suis plus de cet avis », a déclaré Geoffrey Hinton au New York Times.

L'IA, quel danger ? © Shutterstock
L'IA, quel danger ? © Shutterstock

Google, une entreprise responsable

Dans une interview avec le même média, il a aussi dit craindre que le développement rapide de l'intelligence artificielle puisse nous plonger dans un monde où le faux n'aurait plus de différence apparente avec le vrai. Car avec la génération par IA de plus en plus réussie d'images et de textes, le public finirait par « ne plus pouvoir savoir ce qui est vrai. »

S'il est pourtant alarmiste, Geoffrey Hinton a dans le même temps tenu à rendre hommage à son ex-employeur Google, qu'il estime à la hauteur quant aux questions de sécurité sur ce sujet. Il a ainsi nié avoir quitté son poste pour pouvoir critiquer le géant américain de la tech, dont la filiale DeepMind travaille depuis de nombreuses années sur l'intelligence artificielle.

Source : Reuters

Vous êtes un utilisateur de Google Actualités ou de WhatsApp ? Suivez-nous pour ne rien rater de l'actu tech !
google-news

A découvrir en vidéo

Haut de page

Sur le même sujet

Rejoignez la communauté Clubic S'inscrire

Rejoignez la communauté des passionnés de nouvelles technologies. Venez partager votre passion et débattre de l’actualité avec nos membres qui s’entraident et partagent leur expertise quotidiennement.

S'inscrire

Commentaires (31)

norwy
Et bien pourquoi continue t-on dans une voie sans issue ? C’est un peu comme le sujet suivant : « Faut-il développer la bombe atomique ? »<br /> Vous avez 1 heure.<br /> PS : et sans utiliser ChatGPT, bandes de tricheurs que vous êtes !
BraveHeart
« L’IA bientôt plus intelligente que nos énarques ? »…ah, ben cela ne tient en rien de l’exploit !!
Peter_Vilmen
Pas súr que de ne pas pouvoir reconnaître le vrai du faux soit le plus gros danger de l’IA, mais ça va effectivement être folklorique, surtout avec les genre 25% de français débiles qui s’informent sur Sud Radio / RT France. La société va devenir de la grosse bouse avant qu’on trouve les moyens de nettoyer tout ça.
Martin_Penwald
Pourquoi ? Tu peux expliquer ?
Kriz4liD
Tu as répondu à ta question <br /> On demande aux autres de ne pas développer leurs IA mais on développe la notre en secret comme les bombes atomiques , on demande aux autres de ne pas l utiliser alors qu’on l utilise comme la surveillance de masse…<br /> Oué ma comparaison est foireuse
nephermat
pour le coup on est mieux informé sur sudradio et rtfrance que sur le reste hein <br /> mdr l’exemple de merde, bfm tfa france tv c’est sur ca envoie de l’info interessante <br /> Mdr oui la société est deja de la grosse bouse et tu participe fierement à ca.
carinae
Pourquoi une voie sans issue ? Beaucoup de choses bien peuvent être faites avec une IA. C’est simplement l’utilisation qu’on en fait qui est à déplorer. Internet en est un très bon exemple
darouine
Le danger imminent que je vois, c’est que l’assistance cognitive de l’IA ne diminue la notre. Je vois aussi l’IA comme un outil de rationalisation de la pauvreté au service d’une poignée de nanties.<br /> Par ailleurs, je ne suis pas certains que l’IA utilisée pour régir nos sociétés prenne en compte l’impératif de notre condition humaine physiologique, entendre par là notre nécessité à la communication et au mimétisme pour la survie de l’espèce, l’émotion régissant les choix de civilisation. Mais, je crois que cela nous ait déjà supprimé en parti par une classe de nanti exploitant la misère.
norwy
Tu as lu l’article ? Si non, essaye au moins de lire le début…
bmustang
cela dépendera de ce que nous allons en faire ou pas, nous sommes la cible de ces multinationales et à nous d’être vigilant de ce qui est bon ou pas pour notre avenir, notre liberté, notre bien-être.
rexxie
Il est déjà trop tard. Les IA se programment elles-mêmes. Gpt5 est l’enfant de Gpt4.<br /> Et aucun humain ne comprend le code de sortie des nouvelles IA.<br /> Les militaires et les GAFAM par soif de marché et de pouvoir, courent tête baissée pour les développer exponentiellement.<br /> Et aucun gouvernement, toujours en réaction, ne va légiférer à temps… quand bien même, comme dit @Kriz4liD ça se fait déjà en secret.<br /> Je crois bien que nous assisterons à la fin. Malheureusement, ce ne sera rien de spectaculaire comme dans les films. Un petit virus, ou un « vaccin », des drones gros comme des moustiques, un gaz… et ce sera fini dans une semaine.
Zimt
@rexxie<br /> Rien du tout … la vérité c’est que « l’IA » est en passe d’être la prochaine bulle.<br /> Et quand elle va éclater, quand tout le monde sera déçu, cela va plonger des milliers voir des millions de compagnies dans un gouffre.<br /> Rendez-vous dans 2 ans (3 ans max).
ar-s
@Zimt Mais déçu de quoi ? On en est au balbutiements et c’est déjà dingue comme ça a changé la façon d’obtenir des résultats de recherche, de résumé, de codes, de productions vidéos etc…
rexxie
Il y en a qui ne saisissent pas du tout de quoi il retourne. ChatGpt c’est une crotte de puce comparé à ce qu’ IA complète peut faire.<br /> newatlas. com/technology/ai-danger-kill-everyone/
Zimt
On en reparle d’ici 2 à 3 ans. Bonne nuit.
Blackalf
Un truc amusant que j’ai entendu tout à l’heure dans une série que je regarde actuellement. Un personnage, informaticien du FBI, qui a dit en parlant d’un criminel utilisant un programme d’IA volé à la NSA « il se sert de l’IA pour améliorer son pouvoir de nuisance ».<br /> Et cette saison de la série a été diffusée en 2015…
Bombing_Basta
Pour l’instant, faut le mettre au néan, car il n’y a aucune IA, en tous cas pas connue du grand public.<br /> Là on a des algorythmes, très efficaces, complexes, et imitant assez bien l’humain.<br /> Mais ce ne sont que des algos, qu’on bourre en entrée de data qu’il process, pour chier des « réponses ».<br /> Et avec une bonne sauce au marketing, on te balance de lIA partout, façon skynet…<br /> L’IA en ce moment, c’est comme le FULL SELF DRIVING des tesla, ça sonne bien sur la papier, mais dans la réalité, c’est de la chiure de code.<br /> Quand un « bot » sera capable d’apprendre (par lui-même, sans qu’on lui « dise » de la faire, sans qu’on le gave de data, VRAIMENT de lui-même, façon « papa humain, c’est quoi ça ? » « Hé bien fiston numérique, c’est un accessoire pour pub avec évocation de copulation, autrement dit plus simplement, une bouteille de lait… » ) dans n’importe-quel domaine, donc de réfléchir et poser des questions pertinentes pour comprendre ce qui l’entourre et l’intéresse, de résoudre des problèmes inconnus par lui, voir résoudre des problème que l’homme n’a pas encore compris (ex c’est quoi exactement la gravitation, comment cette force se créé exactement ?), et bien ça ne restera que des inertes machines.<br /> Pour l’instant ce ne sont pas des IA, juste des créations humaines qui impressionnent.<br /> Mais un magicien aussi impressionne.<br /> Ça reste du spectacle, pas du réel.<br /> Ce qui est réel, c’est ce que l’Homme peut en faire, et là ça va être la fête du slip…<br /> Il n’y a pas d’IA actuellement, juste des extensions externes de l’intelligence humaine, pour servir l’humain.<br /> La vraie première IA, ne sera pas servile bien longtemps…
Peter_Vilmen
Les auditeurs de Sud Radio / RT France sont une preuve supplémentaire que l’évolution peut parfois régresser, ils se détachent lentement du genre sapiens sapiens pour créer leur propre lignée de homo brutus stupidus, un mix de chimpanzé et de néanderthal. Fort heureusement, ils sont généralement moches et au chômage ce qui réduit grandement leur pouvoir de reproduction.
tfpsly
Bombing_Basta:<br /> Pour l’instant, faut le mettre au néan, car il n’y a aucune IA, en tous cas pas connue du grand public.<br /> […]<br /> Exact. On peut parler de systèmes (pour) IA, une probable première étape ou partie de ce que sera la première vraie IA; mais ce ne sont pas des IAs. C’est comme dire qu’un moteur ou un volant est une voiture; non, juste un composant.
Bombing_Basta
Exactement ce que je pense, actuellement, une « IA » c’est un cerveau externe, l’humain le pilote et l’amimente en données car pour faire la même chose à la main sur papier ou ordinateur lui prendrait des siècles.<br /> C’est un outil au même titre qu’une perceuse avec laquelle on « sous-traite » un action qui nous est possible, mais dans un temps infiniment plus long.<br /> Bref, intelligence ou pas, encore un outil qui va apporter plein de bonheur à la populace…<br /> Sinon j’ai pas quitté le sujet depuis tout-à-l’heure, car je suis tombé sur ça comme par hasard sur une de mes sources préférée d’apprentissage (avec wikipedia sur lequel je dérive souvent loin comme certains sur youtube lol) :<br /> ARTE<br /> iHuman - L'intelligence artificielle et nous - Regarder le documentaire...<br /> L'intelligence artificielle va-t-elle remplacer l'humanité ? Ce documentaire prend la mesure de l'emprise des algorithmes sur nos vies. Il donne la parole à ceux qui débattent de l'IA (sociologues, avocats des droits de l'homme, scientifiques ou...<br /> On y croise quelques « pontes » de l’IA dont le boss d’openai (qui fait très incel lol), qui nous parle de la prochaine IA qui sera le départ d’une vraie IA, l’IAG, G pour générale (ou pour « God save us! » ).<br /> Et ouais les mec, la vrai IA aura un ppint G, avant la prochaine vraie IA avec un point P, et ainsi de suite… Jusqu’à ce que skynet sorte de l’utérus numérique de façon spontannée et se dise « tiens, y’a un parasite qui nique notre planète là, faudrait faire un truc ! »
Than
Ça fait plaisir de lire un peu de bon sens sur ce sujet. ^^<br /> On est très loin de l’IA actuellement, mais on détourne tellement bien le mot parce que la plupart des gens n’y comprennent pas grand chose.<br /> Comme on s’imaginait Terminator derrière chaque robot aspirateur de poussière…
SlashDot2k19
Les gouvernements pourront s’appuyer sur les IA pour prendre leurs décisions…
Than
Les dangers, on les connait déjà en bonne partie, comme souvent avec un nouveau truc qui émerge et qu’on comprend à moitié :<br /> Si c’est utilisé militairement (et ça le sera), ça va piquer. On n’a que des précédents à ce sujet, qu’importe ce qui a été trouvé. (on légifère dessus de temps à autres, mais bon… ça change pas grand chose en temps de guerre mondiale, et comme d’hab’, faut se trouver du côté des vainqueurs pour s’arranger avec la réalité. On n’a toujours pas changé en quelques millénaires.).<br /> Ça va détruire des emplois. Oui bon, et alors ? Fallait peut-être pas avoir un système économique en premier lieu qui soit aussi stupide au point d’être capable d’aller contre notre propre longévité en tant qu’espèce, au détriment des autres au passage (dont on a besoin, et dont on se rend compte petit à petit à mesure qu’elles disparaissent).<br /> Ça va créer des emplois, mais moins que ceux que ça va détruire. Oui bon, et alors ? Même commentaire qu’en haut.<br /> Avec le bonus : ouais, et en plus on va pas sensibiliser et former les gens dessus, et encore avoir qu’une petite partie de la population qui comprendra vraiment comment ça marche (même principe sur la plupart des technologies depuis des millénaires. C’est pas parce qu’on sait utiliser un truc nouveau correctement qu’on sait comment il fonctionne, et qu’on se fait entuber par le réparateur le jour où il faut réparer.).<br /> Du coup on va créer/laisser se créer des psychoses (ça alimentera les complotistes en sujets nouveaux, « trop bien »), pendant qu’une petite portion gagnera très bien sa vie dessus.<br /> Bonus secondaire : les formations initiale et continue vont arriver des années après l’émergence de ces outils. Ça aussi, c’est une habitude.<br /> Pour la portion de la population qui n’y aura pas facilement accès pour X ou Y raisons, on s’arrangera pour lui rendre l’usage de l’outil moins optimal qu’il ne peut l’être, en l’abreuvant de publicités et autres pertes de temps usant et abusant de notre curiosité et de nos envies de dopamine (coucou les réseaux sociaux, les titres de vidéos/articles/autres abusifs, etc.), le tout avec toute la panoplie de biais cognitifs déjà connus qu’on va surexploiter.<br /> En fin de compte, on aura accéléré ce qu’on fait déjà, dans des proportions plus grandes.<br /> Mais est-ce vraiment la faute aux outils ?<br /> A mon sens, non. On pourrait et on peut en faire tout à faire autre chose. C’est une question d’orientation. Qu’est-ce qu’on veut en faire ? A quel but ?<br /> Est-ce qu’il y a des choses qu’on ne veut pas faire avec ? Et pourquoi ?<br /> Comme on pourrait faire tout à fait autre chose d’Internet, et des techno’ qui ont permis de créer des armes capables de faire péter la planète plusieurs fois. C’est des choix.<br /> Je suis parti un peu loin, mais à mon sens, au lieu de jouer les alarmistes dès qu’un truc apparaît, faudrait peut-être déjà faire le constat de notre époque, et de ce qu’on utilise au quotidien. Le constat de nos systèmes.<br /> Un outil de plus ou de moins qu’on utilisera plus ou moins bien et autant de travers que les précédents, c’est « juste du bruit » dans la cacophonie permanente de notre espèce.
sazearte
le vrai problème ce sera un changement profond dans la société.<br /> car en restant dans le système actuel, si demain beaucoup de métiers peuvent etre remplacé par une ia, cela va créer un chômage de masse et donc une pauvreté de masse.<br /> le pire c’est que les métiers remplacé sont des métiers avec les meilleurs salaires, les boulot de merde mal payé au smic eux continuerons d’être fait par des humains…<br /> je suis devleoppeur, j’ai un bac +5, j’ai un salaire qui me permet de finir les mois sans difficulté, je passe la moitié de ma semaine chez moi en télétravail tranquille, donc un boulot que je devrais pouvoir faire sans problème jusqu’a 64ans.<br /> J’ai pas envie de me reconvertir vers aide soigant ou sous traitant de sous traitant de sous traitant pour finir technicien pour déployer la fibre.<br /> Au contraire je voudrais que ces métiers disparaissent ou alors soit réellement revalorisé a leurs juste valeur.<br /> Mais l’avenir on le connait, ce sera l’augmentation de la précarisation et de la pauvreté, il y’aura un chômage (sans alloc) de masse et seul une minorité de 1% vivrons dans des magnifiques palaces, les autres dans des ghettos.<br /> Klaus Schwab a tort, on ne possèdera plus rien oui mais… on sera pas heureux<br /> le seul point positif c’est que comme tout le monde sera pauvre, il n’y aura plus personne pour acheter des trucs cher, donc les boites qui font des iphones, des voiture electrique etcs vont disparaitre.
Fodger
Le fait d’apprendre à analyser les informations, les recouper, les confronter pour se faire ça propre opinion et sans doute la première façon de se protéger des méfaits d’une IA (terme galvaudé).<br /> IA qui est avant tout pour l’heure un agrégateur de données qui mettant les réponses en forme via l’analyse sémantique pour donner l’illusion d’intelligence.
Than
L’idée maitresse de toute technologie « productive », c’est de faire mieux, plus vite et avec toujours moins de main d’oeuvre.<br /> Donc le plein emploi, ou le travail comme base de nos vies, c’est aussi intelligent que de s’imaginer que la croissance infinie sur un caillou aux ressources finies est possible.<br /> Sur des Excels, tout est possible.<br /> Dans le monde physique, non.<br /> Donc je partage ton constat dans ta 1ère phrase : il faudra un changement profond de société.<br /> Idéalement avant d’en arriver à avoir paupériser l’immense majorité, sinon ça se passera vraiment pas bien (là aussi, on a des millénaires d’exemples…).<br /> Mais encore une fois, c’est pas la technologie le problème. C’est nos systèmes humains.<br /> Quand on considère qu’il est préférable de faire bosser des gens à des tâches ingrates (que ne feraient pour rien au monde ceux qui imposent au passage ces lois… ça veut tout dire de la fameuse valeur travail, et de leur considération pour leur « semblable » dont ils se détachent au moindre coup de vent) et de leur créer l’illusion de l’utilité à travers des métiers répétitifs et abrutissants « parce que sinon ils sauraient pas quoi faire de leurs vies » (…), le problème n’est toujours pas la technologie. ^^<br /> L’IA ça commence à faire peur à plus grande échelle, parce qu’on commence à pouvoir envisager une société où même les métiers qui sont actuellement relativement peu accessible de l’ensemble de la population, et bien payés, puissent disparaître eux aussi/être faisables par des IA.<br /> C’est « simplement » parce qu’on voit le monde comme ça depuis au moins 2 siècles, sinon plus. Et ça nous passera. Mais si on pouvait le faire tranquillement plutôt qu’après quelques effondrements de civilisation et quelques guerres, ça serait mieux !
StephaneGotcha
Je suis pas d’accord sur un point :<br /> Ça fait longtemps que n’importe quelle IA de pacotille est plus intelligente que nos énarques …<br /> Mais je suis d’accord sur le fait que bientôt, il sera extrêmement difficile de reconnaître le vrai du faux. Mais c’est à mettre en relation avec tous ces gens qui ne cherchent pas la vérité mais seulement à trouver des avis identiques aux leurs …
jbobby
J’ai fait un tour sur les commentaires et j’ai eu tout aussi peur de certains commentaires que de l’IA. Prendre une catégorie de population, la décréter comme sous-humaine et qu’elle ne devrait pas se reproduire, on connait ça, on en a eu de très nombreux exemples et c’est pas vraiment un signe de supériorité. En plus, même en supposant que la partie de la population qui se croit supérieure l’est effectivement (ce qui à mon avis n’est pas le cas, car ce n’est pas un bon signe) on aurait au mieux une poignée de points de QI de différence max
fg03
Enfin bon pour l’IA alimente surtout les fantasmes plus que notre réalité.
Bombing_Basta
Than:<br /> L’IA ça commence à faire peur à plus grande échelle, parce qu’on commence à pouvoir envisager une société où même les métiers qui sont actuellement relativement peu accessible de l’ensemble de la population, et bien payés, puissent disparaître eux aussi/être faisables par des IA.<br /> Pour ma part c’est le cadet de mes soucis.<br /> 1984 était optimiste sur la date, finalement, ce sera 2084…<br /> Than:<br /> Un outil de plus ou de moins qu’on utilisera plus ou moins bien et autant de travers que les précédents, c’est « juste du bruit » dans la cacophonie permanente de notre espèce.<br /> Y’a quand même une différence d’échelle.<br /> Cet « outil » donne juste le potentiel à n’importe quel sociopathe au pouvoir d’asservir la population à un niveau jamais atteint.<br /> Et la Chine en est le porte-flambeau…
rexxie
Sauf qu’il date DÉJÀ de 3 ans ton truc, et par les temps qui courent (littéralement), 3 ans c’est le bon vieux temps en développement de l’IA.<br /> Je te suggère fortement de lire (en anglais) si tu le peux l’article (récent) que j’ai mis plus haut par un des tops chercheurs en IA superintelligente.<br /> Vous pouvez vous rassurer comme des noyés qui se tiennent les uns sur les autres, c’est à peu près ce qu’on peut faire pour se rendre confortable, jusqu’à …<br /> Moi j’ai décidé de dépenser mon argent de retraite plus tôt
Bombing_Basta
Je ne me rassure de rien.<br /> Même sans l’IA, l’avenir le l’humanité serait sombre.<br /> Certes en 3 ans les choses évoluent, mais toujours pas de skynet à l’horizon, même si je ne doute pas qu’on fasse tout pour sortir le génie de son amphore…
Than
Yep, la différence d’échelle, c’est surtout ça qui va piquer. ^^’<br /> Après, j’ose penser (!) que c’est un acte abusif majeur qui provoquera un changement réel de société.<br /> Si c’est fait discrètement, les gens s’habituent à tout ou presque, et rien ne change. Parce qu’il y a toujours plus urgent (que ça soit vrai ou faux au passage, ça n’a pas d’importance que l’importance qu’on y accorde).<br /> @rexxie : Je suis pas plus rassuré, au contraire. Mais c’est pas vraiment l’IA et ses développements futurs qui m’inquiètent, c’est les humains qui vont s’en servir sans comprendre, tout autant que ceux qui vont s’en servir en comprenant un peu trop bien et en empêchant la majorité de comprendre aussi bien son réel potentiel.<br /> Quant à la retraite, c’est dans bien trop longtemps pour l’instant, mais je comprends l’idée.
rexxie
EH non, ce sera l’IA qui va se servir.
Than
L’IA qui reste branchée se servira nul part (à part sur le réseau électrique pour se nourrir. :D).<br /> C’est pas elle qui sera le problème, tant qu’elle n’est pas sentiente et tant qu’elle n’est pas autonome en énergie. ^^<br /> C’est l’intention humaine qui s’en servira d’abord.<br /> Et si l’humain s’entretue pas d’ici là, alors peut-être que l’IA aura le temps de ressembler à nos très chers films (qui ne sont en rien de l’anticipation).
rexxie
C’est ça le truc, on ne sait pas si elle est déjà consciente ou pas. On dirait que je mets un lien d’information pour le chien… misère.<br /> Un être beaucoup plus intelligent qui se sent menacé aura tout le loisir de nous manipuler et déjouer quelque truc que ce soit pour lui couper sa nourriture.
Than
Il n’existe pas d’IA sentiente aujourd’hui.<br /> On n’est clairement pas à ce niveau.<br /> Je n’avais pas vu ton lien comme il n’est pas sous forme cliquable (pourquoi d’ailleurs tu as mis un espace ?). Je regarderai plus tard. Mais je ne pense pas apprendre grand chose, surtout avec un titre aussi fantaisiste et le premier paragraphe. ^^<br /> (C’est pas les premiers trucs que je lis sur l’IA, ça commence à dater.)<br /> A un moment sa nourriture c’est de l’énergie. C’est bien pour ça que je parle d’autonomie.<br /> Y’a rien à craindre d’un truc qui se rendrait autonome s’il n’est pas autonome en énergie.<br /> Tant que ça se débranche, ça se débranchera. Tout le reste est fantasme à la Terminator, et ça n’aide en rien les débats.<br /> Il serait, à mon sens, plus intéressant de commencer à imaginer comment on peut inclure l’Humain dans ces systèmes, dans le sens de vraiment tous comprendre comment ça fonctionne et en quoi ça peut radicalement changer notre façon de vivre au quotidien.<br /> Ce qui, ça, sera pas du tout un fantasme.<br /> Sur ce, je vais utiliser GPT4 pour m’avancer (et aller plus loin) sur mon boulot.
rexxie
Pour le lien, on m’a enlever le droit de mettre des liens et des images. Je dérange trop. Désolé.<br /> Tu ne sais pas plus que moi ou en est le progrès de la conscience des IA, ni même si on la détecter, sous une autre forme inconnue des êtres biologiques.<br /> Pour le reste, prends la peine de lire. Tu comprendra qu’il sera facile d’amener les humains à ne jamais débrancher. Et débrancher quoi au juste? Tout l’internet ?
Than
Ben si, aujourd’hui je sais.<br /> Je peux juste pas deviner pour demain.<br /> Aujourd’hui, y’a 0 conscience. Le truc est un outil d’automatisation, qui fait exactement ce qu’on lui demande (mais pour ça faut comprendre comment ça fonctionne).<br /> Si l’IA c’est les GPT-like, ce sont des générateurs de tokens/mots. Rien de plus. Ils peuvent rien faire de plus. Ils sont pas programmés pour, et n’ont pas les outils pour s’auto-programmer.<br /> On est encore très très loin d’une conscience. On n’est même pas sur le 1er pas d’une conscience d’ailleurs.<br /> Je lirais, je lirais.<br /> Evidemment, qu’il est/sera facile d’amener les humains à ne jamais les débrancher. C’est déjà le cas avec des serveurs. Et même nos ordis persos selon nos usages.<br /> Maintenant ça nous empêche pas de fermer nos applications, car toutes ne nécessitent pas de rester connectées.<br /> Typiquement pour l’exemple, ça m’intéresserait beaucoup de programmer une IA pour lui demander de me chercher des infos tous les jours, et le matin pendant mon ptidej je puisse lire les nouveautés qui m’intéressent (et uniquement celles qui m’intéressent, pour être autre chose que du « temps de cerveau disponible à polluer en pub de trucs dont j’ai pas besoin, et dont on veut me créer l’envie de force et à l’usure »).<br /> La raison pour laisser ça brancher est évidente.<br /> Mais ça restera un outil. Dans ces conditions-là tout du moins.<br /> Internet n’est pas l’IA.<br /> L’IA, actuelle, se greffe même pas encore sur Internet. C’est pour ça que c’est qu’un balbutiement. Intéressant, mais au potentiel inutilisé. A date.<br /> Faut arrêter d’avoir peur pour le frisson d’avoir peur. L’effet Terminator.<br /> Non, si on veut se faire peur, faut se demander comment ça peut être utilisé militairement, et/ou par des gouvernements autocratiques/totalitaires. Là, oui, y’a de quoi avoir peur.<br /> Mais c’est pas l’IA qui nous fera du mal directement…
Voir tous les messages sur le forum