Pourquoi les experts et Elon Musk veulent stopper l'expérimentation des IA plus puissantes que GPT-4 ?

Mathilde Rochefort

29 mars 2023 à 10h50

Plus de 1 000 personnes, dont Elon Musk, ont cosigné une lettre appelant à l'interruption immédiate et pendant six mois du développement des intelligences artificielles (IA) plus puissantes que GPT-4.

La course à l'IA engendrée par la sortie de ChatGPT à la fin 2022 préoccupe de plus en plus les experts.

Le déploiement de l'IA jugé trop rapide

Publiée à travers l'ONG Future of Life Institute, la lettre tire la sonnette d'alarme quant à la rapidité avec laquelle le monde de la tech travaille et déploie les outils d'intelligence artificielle. Les immenses possibilités offertes par l'IA générative ont incité les rivaux d'OpenAI à accélérer sur le développement de modèles linguistiques similaires à GPT. En parallèle, de plus en plus d'entreprises intègrent cette technologie à leurs produits.

L'intensification de la concurrence pousse les firmes à devenir plus secrètes sur leurs systèmes respectifs. Sans ces informations, la société n'est pas en mesure de se défendre contre les dommages qui pourraient survenir. « Faut-il laisser les machines inonder nos canaux d'information de propagande et de contre-vérité ? Devrions-nous automatiser tous les emplois, y compris ceux qui sont gratifiants ? Devons-nous développer des esprits non humains qui pourraient un jour être plus nombreux, plus intelligents, plus obsolètes et nous remplacer ? Devrions-nous risquer de perdre le contrôle de notre civilisation ? », s'interrogent les signataires de la lettre.

Évaluer les risques des outils avant de les ouvrir au public

Afin de prévenir les nombreux risques posés par un déploiement trop rapide de systèmes d'IA avancés, les signataires sollicitent l'interruption du développement des IA plus puissantes que GPT-4 pendant six mois. Le but est d'évaluer au préalable si leurs effets seront positifs et leurs risques gérables. Selon eux, ces éléments doivent être prérequis pour tous les dispositifs d'intelligence artificielle lancés sur le marché. Ils appellent les législateurs à intervenir si la pause de six mois n'est pas mise en pratique.

« La recherche et le développement dans le domaine de l'IA devraient être recentrés sur l'amélioration de la précision, de la sécurité, de l'interprétabilité, de la transparence, de la robustesse, de l'alignement, de la fiabilité et de la loyauté des systèmes puissants et modernes d'aujourd'hui », préconisent les signataires. Cette recherche doit être « publique et vérifiable » et « inclure tous les acteurs clés ».

En amont, les développeurs sont exhortés à travailler conjointement avec les décideurs politiques. L'objectif est d'« accélérer considérablement le développement de systèmes robustes de gouvernance de l'IA ».

Elon Musk a signé, pas Sam Altman

Parmi les signataires, on retrouve sans surprise Elon Musk, qui a partagé à plusieurs reprises ses préoccupations quant à l'IA, mais également des chercheurs de DeepMind, la division spécialisée dans l'IA d'Alphabet. Yoshua Bengio et Stuart Russell, deux poids lourds du secteur, y figurent aussi.

Le PDG d'OpenAI, Sam Altman, n'a pas signé la lettre. Pourtant, il invitait récemment ses pairs à freiner sur le développement de l'intelligence artificielle. Il appellait en outre les législateurs à établir des lignes de conduite et une législation afin d'encadrer le développement exponentiel de ces outils.

Télécharger

ChatGPT

Chat dans différentes langues, dont le français
Générer, traduire et obtenir un résumé de texte
Générer, optimiser et corriger du code

Créé par OpenAI, ChatGPT est un chatbot avancé propulsé par le modèle linguistique de dernière génération GPT-4. En exploitant des technologies d'apprentissage en profondeur et d'intelligence artificielle, ce chatbot a la capacité de déchiffrer et de comprendre les demandes des utilisateurs. Grâce à son habileté à générer du texte de manière ingénieuse, ChatGPT offre des réponses adaptées et pertinentes, garantissant une interaction de chat fluide et une expérience utilisateur optimisée.

Sources : Reuters, Future of Life

Mathilde Rochefort

Après mes études de journalisme, j’ai décidé de m’orienter vers les domaines qui me passionnent : nouvelles technologies, jeu vidéo, ou encore astronomie. J’adore partager autour de ces sujets mais ma...

Lire d'autres articles

Commentaires (37)

Kriz4liD

Lol , tout le monde demande à tout le monde de freiner le développement des IA alors qu’ils sont tous entrain d augmenter la cadence dans les labos ! Que des faux c*ls

SlashDot2k19

La blague… Les USA ne voudront jamais laisser le champ libre autres pays, notamment hostiles… Il faut voir cela comme le marché de l’armement… Si ce n’est pas eux, ce seront les autres qui s’empareront du marché.

ar-s

Et Elon Musk couine pour avoir des volontaires pour son neural link… Mais quel…

arnaques_tutoriels_aide_informatique_tests

Oui et aussi musk et d’autres ont peur d’être doublé, je crois c’est pour ça aussi

DrGeekill

C’est exactement la réflexion que je me suis fait. C’est pas pour la bonne cause qu’il signe, c’est pour gagner du temps…

ayaredone

Un des problèmes est l’éducation des gens. L’esprit critique se perd, on croit tout ce qu’on lit ou voit sans réfléchir. On ne cherche pas d’autres sources, on ne remet pas en doute, aucun scepticisme, les gens deviennent idiots. Le film idiocraty est un film d’anticipation en fait. On y va tout droit.

fredolabecane

Skynet est là les gars.

Bombing_Basta

Devrions-nous automatiser tous les emplois, y compris ceux qui sont gratifiants Si on automatise tous les emplois qui ne sont pas « gratifiants » (aux yeux de qui d’ailleurs ?), ça va en faire des chômeurs hein…

luck61

Ce qui est dangereux ce sont les émissions de dingue de CO2 qui transforme cette planète en four.

malak

Ce ne sont pas des experts qui veulent stopper le développement. Les experts savent très bien que les craintes ne sont pas justifiées, que l’IA n’en est qu’au tout début. Les avancées se font par palier, ChatGPT nous en a fais grimper un au niveau du grand public, mais c’est pas pour demain le prochain palier. Faudrait déjà exploiter/améliorer celui-ci correctement et ça on en a déjà pour quelques années. Actuellement, c’est plus du bricolage qu’autre chose pour améliorer les résultats le plus vite possible.

sazearte

et quand demain tout le monde sera au chômage, et donc sans salaire, qui va pouvoir consommer et rendre encore plus riches les gafam ? c’est un peu la mort de leur business la, c’est bien d’avoir des usines 100% robotisé pour fabriquer des voitures mais si y’a personne pour les acheter…

FrancisMcKraken

Et pendant ce temps Meta abandonne son metaverse pour se concentrer pleinement sur le développement de leur IA

Sacrex

Vos commentaires sont effrayants. Vous vous prenez tous pour des experts croyants tout savoir mieux que de réels experts. Ah bah si vous dites qu’il n’y a pas de risque, tout va bien alors !! Et pourtant, de vrais experts, c’est à dire des docteurs en mathématique, informatique, éthiques de l’IA et d’autres, ont réellement peur de ce qu’il se passe. Et je n’ai aucun doute sur le fait qu’ils sont biens au courant de ce qu’il se passe. Avant de dire que tout va bien parce que tonton Microsoft et tata Google le disent, il est important de voir ce que les experts disent. Oui les craintes sont justifiées. Non ils ne disent pas ça par peur d’être doublés.

Goodbye

Je vois pas en quoi il faut être expert pour avoir un avis , la preuve tu donnes le tient aussi… Il serait plus intéressant de savoir se qui te fais peur avec ces IA dans les années qui arrivent ? Tu cites rien, tu balais tout sans arguments, ils vont pas faire d’effort non plus hein.

Salva

C’est Musk qui a co-creer la société openai, donc qu’on le critique sur le développement qu’il veut freiner et qu’il est jaloux, c’est complètement débile.

Popoulo

Idiocraty, on y baigne. Et comme aurait dit Coluche, pas juste jusqu’aux « genouilles ».

philouze

« Un des problèmes est l’éducation des gens. L’esprit critique se perd, on croit tout ce qu’on lit ou voit sans réfléchir. » Attention au mythe de l’âge d’or. Pas sur que nos aïeux archi idéologisés (et c’est démontré comme le pire biais cognitif qui soit) aient été beaucoup mieux équipé pour critiquer . Critiquer le système en place quand on était de gauche éventuellement, et l’inverse pour ceux de droite, mais sur le fond, bof. Et sur la quantité, on avait aussi tout un monde ouvrier + agricole, très largement déscolarisé après 14 ans et qui donc n’avait pas non plus reçu la moindre formation leur permettant de développer une autonomie critique bien poussée…

TNZ

Je serais sacrément surpris de voir des industries américaines développer une conscience et de l’éthique tout à coup … pouf pouf ?!

TNZ

Donc, c’est à cause de nos grand parents déscolarisés à 14 ans qu’on doit toute cette génération idiocratique ?! Le pragmatisme et l’humanisme ne sont pas des valeurs enseignées à l’école mais par la vie … merci de remettre l’église au milieu du village (sans utiliser de voiture électrique).

heauton

Bonjour, interdire un excrément est pourtant la bonne solution. Je n’ai pas écrit meilleure. Jouer au petit coq avec le progrès dix mille générations l’ont fait mais là c’est le serpent qui se mord avec son propre venin devenu toxique. La bêtise est sans limite.

philouze

le pragmatisme et l’humanisme ne sont pas forcément des vecteurs d’esprit critique, ça n’a rien à voir. face à des fake news ou à une bonne vieille propagande d’état, tes grands parents descolarisés auraient réagi exactement comme l’ont fait les allemands ou les paysans soviétiques, khmers ou chinois. c’est à dire plutôt (très) mal. et de façon certaine, guère mieux que notre jeunesse idiocratique. En parlant d’église au milieu du village : quel magnifique symbole d’aliénation commune auxquels là aussi pas mal de nos jeunes échappent aujourd’hui, vecteur de tabous, d’à priori, de patriarcat, de biais de holliganisme de groupe, etc etc. véhiculés par des grenouilles de bénitier souvent bien malintentionnés et crus sans le moindre esprit critique par les même anciens qu’on aurait pourtant envie de définir comme adeptes du « bon sens paysan »

tommythefreak

Je pense qu’on est en plein dans le conflit d’intérêt et c’est clairement hypocrite de sa part. C’est un peu comme si Bolloré signait une tribune pour l’indépendance des médias. Le fait qu’OpenAI, avec le temps n’ait plus d’ « Open » que le nom en dit beaucoup sur la différence entre leur communication et leurs actes. Qu’ils commencent d’abord par appliquer à eux-mêmes les règles qu’ils veulent imposer aux autres. J’aimerais également rappeler que les réponses de ChatGPT sont pour l’instant muselées pour correspondre à certaines opinions politiques plutôt qu’à correspondre à une réalité scientifique. Donc leur souhait d’avoir des IA transparentes et dignes de confiance est complètement utopique, soit elles iront dans le sens de leurs créateurs et de ceux qui les contrôlent, soit elles n’auront aucun garde fou et seront entraînées à ne s’exprimer que sur des faits et notions vérifiables et vérifiées même si cela va à l’encontre des croyances, minorités, lobbies et bienpensants. Quelle est la solution la plus dangereuse selon vous?

max6

Effectivement vous avez raison , j’aimerais bien qu’on me définisse exactement ce qu’est un emploi gratifiant et pour qui

Blackalf

Salva: C’est Musk qui a co-creer la société openai, donc qu’on le critique sur le développement qu’il veut freiner et qu’il est jaloux, c’est complètement débile. Il a quitté la société en 2018.

tfpsly

A noter que cette lettre ouverte a pas mal de problèmes : fausses signatures de personnes ne l’ayant pas signé, motivations et méthodologie incertaines… vice.com The Open Letter to Stop 'Dangerous' AI Race Is a Huge Mess The letter has been signed by Elon Musk, Steve Wozniak, Andrew Yang, and leading AI researchers, but many experts and even signatories disagreed. The letter immediately caused a furor as signatories walked back their positions, some notable signatories turned out to be fake, and many more AI researchers and experts vocally disagreed with the letter’s proposal and approach.

Juju74

Il est sur que si l’on automatise tous les emplois non"gratifiants",les politiques ont du mouron à se faire,puisque politque n’est pas un emploi,et qu’il faudrait donc,créer un Pôle emploi spécial ENA…

arnaques_tutoriels_aide_informatique_tests

Hello, je dirais que pour certains, c’est les 2. Mais oui, il y a danger c’est certain mais parallellement, ceux qui ont créé le bordel disent stop c’est pour garder leur suprématie…ils sont pas betes…c’était prévu.

philumax

Bien sûr, toi tu n’es pas un « aïeux archi idéologisé », toi tu es un dieu…Tu sais tout, même ça.

philouze

Bien sûr, toi tu n’es pas un « aïeux archi idéologisé », toi tu es un dieu…Tu sais tout, ne le prend pas mal, mais c’est un fait sociologique : les populations étaient beaucoup plus polarisées et idéologisées, dès l’enfance, jadis. Tu étais de « famille » militaire, souvent sur plusieurs générations, tu votais à droite républicaine dure et tu étais catho, idem pour la bourgeoisie catho traditionnelle, et ça lisait le Figaro. y’avait un vrai mépris de classe, et il y avait d’ailleurs une classe sociale entière qui a disparu en 14 : les rentiers, avec des gens comme Marcel Proust qui n’ont jamais tenu une poignée de porte de sa vie parce que la bonne lui ouvrait. Valeurs étrangement à peu près partagées par les agriculteurs, sûrement par héritage du servage, respect de la terre, du chef politique et religieux etc. Ou bien tu étais de « famille » ouvrière, totalement gagné par l’idéologie communiste à défaut de l’être (communiste), tu rejoignais CGT ou FO et ça lisait l’Humanité - et tu avais ces deux grands pôles qui séparaient la société comme ça. Et en france tu n’avais à peu près pas de vrai centre libéral, le reste de la société, urbaine, étudiante, fonctionnaire ou bossant dans les services, tout aussi idéologisée, politisée à mort, lisait libé et votait socialiste qui était un peu malgré ses électeurs, socio-libéral. C’était beaucoup plus polarisé et idéologisé qu’aujourd’hui ou la société a explosé en une multitude de groupes qui sont pour beaucoup eux même peu idéologisés (même si certains le sont de manière très radicales) , c’est juste un fait social, insulter le thermomètre ne fait pas baisser la fièvre.

philumax

philouze: « insulter le thermomètre ne fait pas baisser la fièvre. » J’ai déjà essayé, mais, c’est vrai, ça ne marche pas ! « les populations étaient beaucoup plus polarisées et idéologisées, dès l’enfance, jadis. » et toi, bien entendu, tu aurais su quoi faire, à ce moment-là. Elever des enfants, c’est naturel, « on » sait ce qu’il faut faire…C’est l’évidence même. Quand il faut faire des choix, « on » est seul. Apparemment, tu n’en es pas encore là. Je te souhaite que cela t’arrive le plus tard possible. Crois moi, c’est un moment terrible.

Guillaume1972

On peut voir ça comme ça, ou se demander aussi si les États-Unis n’ont pas peur des progrès que pourrait réaliser la Chine…Parce que cette « pause » devrait concerner qui, les pays occidentaux ou tout le monde? Même les pays comme la Corée du Nord, la Biélorussie ou la Russie, l’Inde, etc.?

tfpsly

Surprise (non) ! Musk créé une nouvelle compagnie pour concurrencer OpenAI, DeapMind et co. La vraie raison pourquoi il voulait mettre ses (futurs) concurrents en pause ? Le Monde.fr – 15 Apr 23 Elon Musk crée une nouvelle start-up d’intelligence artificielle L’entreprise, nommée X.AI et basée dans le Nevada, devra rivaliser avec les leaders du marché déjà bien installés, OpenAI et DeepMind.

philouze

philumax: philouze: « insulter le thermomètre ne fait pas baisser la fièvre. » J’ai déjà essayé, mais, c’est vrai, ça ne marche pas ! « les populations étaient beaucoup plus polarisées et idéologisées, dès l’enfance, jadis. » et toi, bien entendu, tu aurais su quoi faire, à ce moment-là. Oh non, sûrement pas, c’est super dur de résister à sa pression sociale, mais encore plus dur (et rare) de penser spontanément « en dehors de la boite ». Ayant été moi même idéologisé/manipulé plus jeune, je sais que je n’ai aucune résistance naturelle exceptionnelle à ça (si c’est ce que ma prose t’a fait croire que je pensais ça de moi : ce n’est pas le cas) Elever des enfants, c’est naturel, « on » sait ce qu’il faut faire…C’est l’évidence même. Quand il faut faire des choix, « on » est seul. Apparemment, tu n’en es pas encore là. Je te souhaite que cela t’arrive le plus tard possible. Crois moi, c’est un moment terrible. J’en élève deux, j’essaye de leur donner l’indépendance de pensée et des méthodes critiques dont je n’ai pas disposé étant jeune. Le fait que j’ai pu en disposer plus tard est aussi un coup du sort. Mais Je ne me trouve pas si seul, on a énormément de ressources à disposition aujourd’hui.

philumax

Bonne chance !

Ducatevo

Mais enfin, sérieux !! Vous pensez ce que vous dites !! Faut ouvrir les yeux… A peine chapGPT sorti, la première chose à laquelle ce truc à servi, c’est de tricher à des examens !!! Des patrons commencent à remplacer des gens sans aucun remords !!! Et les craintes ne sont pas justifiées !!! Sachant qu’on n’en est qu’au tout début. Alors imaginez quand ces IA auront acquis des capacités augmentées. Et s’agissant de programmes informatiques, de codes, se sera de manière exponentielle, donc d’autant plus rapide… Il faut tout simplement arrêter et éradiquer ces IA avant qu’il ne soit trop tard. Exactement comme pour le réchauffement climatique, des scientifiques, des experts nous avaient prévenu de l’ampleur des dégâts. Mais non, les gens comme vous ont fait l’autruche et ont nié les conséquences. Résultats : c’est de pire en pire entre les inondations, les tempêtes, les incendies, les canicules, etc … Mais non, toujours les mêmes a ne penser qu’à leurs petits intérêts personnels et tant pis pour les conséquences… Cette humanité n’est qu’egoisme, nombrilisme, cupidité, avidité… Et on en est là… Alors, faites bien joujou avec votre nouveau jouet… tant que vous le pouvez encore. Ça va pas durer… Et venez pas pleurer quand ces IA vous auront remplacé… Parce que bien sûr, elles pourront faire mieux que vous, sans prendre de vacances, sans se plaindre, 7/7 et 24/24, et sans salaire !!!

Ducatevo

Il suffit de lire certains commentaires pour comprendre comment on en est arrivé là !!! Pourquoi cette humanité est vouée à disparaitre … Déjà avec le réchauffement climatique, des scientifiques et des experts nous avaient prévenu il y a plus de 40 ans. Et qu’ont fait les hommes ? Rien … Tous ces dirigeants, tous ces grands patrons n’en avaient rien à foutre, tout ce qui comptait, c’était le pognon, les profits, encore et toujours plus… Mais aujourd’hui, on voit très concrètement les conséquences : inondations, sécheresses, canicules, ouragans, etc… Que font ces mêmes dirigeants, ces grands patrons ?? Du bla bla mais concrètement, rien !!! C’est exactement la même chose avec ces IA. Des scientifiques, des experts, des développeurs tirent la sonnette d’alarme. A peine sorti, à quoi a servi ces IA ? A tricher à des examens, à reprendre de fausses infos et bien sûr à chercher à gruger pour gagner plus de pognon !!! Et, ça a déjà commencé, à remplacer le boulot d’humains par des IA !!! Et tout ça ne suffit pas !!! L’homme se croit toujours au dessus de tout… Et surtout, ne regarde que le bout de son nez, son petit intérêt personnel. Il a trouvé un nouveau joujou alors tout ce qui compte, c’est qu’il puisse faire mumuse… Et tant pis pour les conséquences. Il se donne bonne conscience en clamant haut et fort que c’est pour la bonne cause, qu’il n’y a aucun danger. « Mais non, on maîtrise » !!! Ben ouais, comme pour le réchauffement climatique !!! Mais tout le monde sait que la connerie humaine aura le dessus. Que toutes ces technos sont utilisées pour le pire… Cette humanité est de pire en pire : égoïsme, cupidité, avidité, orgueil, mauvaise foi… Comme disait Corbin : l’homme est capable du meilleur comme du pire, mais c’est vraiment dans le pire qu’il est le meilleur… Ça se vérifie une fois de plus avec ces IA… A croire que cette humanité est devenue tellement novice pour cette planète, tel un virus, qu’elle mérite son extinction programmée… Et l’homme est devenu tellement stupide qu’il ne voit même pas le gouffre juste devant ses yeux. C’est dire si c’est grave … Allez, à tous ceux qui ont la vue courte et qui défendent ces IA, faites bien mumuse tant que vous le pouvez encore, ça va pas durer… On va bien se marrer après quand elles vous auront remplacées… Ou pas !!! Mais faudra pas venir pleurer, on vous aura prévenu… Ça rappelle quelque chose, non !!!

philouze

« Il faut tout simplement arrêter et éradiquer ces IA avant qu’il ne soit trop tard. » c’est la partie pas possible, ça. les codes sont open sources pour plusieurs d’entre elles, et il est strictement impossible de bloquer une « idée » au niveau planétaire, c’est vouloir arrêter la marée montante avec ses doigts. Tout au plus pourrait on imposer une éthique et des dispositifs de contrôle pour tenter ce qu’on appelle « l’alignement » (le respect d’une certaine forme de morale/éthique bas niveau dans chaque IA exploitée au moins professionnellement). Mais interdire, c’est simplement condamner le pays qui s’y plie à un déclassement technologique

Voir tous les messages sur le forum

Pourquoi les experts et Elon Musk veulent stopper l'expérimentation des IA plus puissantes que GPT-4 ?

Le déploiement de l'IA jugé trop rapide

Évaluer les risques des outils avant de les ouvrir au public

Elon Musk a signé, pas Sam Altman

A découvrir en vidéo

Commentaires (37)

Top app & logiciels

Sur le même sujet