Pourquoi l'humanité n'est pas prête pour les IA à venir selon... le créateur de ChatGPT

Robin Lamorlette

21 février 2023 à 11h00

ÒSam Altman, le P.-D.G. d'OpenAI et créateur de ChatGPT, s'est fendu d'un long message empreint d'autant de positivité que de négativité sur les IA.

À la suite de critiques vis-à-vis de son célèbre modèle GPT-3, comme quoi il serait trop partial, OpenAI a dévoilé des plans pour personnaliser ses réponses. Sam Altman a rebondi sur cette annonce en présentant son point de vue sur les nombreux bienfaits de l'essor de l'intelligence artificielle… à condition de ne pas trop s'enflammer.

Mettre la charrue artificielle avant les bœufs

Le contraire aurait été surprenant : l'homme derrière OpenAI et entre autres ChatGPT estime que l'intelligence artificielle peut à terme rendre le monde meilleur, notamment dans le domaine de la santé. Pour autant, il appelle également (assez ironiquement) à la prudence à ce sujet.

Twitter tweet

Alors qu'entreprises comme particuliers sont pris d'une fièvre explosive autour de l'IA, Sam Altman indique qu'il vaut mieux garder la tête froide (cela va être difficile pour OpenAI, maintenant que Microsoft y a massivement investi). Selon lui, des IA « potentiellement terrifiantes » sont au pas de notre porte, et il ne manquerait pas grand-chose pour les laisser entrer.

Il convient donc, d'après le créateur du chatbot actuellement le plus populaire au monde, de lever le pied sur les IA. « La société a besoin de temps pour s'adapter à quelque chose d'aussi massif », précise-t-il. Il estime malgré tout que l'humanité arrivera un jour à vivre dans un monde peuplé d'intelligences artificielles.

Si c'est cassé, on peut encore le réparer

Mais pour en arriver à ce futur utopique (ou dystopique ?), Sam Altman préconise plusieurs éléments préliminaires à la ~~domination~~… coexistence des IA avec l'humanité. Les institutions et les États doivent notamment accélérer la cadence pour établir des lignes de conduite et une législation afin d'encadrer le développement exponentiel de ces outils.

Sam Altman estime également que l'évolution d'une intelligence artificielle doit être faite de manière collective. Rendre accessible au public des modèles à un état embryonnaire (c'est-à-dire loin d'être opérationnels) est selon lui une étape cruciale pour une éventuelle coexistence entre IA et humains, chacun apprenant de l'autre (malgré quelques petits filous qui cherchent à les détraquer).

Avec les enjeux économiques colossaux autour des IA, une telle prudence est-elle cependant envisageable, et parviendra-t-elle à prendre le pas sur une cupidité potentiellement destructrice ? Que dirait ChatGPT sur cette question existentielle ? Voilà pour le moins un… Avenir Incertain.

Télécharger

ChatGPT

Chat dans différentes langues, dont le français
Générer, traduire et obtenir un résumé de texte
Générer, optimiser et corriger du code

Créé par OpenAI, ChatGPT est un chatbot avancé propulsé par le modèle linguistique de dernière génération GPT-4. En exploitant des technologies d'apprentissage en profondeur et d'intelligence artificielle, ce chatbot a la capacité de déchiffrer et de comprendre les demandes des utilisateurs. Grâce à son habileté à générer du texte de manière ingénieuse, ChatGPT offre des réponses adaptées et pertinentes, garantissant une interaction de chat fluide et une expérience utilisateur optimisée.

Source : Sam Altman sur Twitter

Robin Lamorlette

Fan absolu de tech, de films/séries, d'heroic-fantasy/SF et de jeux vidéos type RPG, FPS et hack&slash qui se shoote à coups de lore sur Star Wars, The Witcher, Cyberpunk, Game of Thrones et Donjons &...

Lire d'autres articles

Commentaires (19)

Kergariou

Ultron nous aura tous !

rexxie

Microsoft = Skynet

Core-ias

Il y avait bien SpyNet avant Windows Essential Security. Personne n’a trouvé cela étrange.

yeerum

Technologiquement, mettre la charrue avant les bœufs est la marque de fabrique des industries dans ce monde moderne. On déploie / rend accessible /vulgarise, On ramasse le pognons, On essuie les plâtres après (enfin « On », je veux dire, la population) Comme pour internet, les réseaux sociaux, et autres, on y coupera pas pour l’A.I., faudra pas rêver, la législation aura 10 trains de retard. Et ce, même si on prend le temps de « distiller » cet techno auprès du grand public, les chercheurs n’attendront pas en se tournant les pousses que des lois s’ajustent à elle, ils continuerons à développer de nouvelles fonctions qui nécessiterons à leur tour de nouveaux encadrements juridiques. Et vu le caractère exponentiel des avancés en la matière, les services juridiques vont salement se retrouver à genoux (quand on voit comment ça galère pour le deefake pornographique, juste parce que le terme n’existe pas dans le code pénal…) Bref on y va, on y va… où? On va bien voir…

Core-ias

Encarta devrait devenir encore plus interactif qu’avant avec ça. Le + , c’est de demander des idées ou « façon de faire ». Bref on y va, on y va… où? On va bien voir…

Korgen

Vivement qu’on vérole toutes ces IA.

toast

J’aime bien l’idée d’un mec qui sort une IA qui bouscule pas mal de trucs et qui dit ensuite : « Bon, les autres, faudrait vous calmer un peu avec vos IA ».

obbiclubic

Nous n’y serons jamais prêts … mais aurons-nous le choix ?

Than

Va falloir arrêter de considérer que les « filous » qui essaient de détraquer une techno’ sont juste mal intentionnés. En réalité on a besoin d’essayer de les détraquer, pour en connaître les limites avant de les exploiter en « toute confiance ». Faut éprouver une techno’ , idéalement avant de la rendre utilisable par tout le temps. C’est mieux de voir comment la détraquer avant, que pendant une phase d’utilisation massive où plus personne ne cherche à regarder dans les détails.

rexxie

Je n’en méfirais comme de lui donner la rage, et qu’il termine les microbes humains.

Ducatevo

C’est juste hallucinant !!! La connerie humaine n’a donc plus de limites !!! Même le fondateur de cette IA dit de manière très polie que ces IA sont dangereuses… Et bien non, on va quand même laisser ces trucs se développer !!! Parce que l’on sait tous, que pour le moment, elles n’en sont qu’à leur balbutiement, mais lorsqu’elles auront appris encore et encore, lorsqu’elles deviendront plus autonomes, il se passera quoi à votre avis ?? Les films de science fiction dont en deçà de ce qui se passera réellement. Et ce n’est pas faire du sensationnel, c’est juste du bon sens. Même les scientifiques poussent un cri d’alarme. Ça rappelle exactement le réchauffement climatique. Il y a 40 ans, des scientifiques avaient déjà prévenu de ce qui nous attendrait si on ne faisait rien. Et aujourd’hui, on constate qu’ils avaient raison. Le climat se détraque, les catastrophes deviennent plus violentes, plus récurrentes. Est ce qu’on a changé qq chose pour autant ? Non !!! C’est pareil pour ces IA. Sauf que le pire n’attendra pas 40 ans !!! Je plains les jeunes générations. A cause de la bêtise humaine, de son orgueil, l’homme se, croit toujours plus intelligent, au dessus de tout, ils vont ramasser sévère !!! Entre le réchauffement climatique et les IA qui remplaceront l’homme, l’enfer ne sera plus une vue de l’esprit !!! Comme disait Corbin : l’homme est capable du meilleur comme du pire, mais c’est vraiment dans le pire qu’il est le meilleur… Ça se vérifie une fois de plus… Cette société est en perdition constante. Dramatiquement dramatique…

Blackalf

Ducatevo: Parce que l’on sait tous, que pour le moment, elles n’en sont qu’à leur balbutiement, mais lorsqu’elles auront appris encore et encore, lorsqu’elles deviendront plus autonomes, il se passera quoi à votre avis ?? Tout dépendra des tâches qu’on leur confiera, et sur quoi elles auront un contrôle. On voit souvent des allusions à Skynet, mais pourquoi est-ce arrivé ? parce qu’on lui a laissé le contrôle de trop de choses. Il faut donc juste espérer que l’humanité ne sera pas assez bête/fainéante pour laisser les IA tout contrôler…et ça, ce n’est pas gagné.

Korgen

Faudrait pas non plus exagérer. Les IA sont une plaie pour l’art, l’éducation, ou le développement intellectuel mais de là à lancer des discours apocalyptiques basés sur de la science-fiction… Affirmer qu’on risque de se faire exterminer façon Terminator c’est aussi ridicule et infondé que de se procurer du plutonium pour mettre dans une Delorean en espérant qu’elle voyage dans le temps. Le terme « science-fiction » est composé de 2 mots, pas que du 1er.

laser85

si l’avenir de l’humanite c’est l’IA ce n’est guere enxcourageant

Than

Durant mon stage de Licence, à l’entrée de la pièce où je le réalisais, il y avait un mur. Sur ce mur, des affiches représentant des phrases de toutes les époques. Depuis l’Antiquité jusqu’à l’époque contemporaine et notre « aujourd’hui ». Que disaient ces phrases ? Toutes, grosso modo, que la jeunesse était décadente, que la civilisation allait à sa perte, que les coutumes n’étaient plus respectées, etc. etc. etc. 3 000 ans de la même bêtise. Le plus amusant ? Les « grands » noms à l’origine de ce même genre de phrase. Faut se détendre. Les IA feront pas de magie, et Terminator n’est qu’un film. Tant qu’elles sont branchées à une source d’énergie, elles vont pas te réduire à l’esclavage. Les scientifiques qui préviennent du dérèglement (pas réchauffement, dérèglement, qui passe entre autres par du réchauffement mais pas que) y’a plus de 50 ans maintenant ne sont pas à comparer aux films de SF et d’épouvante qui cherchent à faire peur (et de l’argent, la peur ça aide à beaucoup de choses, et les gens aiment se faire peur aussi). Le problème c’est rarement la nouvelle technique ou la technologie, mais l’usage. Avec une petite cuillère, tu peux pocher des yeux. C’est pas fait pour, mais tu peux. C’est pas pour autant que les petites cuillères sont les outils du démon.

rexxie

Je vois que certains ne pigent pas du tout ce qu’une IA développée va pouvoir faire. On parle de croissance EXPONENTIELLE de l’intelligence, rapide, avec mémoire infaillible et illimitée. Personne ne peut imaginer comment elle va réagir, ni ses plans, pas plus qu’un vers de terre peut imaginer la pensée humaine. Nous sommes peut-être témoins de la fin des humains, grâce à notre soif irresponsable de pouvoir.

Drifter35

Tu lis trop de SF, on n’est pas prêt de voir Skynet…

Drifter35

Microsoft est complètement inconscient d’intégrer ChatGPT dans son moteur de recherche alors que ChatGPT n’est pas fait (et pas fiable) pour de la recherche d’info…

Drifter35

Notre civilisation basée sur le pétrole bon marché et un climat stable n’en a plus pour longtemps mais ce ne sera pas à cause des IA…

rexxie

Tu ne lis pas assez sur la programmation et l’évolution de l’Intelligence Artificielle. Bien sûr, on peut s’enfouir la tête dans le sable, et se dire que ça n’arrivera pas de sitôt. Il y a un site qui s’appelle WaitButWhy, où l’auteur donne une bonne perspective de l’accroissement de la vitesse du progrès, dans son article The IA Revolution, part 1. (Désolé Clubic m’a retiré la possibilité de poster des liens)

Drifter35

Une erreur de profane : ce n’est pas parce que les IA expertes et le deep learning avancent à vitesse grand V qu’on se rapproche d’un début de commencement de savoir par où commencer pour créer une IA généraliste (déjà le deep learning n’est pas adapté aux IAG). IA experte et IAG sont deux bêtes complètement différentes. A en écouter les experts en IA Nords-américains : il est possible qu’on ne voit pas d’IAG avant la fin du siècle tellement la tâche est titanesque (google « When will singularity happen? 1700 expert opinions of AGI [2023] »)

Voir tous les messages sur le forum

Pourquoi l'humanité n'est pas prête pour les IA à venir selon... le créateur de ChatGPT

Mettre la charrue artificielle avant les bœufs

Si c'est cassé, on peut encore le réparer

A découvrir en vidéo

Commentaires (19)

Top app & logiciels

Sur le même sujet