0
On ne compte plus les alertes de scientifiques et dirigeants de sociétés high-tech sur l'IA et ses possibles dérives. Une organisation non lucrative va tenter de réfléchir à la question.
Réfléchir sur l'intelligence artificielle sans pression des actionnaires, telle est l'ambition d'OpenAI, une organisation non lucrative américaine venant d'être mise sur pied. L'un des hommes à l'origine de ce projet n'est autre qu'Elon Musk (Tesla, SpaceX), qui fait régulièrement part de ses inquiétudes sur les dangers d'une technologie (l'intelligence artificielle en tête) se développant à tout crin et sans assez de maîtrise.
Concrètement, OpenAI est une équipe de chercheurs et d'ingénieurs, pas plus d'une dizaine, dirigée par un ancien de Google spécialisé dans l'apprentissage automatique, Ilya Sutskever. Ce bureau est forcément basé dans la baie de San Francisco, dans la Silicon Valley. Et il est doté d'une enveloppe de 1 milliard de dollars, apportée par des sociétés comme Amazon Web Services, Infosys ou le co-fondateur de PayPal, Peter Thiel.
OpenAI a pour but de plancher sur une évolution de l'IA qui soit « au bénéfice du plus grand nombre ».
Les chercheurs seront amenés à publier des articles présentant leurs travaux sur l'IA , articles qui seront partagés en ligne. OpenAI espère collaborer - gratuitement - avec le plus d'institutions et sociétés possible.
Jusqu'à présent, cette intelligence artificielle était limitée à la seule sphère du numérique : les PC, puis les smartphones, les tablettes et même les TV. Des sphères dans lesquelles l'IA a un rôle prépondérant car elle est à l'origine de nombreuses décisions. Mais depuis peu, la sphère englobe de plus en plus d'activités, et par pans entiers : dématérialisation de l'administration, villes intelligentes, domotique, voitures autonomes...
Dans l'hypothèse où les logiciels d'IA pilotant ce monde se mettent à défaillir (piratage, ou entreprises à l'origine de ces logiciels omnipotentes), les conséquences pourraient être dévastatrices. Si bien que ce sujet alerte de plus en plus de dirigeants et d'intellectuels, comme le chercheur en informatique américain Jaron Lanier, dans son ouvrage Internet : qui possède le futur ?, où il s'interroge sur cet avenir tout numérique.
« On peut imaginer que cette technologie soit capable de déjouer les marchés financiers, dépasser les scientifiques humains, manipuler les dirigeants et développer des armes qu'on ne puisse pas comprendre », s'inquiétaient les scientifiques. En janvier 2015, Bill Gates se demandait « pourquoi certaines personnes ne s'en préoccupent pas (de l'IA, ndlr) ». S'ensuivra une lettre ouverte signée par plus de 7 000 ingénieurs.
Le comble : au printemps dernier, Bridgewater Associates, un des plus importants fonds d'investissement alternatif au monde, a ouvert un fonds d'investissement dont toutes les décisions sont prises par de l'IA... Face à ce tsunami algorithmique, on ne mesure pas bien quel pourra être le poids d'une organisation telle qu'OpenAI, mais on peut supposer que ses publications pourront compter sur la visibilité d'Elon Musk.
À lire également :
Réfléchir sur l'intelligence artificielle sans pression des actionnaires, telle est l'ambition d'OpenAI, une organisation non lucrative américaine venant d'être mise sur pied. L'un des hommes à l'origine de ce projet n'est autre qu'Elon Musk (Tesla, SpaceX), qui fait régulièrement part de ses inquiétudes sur les dangers d'une technologie (l'intelligence artificielle en tête) se développant à tout crin et sans assez de maîtrise.
Concrètement, OpenAI est une équipe de chercheurs et d'ingénieurs, pas plus d'une dizaine, dirigée par un ancien de Google spécialisé dans l'apprentissage automatique, Ilya Sutskever. Ce bureau est forcément basé dans la baie de San Francisco, dans la Silicon Valley. Et il est doté d'une enveloppe de 1 milliard de dollars, apportée par des sociétés comme Amazon Web Services, Infosys ou le co-fondateur de PayPal, Peter Thiel.
OpenAI a pour but de plancher sur une évolution de l'IA qui soit « au bénéfice du plus grand nombre ».
Les chercheurs seront amenés à publier des articles présentant leurs travaux sur l'IA , articles qui seront partagés en ligne. OpenAI espère collaborer - gratuitement - avec le plus d'institutions et sociétés possible.
L'IA, même pas peur ?
Du point de vue du grand public, la dangerosité de l'intelligence artificielle, vue par Elon Musk comme la possible « plus grande menace » de l'humanité, peut relever du fantasme d'amateur de science-fiction, ou de technologue fou. Pourtant, l'IA s'est déjà immiscée dans la plupart de nos activités humaines, allant du choix des admissions post-bac des étudiants, à la façon dont sont agencés les sites Web, les marchés financiers...Jusqu'à présent, cette intelligence artificielle était limitée à la seule sphère du numérique : les PC, puis les smartphones, les tablettes et même les TV. Des sphères dans lesquelles l'IA a un rôle prépondérant car elle est à l'origine de nombreuses décisions. Mais depuis peu, la sphère englobe de plus en plus d'activités, et par pans entiers : dématérialisation de l'administration, villes intelligentes, domotique, voitures autonomes...
Vers un autre paradigme
Ces écosystèmes entièrement connectés, pour fonctionner, ont besoin de données (c'est leur électricité), mais surtout, que ces données soient analysées. C'est là qu'intervient l'intelligence artificielle. Imaginez maintenant, dans un siècle, qu'une ville entière soit connectée : transports en commun et trafic routier autonomes, logements s'adaptant aux habitudes de leurs occupants, etc. Avec, au centre, les humains.Dans l'hypothèse où les logiciels d'IA pilotant ce monde se mettent à défaillir (piratage, ou entreprises à l'origine de ces logiciels omnipotentes), les conséquences pourraient être dévastatrices. Si bien que ce sujet alerte de plus en plus de dirigeants et d'intellectuels, comme le chercheur en informatique américain Jaron Lanier, dans son ouvrage Internet : qui possède le futur ?, où il s'interroge sur cet avenir tout numérique.
Mieux vaut prévenir
En mai 2014, le physicien Stephen Hawking, le professeur en sciences informatiques Stuart Russel et les professeurs du MIT Max Tegmark et Fran Wilczek, publiaient une tribune dans The Independent dans laquelle ils affirmaient que « développer avec succès l'intelligence artificielle pourrait être le plus grand événement dans l'histoire de l'humanité » mais « malheureusement, ce pourrait aussi être le dernier ».« On peut imaginer que cette technologie soit capable de déjouer les marchés financiers, dépasser les scientifiques humains, manipuler les dirigeants et développer des armes qu'on ne puisse pas comprendre », s'inquiétaient les scientifiques. En janvier 2015, Bill Gates se demandait « pourquoi certaines personnes ne s'en préoccupent pas (de l'IA, ndlr) ». S'ensuivra une lettre ouverte signée par plus de 7 000 ingénieurs.
Des milliards en R&D
De l'autre côté, les industriels poussent fort dans ce sens. IBM a par exemple décidé de consacrer 1 milliard de dollars au développement de son programme Watson, qui commence à trouver des débouchés dans l'aide à la décision des patrons d'entreprise. Et l'IA n'est pas limitée aux acteurs high-tech. Toyota a par exemple prévu d'investir 1 milliard de dollars, lui aussi, dans un centre de R&D dédié à l'IA, en pleine Silicon Valley.Le comble : au printemps dernier, Bridgewater Associates, un des plus importants fonds d'investissement alternatif au monde, a ouvert un fonds d'investissement dont toutes les décisions sont prises par de l'IA... Face à ce tsunami algorithmique, on ne mesure pas bien quel pourra être le poids d'une organisation telle qu'OpenAI, mais on peut supposer que ses publications pourront compter sur la visibilité d'Elon Musk.
À lire également :
