La Commission européenne propose des règles pour encadrer l'intelligence artificielle

22 avril 2021 à 13h15
5
intelligence artificelle © Shutterstock.com
© Shutterstock

Margrethe Vestager, Vice-présidente exécutive pour une Europe adaptée à l'ère du numérique, et Thierry Breton, commissaire chargé du marché intérieur, ont présenté un plan de réglementation de l'IA en Europe.

La Commission européenne a proposé « de nouvelles règles et actions en faveur de l'excellence et de la confiance dans l'intelligence artificielle ». Ces travaux doivent constituer la base d'un premier cadre juridique sur l'IA au sein de l'UE et d'un nouveau plan coordonné avec les États membres sur la question de l'intelligence artificielle.

Certaines IA interdites

La Commission européenne a établi ce règlement par une approche fondée sur les risques. La première catégorie concerne les risques jugés inacceptables. « Les systèmes d'IA considérés comme une menace évidente pour la sécurité, les moyens de subsistance et les droits des personnes seront interdits », apprend-on.

Sont visés les systèmes qui permettent la notation sociale par les États ainsi que les IA qui manipulent le comportement humain pour priver les utilisateurs de leur libre arbitre. Est cité l'exemple d'un jouet ayant recours à l'assistance vocale pour inciter les enfants à effectuer des actions dangereuses.

Sont ensuite définis les risques élevés, dont les produits et services concernés devront respecter des obligations strictes pour espérer pouvoir être mis sur le marché. Parmi ces contraintes à respecter, on retrouve :

  • La qualité élevée des ensembles de données exploités « afin de réduire au minimum les risques et les résultats ayant un effet discriminatoire » ;
  • l'enregistrement des activités « afin de garantir la traçabilité des résultats » ;
  • une documentation détaillée « pour permettre aux autorités d'évaluer sa conformité » ;
  • des systèmes adéquats d'évaluation et d'atténuation des risques ;
  • des informations claires et adéquates à l'intention de l'utilisateur ;
  • un contrôle humain approprié ;
  • un niveau élevé de robustesse, de sécurité et d'exactitude.

Des IA à haut risque surveillées de près

Les systèmes d'IA à haut risque comprennent notamment les outils d'identification biométrique à distance. La Commission européenne a également porté son attention sur les technologies d'IA utilisées dans les infrastructures critiques et qui peuvent être susceptibles de mettre en danger la vie et la santé des citoyens (dans les transports par exemple).

Les technologies d'IA « qui peuvent déterminer l'accès à l'éducation et le parcours professionnel d'une personne », « utilisées dans les composants de sécurité des produits », « utilisées dans le domaine de l'emploi, de la gestion de la main d'œuvre et de l'accès à l'emploi indépendant », « utilisées dans les services privés et publics essentiels », « utilisées dans le domaine du maintien de l'ordre », « utilisées dans le domaine de la gestion de la migration, de l'asile et des contrôles aux frontières » et « utilisées dans les domaines de l'administration de la justice et des processus démocratiques » seront aussi étroitement surveillées.

Le but de ces règles est de créer les conditions propices au développement de l'IA et faire de l'Europe « le pôle mondial d‘une intelligence artificielle digne de confiance ». Le Parlement européen et les États membres vont devoir débattre et adopter les propositions de la Commission avant que le règlement n'entre officiellement en vigueur.

Soyez toujours courtois dans vos commentaires.
Respectez le réglement de la communauté.
5
6
Orel97430
IA, robotique… Bientôt, on se dira qu’il sera temps d’implanter les 3 lois dans le coeur de nos programmes…
_Ludo
S’ils y avaient pensé chez Cyberdyne, Terminator n’aurait pas existé ; franchement dans le doute, mieux vaut l’implémenter ;D
Angelus33075
Internet européen? Inexistant. Géant du numérique européen? Inexistant. Technologie pour des infrastructures de communications européennes indépendante? Zéro. Programme d’IA pour devenir leader mondial dans l’avenir? point mort. Réglementations et bureaucratie tatillonne ? Numéro 1 mondial!!! youpi vive l’Europe…
LouisDeBroglie
« La Commission européenne propose des règles pour encadrer des programmes informatiques ».<br /> …<br /> Seul les « gouvernements » (bref les multinationales) pourront continuer de ficher la population et ils décideront à qui vendre ses informations. Bien évidemment les compagnies pharmaceutiques, en autre, sont très intéressées pas toutes ces données que les ordinateurs « Intelligents » lui donneront. Et tout ça pour le bien-être de la population…<br /> Que c’est merveilleux « l’intelligence » artificielle et tout le monde comprends ce que sait…<br /> Coût de cette « commission » : Un milliard d’euros au minimum.<br /> Non, les « gouvernements » n’ont pas d’argent pour la Santé et de toute manière la population « active » sans contrefout.<br /> Il faut vraiment être des plus intelligents pour parler « d’intelligence artificielle » lorsque l’on sait qu’il est impossible, car trop complexe pour les cerveaux humains, de définir exactement ce que c’est.<br /> Les humains adorent croire, grâce encore une fois à la propagande médiatique – seul source « d’information » pour 99% des gens – que les fameux tests de « quotients intellectuels » (QI) représentent l’intelligence. Or ce test ne mesure que des connaissances et une certaine logique pour des cas bien définis. Les QI ne « mesurent » qu’une partie de la brillance des gens et c’est très limité.<br /> Mais bon, ceux qui dirigent aiment les chiffres, surtout lorsque cela les favorise…<br /> Les humains comprennent maintenant l’intelligence et en voici la preuve :<br /> …<br /> if (currMark === aiMark) {<br /> let bestScore = -Infinity;<br /> for (let i = 0; i &lt; allTestPlayInfos.length; i++) {<br /> if (allTestPlayInfos[i].score &gt; bestScore) {<br /> bestScore = allTestPlayInfos[i].score;<br /> bestTestPlay = i;<br /> }<br /> }<br /> } else {<br /> let bestScore = Infinity;<br /> for (let i = 0; i &lt; allTestPlayInfos.length; i++) {<br /> if (allTestPlayInfos[i].score &lt; bestScore) {<br /> bestScore = allTestPlayInfos[i].score;<br /> bestTestPlay = i;<br /> }<br /> }<br /> …<br /> Impressionnant.<br /> Hum.<br /> 1 + 1 = 2<br /> Merde je viens de découvrir une machine d’intelligence artificielle… Que je suis intelligent…
BBlake
Je suis assez d’accord avec toi dans l’ensemble mais n’empêche que la réglementation est la première étape logique pour intégrer l’IA, il vaut mieux ça que l’inverse.
Angelus33075
En vrai ça se discute. Je ne dis pas que ton point de vue n’est pas valable, ne serait-ce que par la peur que peut engendrer le développement tjrs plus incroyable des IA ( A mettre en parallèle avec les tentatives de maitrise de ce qu’on appelle l’ordinateur quantique, qui à termes pourrait engendrer une explosion des capacités d’IA ) . Mais à titre personnel, il y a deux choses qui me chagrine:<br /> D’abord j’ai tendance à penser que la bureaucratie et les règlementations freine la recherche et bride l’imagination des scientifiques.<br /> Ensuite, je pense ( mais encore une fois ce n’est que mon point de vue personnel ) que l’on met là «&nbsp;la charrue avant les bœufs&nbsp;» . Occupons nous d’abord de se donner les moyens politiques et financier de développer un vrai pôle européen de l’innovation, de donner un terreau fertile où l’intelligence de nos chercheurs ( et ils sont nombreux ) pourra s’épanouir et seulement après, dans un second temps, mettre en place une règlementation pour l’utilisation des innovations que l’on aura produits.<br /> Non parce que c’est bien de vouloir être vertueux, mais les américains et les chinois ne vont pas nous attendre et déjà que nous avons accumulé un retard de fou dans bien des domaines de pointes, ce retard risque de se creuser encore plus avec des conséquences économiques, d’emploi et surtout de dépendance envers des puissances étrangères grave.
Voir tous les messages sur le forum

Lectures liées

ClicBot : construisez et programmez votre robot !
Apple : si le casque AR est annoncé en 2022, n'espérez pas pouvoir l'acheter
Apple : vers un casque de réalité augmentée
La nature ne nous a fait que 5 doigts ? En voila un 6e, robotique, que l'on adopte en un rien de temps
Carrefour Flash, comment fonctionne le premier magasin totalement automatisé de Paris ?
Alphabet (Google) va intégrer des robots à ses équipes pour les tâches d'entretien
Niantic lève 300 millions pour partir à la conquête du metaverse
Hey Disney : un assistant vocal s'invitera dans les hôtels de Disneyland dès l'année prochaine
Rolls-Royce passe les 600 km/h avec un avion électrique, un record
Ces gants haptiques vous permettront de toucher des objets dans le metaverse
Haut de page