De simples images projetées peuvent induire en erreur les pilotes auto Tesla (et d’autres)

Bastien Contreras

04 février 2020 à 17h52

Des chercheurs sont parvenus à tromper plusieurs systèmes d'aide à la conduite, en projetant des images 2D sur la trajectoire des véhicules ou au bord de la route. Ils ont ainsi pu pousser les voitures à freiner ou à changer de direction, un comportement qui pourrait mettre en danger leurs conducteurs ou les autres usagers.

Une récente étude universitaire a mis en exergue un nouveau défaut de sécurité sur les systèmes d'aide à la conduite de plusieurs véhicules. En l'occurrence, les scientifiques ont testé deux technologies : l'Autopilot de la Tesla Model X HW 2.5 et Mobileye 630 PRO, employé notamment chez Renault, Honda ou Mazda.

Suivre les mauvaises lignes ou de faux panneaux

Le principe de leurs expériences était plutôt simple : projeter des images en 2D sur la route, ou au bord de celle-ci, et observer la réaction automatique des voitures. Et les résultats obtenus ne sont pas vraiment rassurants.

Autopilot Tesla confond une image avec un piéton

L'Autopilot de Tesla confond une image avec un piéton © Nassi et al.

Ainsi, les deux systèmes ont été incapables de différencier une projection d'un individu ou d'un véhicule d'un véritable obstacle. Ils ont à chaque fois décidé de ralentir ou de freiner. Plus dangereux encore, les chercheurs ont projeté des lignes factices sur la route, qui ont alors été confondues avec le vrai marquage au sol, entraînant un changement de trajectoire dont les conséquences pourraient être dramatiques.

Autopilot Tesla suit des lignes projetées

L'Autopilot de Tesla suit des lignes projetées au sol © Nassi et al.

Et la manœuvre fonctionnait également sur le bord de la route. Les systèmes d'aide à la conduite ont en effet été trompés par des images de panneaux de signalisation, adaptant alors leur vitesse à ces fausses indications. Un stratagème qui s'est révélé efficace dans le cas d'une projection sur un mur ou sur un arbre, mais aussi en intégrant le panneau factice au sein d'une publicité vidéo diffusée sur le mobilier urbain.

Image de panneau de limitation de vitesse trompant Mobileye 630 PRO © Nassi et al.

De potentielles attaques invisibles ?

D'après les auteurs de l'étude, ces failles sont d'autant plus inquiétantes qu'elles nécessitent peu de moyens pour être exploitées. Il suffit d'un projecteur vendu dans le commerce, porté à la main ou installé sur un drone, pour détourner la trajectoire d'un véhicule.

De plus, de telles attaques pourraient survenir, tout en étant invisibles à l'œil nu. Car les scientifiques indiquent qu'une exposition de quelques centaines de millisecondes seulement aux fausses images pourrait suffire à leurrer l'Autopilot ou Mobileye 630 PRO.

Les constructeurs auraient été prévenus de ces dysfonctionnements, mais n'auraient pas encore apporté de solution. Charge à eux désormais de résoudre le problème, peut-être en s'inspirant des technologies de reconnaissance faciale, capables de distinguer un visage humain d'une photo.

Source : ZDNet

Bastien Contreras

Lire d'autres articles

Ingénieur télécom reconverti en rédacteur web. J'écris sur les high tech, les jeux vidéo, l'innovation... J'ai d'ailleurs été responsable d'accélérateur de startups ! Mais je vous réserve aussi d'autres surprises, que vous pourrez découvrir à travers mes articles... Et je suis là aussi si vous voulez parler actu sportive, notamment foot. Pour ceux qui ne connaissent pas, c'est comme du FIFA, mais ça fait plus mal aux jambes.

Lire d'autres articles

Commentaires (66)

BetaGamma

Je pense que les hackers vont bien se marrer sur les routes !

rexxie

De simples images peuvent tromper les humains de la même manière. La vraie question est combien de gens font exprès de saboter la conduite des véhicules?

Jehlem

Les règlements de compte ne se feront plus à la kala

Fulmlmetal

Y a pas besoin de faire de fausses images pour trompeur l’autopilot de la Tesla, elle y arrive toute seule dans la nature. Y a qu’à voir les vidéos (meme récentes) sur les nombreuses erreurs de l’autopilot ça fait peur. La reconnaissance des panneaux de vitesse ne semble pas fonctionner (en tout cas en europe), les lignes au sol sont parfois mal percues et elle se rattrape parfois sur la voie voisins (ce qui peut engendrer des faces à face), il semble que les motards ne soient pas bien perçus, etc. Bref oui l’autopilot peut etre bernés si on cherche à le faire, c’est normal puisqu’il est basé sur du visuel, mais ce qui est inquiétant c’est qu’il arrive à etre berné tout seul sans qu’on cherche à le faire.

zoup01

De toute façon, l’autopilote sans système de pilotage intégré dans la chaussée et sans communication entre les véhicules, cela ne fonctionnera jamais correctement … Pas trop envie d’etre dépendant de bug logiciel… Encore un autre problème qui remonte sans bruit, c’est la détection des motos par ces soi disant véhicules autonomes… À interdire, tout simplement.

TotO

ET bien, que l’on verbalise les plaisantins… (Ha, on m’indique que se sont de faux policiers sur le bord de la route)

olahaye74

Souvent l’interface siège volant as plus de bugs que l’autopilot…En tout cas, ça va tendre à le devenir.

zoup01

Je suis tout à fait conscient de ça, mais les systèmes développés actuellement sont complètement anti sécuritaire… Aucune communication entre véhicules, ce qui signifie aucune redondance si un système bug… Aucun système de guidage autre que visuel avec traitement logiciel. Chaque constructeur fait sa cuisine dans son coin, sans aucune compatibilités entre véhicules. Je roule en moto, j’ai vraiment pas envie d’etre mal détecté par le véhicule suiveur, et ça, sans communication entre véhicules, on ne peut pas le garantir techniquement. quand tous les constructeurs se réuniront autour d’une table pour mettre en place un système universel avec un équipement technique des infrastructures routières, j’adhérerais au truc…pas avant.

Fydryss

La voiture automatisée ne fonctionnera jamais sauf si elle évolue sur des voies entièrement dédiées. La neige, l’aquaplanning, gestion de l’absence de marquage. Une simu toute simple. 1 route avec ligne continue à gauche, trottoir à droite, passage pour piéton devant avec une personne qui traverse, la voiture n’a pas la distance de freinage nécessaire. La voiture automatisée n’a pas le droit de traverser une ligne blanche ni de monter sur le trottoir. Freinage mais percute quand même le piéton. L’humain peut faire un évitement en passant à gauche même si c’est interdit.

rexxie

La reconnaissance des panneaux de vitesse a été brevetée par MobilEye il y a des années, donc Tesla ne peut l’utiliser. Une aberration selon moi, ils ont profité de la nouveauté de la technologie FSD pour faire breveter une évidence, comme le bouton de droite de la souris disons… Au lieu de te concentrer sur les quelques erreurs de l’autopilot, parle nous plutôt des milliards de km conduits sans erreur et des rapides progrès du deep learning de Tesla.

BRABUS900

La voiture autonome telle qu’on l’imagine n’existera jamais. Il est strictement impossible pour un ordinateur de prévoir l’imprévisible. Au mieux, l’intelligence artificielle pourrait donner d’excellents résultats sur des événements prévisibles et très encadrés. Exemple : rester sur sa bande de circulation si le conducteur devait somnoler à un moment donné. L’IA permettrait d’éviter un accident là où l’humain n’aurait eu aucune chance. Pour le reste, et ce n’est que mon avis, il est illusoire de vouloir prétendre à la faisabilité de la voiture autonome telle qu’elle est imaginée dans l’inconscient collectif à l’heure actuelle.

manu0086

Le deep learning de Tesla est une fumisterie… au mieux il atteindra 95% de bons résultats… 5% d’erreur, ça te satisfait toi? lol Musk s’est complètement planté en pensant que le visuel suffirait à une voiture autonome. Ta Tesla ne sera JAMAIS autonome, tu seras sans doute mort avant de voir une voiture réellement autonome sur les routes d’ailleurs (comme beaucoup de nous). Et dire que Musk prévoyait déjà cela pour 2017… zut, il va avoir quelques décennies de retard.

Fydryss

Le terme de voiture autonome ne veut rien dire les américains parlent d’automated vehicle. Être autonome veut dire, pouvoir s’affranchir des règles, ce que fera jamais une voiture sauf si elle bug.

Caka

Si dans une situation d’urgence où tu n’aurais pas eu ,d’après toi, la distance nécessaire pour freiner tu arrives à avoir le temps d’analyser la situation te dire je vais faire un évitement sur le trottoir et j’ai le temps par contre de vérifier entre-temps que je vais pas écraser quelqu’un d’autre. C’est que tu es vraiment un champion.

Fydryss

Je n’ai pas dit de monter sur le trottoir mais faire un évitement par la gauche, franchir la ligne continue. Avant de poster il faut lire correctement. Ou alors tu conduis en Grande-Bretagne.

redosk

manu0086: Musk s’est complètement planté en pensant que le visuel suffirait à une voiture autonome. Ça suffit à nous avec 2 yeux, pourquoi 8 caméras et un radar accompagnés d’une IA efficace n’y arriveraient pas ? manu0086: Le deep learning de Tesla est une fumisterie… au mieux il atteindra 95% de bons résultats… 5% d’erreur, ça te satisfait toi? D’où sors-tu ces pourcentages et prédictions ? Sais-tu au moins comment fonctionne cet apprentissage ? Je ne dis pas qu’en l’état actuel ça sait tout gérer mais il n’y a pas de raison pour que ça n’y parvienne pas. Les soucis signalés par Green et ses amis sont résolvables si l’IA sait reconnaître ces situations. Fydryss: La neige, l’aquaplanning, gestion de l’absence de marquage. Tu peux déjà trouver plein de vidéos qui contredisent tes premiers et 3ème points. Fydryss: La voiture automatisée n’a pas le droit de traverser une ligne blanche ni de monter sur le trottoir. Qu’en sais-tu qu’il n’y a pas cette solution de mitigation qui sera jugée acceptable en fonction des conditions ? Le bouledecristalisme n’est pas une preuve.

manu0086

redosk: Ça suffit à nous avec 2 yeux, pourquoi 8 caméras et un radar accompagnés d’une IA efficace n’y arriveraient pas ? Car tout simplement l’IA n’égalera jamais le cerveau humain… lis donc l’interview de Luc Julia dans les articles précédents.

Rodger29

Quoi qu’il en soir l’autopilote de Tesla à 10 ans d’avance…leurre ou pas…

rexxie

J’ai lu l’article de Julia, et je me fie plus aux réalisations concrétes de Musk qu’à son verre à moitié-vide.

manu0086

LOL C’est vrai que Musk est un spécialiste de l’IA… c’est d’ailleurs pour cela qu’il vire constamment ses ingénieurs incompétents et qu’il travaille à leur place ^^

yoda_net

« L’humain peut faire un évitement en passant à gauche même si c’est interdit » +1000000000 Après, si dans le disclaimer tu as coché l’option ‹ tuer le conducteur plutôt que le piéton ›, elle peut aussi choisir le poteau ou l’arbre ;O) les limites de l’ " intelligence" artificielle qui n’a rien d’intelligent et ne se base que sur des algorithmes et ne peut décider d’enfreindre une règle même si c’est la solution la moins dangereuse pour tous Ça me rappelle le débat ou l’on me soutenait qu’un bon conducteur doit ABSOLUMENT respecter le code de la route … (ne pas franchir la ligne blanche et écraser le piéton?)

rexxie

Mais oui l’IA pourra tenir compte des exceptions. On dirait que plusieurs ici ne pigent pas grand chose au deep learning… Aujourd’hui Tesla annonce que l’Autopilot commence à tenir en compte les nids de poule et s’en fera une mini-carte collective. La progression de fait sans relâche pour le dernier %, et contrairement à nous avec notre pauvre cervelle biologique, l’intelligence artificielle en réseau n’oublie jamais rien, et l’attention de l’Autopilot ne failli jamais, à 360° visuellement(8 caméras), au radar devant et aux 12 sonars tout autour.

paulposition

Mode troll On: Rexxie, tu devrais écrire un livre sur Musk, tu sembles le connaître tellement mieux que beaucoup de monde; Ca en devient de l’idolatrerie -au sens littéraire du mot- Mode troll Off

yoda_net

@Mickael « dans une situation d’urgence où tu n’aurais pas eu la distance nécessaire pour freiner tu arrives à avoir le temps d’analyser la situation te dire je vais faire un évitement c’est que tu es vraiment un champion. » Ou que tu sais conduire et que tu n’es pas juste titulaire du permis et autorisé à le faire. Conduire, ce n’est pas juste déplacer un véhicule, c’est anticiper, s’adapter, réagir, … Dans les stages sécurité, ils t’expliquent à avoir en permanence un état de ce qui t’entoure à l’esprit. Savoir ce qu’il y a devant (forcement) mais aussi sur les côtés, derrière, identifier les zones de danger (piéton qui surgit entre deux véhicules pour attraper son bus, gamin qui peut descendre du trottoir en chahutant avec ses copains). Un mec il y a une dizaine d’années a tenté de se suicider sous ma voiture. En sachant qu’il n’y avait personne en face ni derrière quand j’avais vérifié une dizaine de secondes avant, et qu’aucun véhicule / moto ne pouvait être arrivé à ma hauteur en ce laps de temps, la meilleure solution après la tentative de freinage qui ne serait de toute évidence pas suffisante était de passer sur la voie de gauche pour éviter le choc.

TotO

Ce que l’on conçoit comme « intelligence », ou plutôt une réponse intelligente, c’est une décision prise en fonction de paramètres qui va satisfaire l’interlocuteur (personne, groupe, majorité, …) et le conforter dans ce qu’il pense lui même. Une machine en est tout à fait cabable, car après tout une personne peut aussi se tromper si son cheminement intellectuel n’est pas adapté.

Palou

paulposition: Mode troll On: Rexxie, tu devrais écrire un livre sur Musk, tu sembles le connaître tellement mieux que beaucoup de monde; Ca en devient de l’idolatrerie -au sens littéraire du mot- Mode troll Off Je crois même qu’il va en faire un film bientôt, « the Musk life » …

rexxie

Mode anti-troll On: Ou peut-être simplement quelqu’un de bien documenté dans 2 langues, à la semi-retraite, à mobilité réduite, qui s’intéresse aux voitures électriques depuis plus d’une décennie presque quotidiennement et qui suit de près l’évolution de cette compagnie qui en fait plus que les autres et de son flamboyant PDG? Alors oui, tu as raison, j’en connais plus que bien du monde. Mon intérêt vient de mon amour immodéré de la Nature que le brûlage des hydrocarbures est en train de détruire. Note: Se faire attaquer régulièrement par les modérateurs de ce site n’est pas un gage d’objectivité. Et puis oui, je suis fan de Musk, comme je l’aurais été d’Edison, de Tesla(Nikolas), de Goddard, de Ford ou de Da Vinci. Si son image n’était pas régulièrement pourrie par les désinformateurs et agences de propagande de ses nombreux ennemis corporatifs, on le reconnaîtrait pour ce qu’il est, un génie multi-disciplinaire articulé comme il s’en trouve qu’un par siècle!

rexxie

Quand on suit ça de près, il est très facile de connaître Musk et le fonctionnement de ses compagnies car il a effectivement de nombreux fans qui documentent et analysent de long en large tout ce qui nous sort de Twitter, Youtube, Facebook etc. des communiqués officiels, des journalistes et analystes de tout acabit, des ingénieurs et spécialistes qui décortiquent tout ce que fait Tesla et SpaceX. Mais je m’intéresses aussi aux autres marques, aux technologies, à l’Histoire de la voiture électrique, aux confrontations politico-militaire et aux cartels du pétrole, aux carburants alternatifs, aux énergies renouvelables, au climat etc. J’ai de nombreux bouquins sur ces sujets, supplémentés de vidéos documentaires et bien sûr d’internet. Voilà, est-ce que je passe l’examen?

Fulmlmetal

les milliards de km sans erreurs c’est du blabla. Primo Je te rapelle qu’il y a eu des morts sous l’autopilot Secondo ces km cumulés ne tiennent pas combien des accidents évité par le conducteur qui passe son temps à rattraper les dérives Tertio la majorité des cas d’utilisation de l’autopilot se fait sur autoroute ou en embouteillage, là où l’autopilot arrive en général a faire correctement le boulot, le suivi de voie et maintien de distance est une techno maitrisée meme par tous les autres constructeurs

Fulmlmetal

prétendre que le pilote est responsable et que l’AP est en beta est une subtile façon de se dédouaner lors de probleme. En gros c’est une facon de dire que le pilote est le seul responsable. Quand au deep learning c’est amusant de voir sur YT que malgré les mois et années qui passent les dangers de cet AP sont toujours aussi nombreux. Après, y a pas plus aveugle que celui qui ne veut pas voir et tu es bien connu pour ne pas accepter le moindre défauts et critique de la Tesla, heureusement d’autres conducteurs plus objectifs ont l’honneteté de reconnaitre les nombreux défauts, notamment sur l’AP.

paulposition

rexxie: Note: Se faire attaquer régulièrement par les modérateurs de ce site n’est pas un gage d’objectivité. Ce n’est pas t’attaquer que de faire un simple constat sur ton « fanatisme » pour Musk, que d’ailleurs tu reconnais toi même , mais ce serait faire preuve a ton tour d’objectivité que de reconnaître que certaines réponses des contributeurs aux fils de discutions concernant Musk ne sont pas, comme tu le sous entend souvent de simples attaques contre un Genie, ou comme parfois de ne pas nier la réalité des arguments que les contributeurs t’opposent.; Je précise que je participe a ce petit débat en tant que contributeur, et non pas en tant que super-modo; (J’aurais d’ailleurs du le signaler avant )

rexxie

Fulmlmetal: En gros c’est une facon de dire que le pilote est le seul responsable. Ce n’est pas une façon de dire, c’est exactement ça, et tous en sont avertis à chaque utilisation et doivent consentir. Donc le blablaïste c’est toi. paulposition: je participe a ce petit débat en tant que contributeur C’est quand même rigolo qu’il y ait 4 modos qui soient contre et pas un seul pour. Les attaques sont contre l’image publique de Musk et la réputation de ses compagnies par de nombreuses fakes news. Ce sont des cartels géants qui ont amplement les moyens de manipuler l’opinion publique autant dans des articles, avec de fausses études et des scientifiques achetés, que de faux commentateurs sur presque tous les espaces où on parle pétrole, de voitures électriques, d’écologie, d’énergies douces etc. Ici en France, je trouve que les fakes news nucléaires sont particulièrement agressives. Mais ne vous en faites pas, nous sommes tout aussi bien désinformés de mon côté de la grande mare.

rexxie

Je suis un admirateur de Musk, pas un fanatique au sens péjoratif. Comme j’ai dit, je suis fanatique de la Nature, de l’air pur, de l’eau potable, des marmottes et des ptits oiseaux. Et il se trouve qu’il y a une personne dans ce monde qui fait plus que tous les autres que je connaisse pour nous sauver de notre propre suicide collectif par les hydrocarbures. Voilà. Tu peux continuer de me traiter de fanatique, mais tu sais que ce n’est pas vrai.

Fulmlmetal

je ne vois pas en quoi fanatique serait une insulte ou péjoratif, on emploie souvent le terme de fans pour les fanatiques d’un ou une chanteur(euse). Fan c’est un diminutif de fanatique, et ça s’applique lorsqu’il y aune vénération d’une idole, ce qui est clairement ton cas et tu le reconnais. Oui tu es un fanatique de Musk, y a rien de péjoratif à dire cela mais j’irai meme jusqu’à dire un radical fan car tu attaques systématiquement tous ceux qui émettent le moindre reproche sur Musk ou ses sociétés, tu refuses tout éléments de contradiction ou tout élément démontrant certains défauts des Tesla, pour toi c’est zéro défaut et tu renies meme les critiques de ceux qui ont des tesla. tu es à un stade de radicalisation qui ressemble aux membres de sectes à genoux devant leur gourou et qui tire sur tout ce qui ose critiquer leur gourou. C’est ca qui est pénible avoir toi, tu ne tolères que les avis positif sur Musk et ses activité et ne supporte pas la moindre critique. Pourtant c’est un espace commentaire où chacun est libre de donner son avis mais toi tu en décides autrement et c’est pénible. L’espace commentaire n’est pas le tien et il n’a pas vocation à ne devoir penser que comme toi. Accepte un peu les critiques et reproche dans un débat

paulposition

Je ne suis ni contre, ni pour Musk Je fait un constat sur ta propension a le monter au Pinacle, sans jamais vouloir reconnaître que, comme tout Humain, il peut faite lui aussi des erreurs, et que certains contributeurs du forum ont le droit d’avoir des avis différents du tien; Leurs arguments peuvent etre tout aussi valables que les tiens; C’est le propre du débat. rexxie: Tu peux continuer de me traiter de fanatique, mais tu sais que ce n’est pas vrai. Je ne t’ai pas traité de fanatique,(j’ai mis le mot entre guillemets) je n’ai fait que reprendre ta propre écriture. Moi, j’ai dit que tu idolâtrais Musk, au sens littéraire du mot et ta réponse rexxie: Et il se trouve qu’il y a une personne dans ce monde qui fait plus que tous les autres que je connaisse pour nous sauver de notre propre suicide collectif par les hydrocarbures. me prouve que je n’ai pas tout a fait tord (Je quitte le fil, afin de vous laisser tous continuer a débattre sur le sujet initial )

Palou

rexxie: C’est quand même rigolo qu’il y ait 4 modos qui soient contre et pas un seul pour. Ah bon ? à ma connaissance aucun des modos ou supermodos n’a exprimé son opinion personnelle concernant Musk ou Tesla. Et à part ça, Musk ne fabrique pas des Tesla pour faire plaisir à la nature (cui cui les p’tits zoziaux) mais pour son business, pour faire du pognon et se faire un nom. Sur ce, je te laisse à tes délires teslesques …

Fulmlmetal

rexxie: C’est quand même rigolo qu’il y ait 4 modos qui soient contre et pas un seul pour. Tu plaisantes ou quoi ? juju51 est également très pro Musk

Fydryss

Le problème de l’IA, qui n’existe pas (cf le livre de Luc Julia) ne fonctionnera pas pour les voitures, deep learning ou pas. Le copier- collé d’autres expériences ne tient pas car chaque situation est unique. Les milliards de km sur autoroute c’est pas difficile à réaliser surtout quand on est aux USA à rouler au milieu des 3 voies, ce qui est normalement interdit en France, on se rabat sur la voie de droite après avoir doublé. Un article est sortie récemment au Canada démontrant que les voitures automatisées n’arrivait pas avancer correctement sur la neige, oui en Californie c’est plus simple. Les caméras dans le brouillard j’attends de voir . Dernierement un accident avec une Tesla après un aquaplanning. Un petit évitement faites par une personne et sa passe mais des caméras si elle commence à éviter toutes les flaques… Si vous commencez à autoriser les transgression de règle du code de la route à une IA rien ne peut certifier qu’à un moment ça va pas buguer suite à une information erronée. Sans compter en Europe si tu voyages un peu en voiture va falloir qu’elle connaisse le code de chaque pays j’oubliai les priorité à droite en France, les rond-point … Si tu vas en Angleterre qu’elle passe de droite à gauche… Tout ça est bien compliqué pour au final un gain, bah non pas de gain juste peut-être de la fatigue en moins et surtout être malade, car quand tu ne conduis pas, tu n’anticipes pas les mouvements de la voiture. D’ailleurs quand je vois les vidéos des Tesla qui essayent de rejoindre leur propriétaire je rigole. C’est compliqué pour elle de sortir d’un parking. Les voiture autonome de Tesla c’est comme l’Hyperloop, une arnaque.

paulposition

@Fydryss: Je crois que tu t’es trompé pour le destinataire de ton post de reponse

srochain

Quand un Airbus A380 se pose sur la route face à une Tesla qui arrive en sens inverse il parait que cela gêne aussi le pilote de la Tesla

srochain

Il n’y a pas plus de communication avec les pilotes humains des autres véhicules…. et il y a des conducteurs plus bigleux que les caméras… Si le pilote humain était si parfait, il n’aurait jamais été question de le remplacer par un automatisme. Et il y a moins de barrières de passage à niveau qui ne se baissent pas au passage d’un train que lorsqu’il y avait un garde barrière quelquefois trop bourré pour sortir tourner la manivelle.

Fydryss

Oui désolé j’ai appuyé sur le mauvais bouton

Fydryss

Pour les voitures, c’est surtout faire une flotte de taxis automatisés. Il l’a d’ailleurs dit. Dès que la conduite automatisée est au point il ne vendra plus de voitures aux particuliers.

Kahn-San

alors qu’ils mettraient leurs 2 grosses fortunes ensemble on y serait déjà sur mars (je plaisante et j’exagère bien sur :D)

yoda_net

rexxie: La progression de fait sans relâche pour le dernier %, et contrairement à nous avec notre pauvre cervelle biologique, l’intelligence artificielle en réseau n’oublie jamais rien, et l’attention de l’Autopilot ne failli jamais, à 360° visuellement(8 caméras), au radar devant et aux 12 sonars tout autour. Tu expliqueras ça aux familles des gens tués par des autopilot cf la SDF et son vélo, la voiture Uber avait bien repéré la cycliste mais elle a mal interprété la situation. Elle l’a analysée comme un faux positif, comme par exemple un sac plastique qui virevolte et c’est pour cela qu’elle n’a pas freiné, ou la remorque du semi là encore bien vu par le système Tesla mais pris pour un possible reflet de soleil … Les derniers % ne pourront pas de si tôt être éradiqués. Trop de faux positifs entrainent un véhicule inutilisable, qui s’arrête toutes les 5 minutes, donc ils sont filtrés. Quand je prend une décision au volant, je dois en assumer les éventuelles conséquences. Qui est responsable des % d’erreurs considérés comme admissibles sur les autopilot?

yoda_net

MisterGTO: Qui te dit qu’un véhicule autonome ne pourra pas prendre la même décision Automatiser une ligne de métro, c’est relativement simple : pas d’intersection, de changement de file pour doubler, pas de piétons, pas d’animaux (des rats surement, mais pas d’IA pour les éviter), toutes les situations sont envisagées et rentrent dans les cases. Automatiser une voiture, c’est une autre histoire. Les situations à risques ne sont jamais strictement identiques à une autre, d’où une « interprétation » de cette situation qui ressemble à xx% à celle que l’autopilot a dans sa base et la réaction correspondante mais il n’y a pas de décision réfléchie. L’autopilot est supérieur à un conducteur qui panique face au danger (ferme les yeux, lâche le volant, …) ou inexpérimenté (non, le permis ne suffit pas à savoir conduire), mais il lui manque l’essentiel : l’intelligence, la vraie (la réflexion, le libre arbitre, …) Je n’ai tué personne, les autopilot, si (cf ma réponse à rexxie)

rexxie

Tu as tronqué ce que j’ai dit et lui a donné un sens complètement différent.

rexxie

rexxie: le contrat et l’écran d’avertissement à chaque utilisation spécifie clairement que le conducteur doit rester vigilant et est à 100% responsable de la voiture, et que l’autopilot est toujours en phase beta. T’avais peut-être pas lu yoda_net ?

rexxie

yoda_net: un conducteur qui panique face au danger (ferme les yeux, lâche le volant Tu regardes trop de films.

Fydryss

Concernant les entreprises de Musk. Tesla est toujours loin d’être rentable, mais survie grâce à la com de son pdg. SpaceX n’est viable grâce à la NASA qui la subventionne. Entre nous, quand je vois la qualité de fabrication des Tesla au prix où elles sont vendue, ça ne me donne pas envie.

Nmut

Le véhicule aura les mêmes règles que toi: une priorité dans les interdictions, il aura l’avantage d’étudier plus de situations que ton réflexe d’évitement (calcul de trajectoires possibles et probables du piéton, analyse des véhicules approchants), voir même il pourrait y avoir une communication de la manœuvre aux autres véhicules pour leur « déléguer » une partie du boulot en laissant la trajectoire d’évitement libre. C’est cet ensemble de choses qui feront que les véhicules autonomes seront beaucoup plus surs que les conducteurs. Mais effectivement cela reste de la théorie pour le moment! Et pour les circonstances exceptionnelles de la route comme l’aquaplaning ou la neige, c’est plus un problème de guidage (le route n’est plus visible) qu’un problème de conduite. Contrairement à un conducteur humain, la voiture connait exactement ses capacités en fonction du terrain et peut adapter bien plus rapidement sa conduite. Les informations a disposition du calculateur sont bien plus nombreuses et plus précises que celle à la disposition d’un conducteur (vitesse de chaque roue et accélérations sur chaque axe, consignes de puissance + freinage + direction et compression des suspensions, … donnent un reflet exacte de l’adhérence). Un exemple tout con: sur la neige, le réflexe courant est de sauter sur les freins dès que l’on sent que le train avant se dérobe et le problème est amplifié, alors que juste un lâcher d’accélérateur ou un très léger freinage permet de reprendre rapidement de l’adhérence (sur une traction, une propulsion est encore plus délicate à gérer)…

Nmut

Pourtant il n’a pas tort! Même un excellent pilote sera dépendant de ses hormones, le stress intense ne fait pas toujours prendre la bonne décision. Au moins l’ordi continu a analyser la situation de la même façon, même si il sait que de toute façon c’est foutu, il tentera de minimiser les dégats.

Nmut

L’IA existe! C’est la notion d’intelligence qui n’est pas la même pour tous. Dans la définition de l’IA telle qu’on l’utilise en informatique, c’est un système qui simule une réflexion. Même une calculatrice pourrait être qualifiée d’IA en poussant le bouchon un peu loin! Et je pense que tu confonds les algorithmes et le deep learning. Le deep learning n’est pas juste des actions à reproduire dès que l’on tombe dans le même cas de figure, c’est dégager un comportement suivant une série d’information en amont. La difficulté c’est d’avoir des jeux de données de départ qui ont du sens, ce qui est très complexe et très long dans le cas de la conduite. On peut dire que Tesla n’entraine pas bien son IA car il n’y a que les routes de certaines villes plutôt au sud des States qui sont utilisées, d’ou par exemple un comportement inadapté sur la neige. La réaction du système n’est pas prévisible car on ne peut prouver que l’apprentissage est complet autrement que par des statistiques (le processus est complètement boite noire). En général au final, on retrouve un comportement très humain assez troublant avec des biais qui sont très proches des biais cognitifs humains classiques puisque les jeux de données ont été sélectionnés par des humains. Pour reprendre l’exemple de la neige, un conducteur inexpérimenté risque de se retrouver planté au premier démarrage en côte avec le réflexe d’accélérer plus fort si la voiture n’avance pas, tout comme l’IA (à part peut-être que l’IA aura un retour de l’ABS comme quoi seules les roues motrices tournent donc il y a un problème inconnu et risque de se mettre en erreur…).

zoup01

un métro , c’est facile, c’est vrai… un train en environnement ouvert, c’est déjà beaucoup plus compliqué (je ne parle pas de simplement le faire avancer, mais réagir à toute autre situation). et une voiture complétement autonome sans équipement de la chaussée, dans un environnement de voitures non autonomes, eh bien , revenez dans 20 ou 30 ans.

dmdo72

OK les voiture autonomes ne sont pas infaillibles. Il y a 3500 morts et environ 60 000 blessés en 2019 donc faut croire que l’humain n’est pas infaillible non plus.

yoda_net

malheureusement non, c’est du vécu et la personne avait le permis (raté avant une fois ou deux de mémoire, mais elle avait fini par l’obtenir)

Fydryss

Je suis désolé pour toi mais la voiture ne sait pas rouler sur la neige. 01net Les véhicules autonomes ne sont pas aptes à conduire sous la neige Faire rouler une voiture autonome en Californie c’est bien, mais la faire rouler de manière sécurisée sur une route canadienne en plein hiver semble être une autre paire de manches. Valeo devait faire un test de son système sur la place de l’étoile pendant une journée normale en septembre 2017, les résultats n’ont pas été communiqué. La voiture automatisée ne peut être viable que si elle est entourée d’autre voiture automatisé. A partir du moment où vous faites cohabiter 2 systèmes, cela ne peut pas marcher. Je pense qu’il faut que le monde arrête de fantasmer sur cette IA suprême. Je prédit un nouvel hiver de l’IA dans 10 années à venir. Les milliards dépensés n’apporteront pas du tout les gains souhaités. Certain métier seront certes en tandem avec un humain mais pour le reste on en est loin.

Nmut

Heu, j’ai justement dit que ça ne marchait pas pour la neige par manque d’entrainement et difficultés non réglées… Pour le moment, sur simulation ça passe plutôt bien, on arrive même à être aussi rapide qu’un vrai pilote alors que ce n’est toujours pas le cas en bonnes conditions. Reste a transposer IRL et ce n’est pas évident. Pour l’IA, je vais en utiliser (optimisation de volumes et de trajectoires, production de données manquantes, simulation de systèmes complexes avec effet réseau important) et ça marche très bien pour des « algos non programmables » que l’on a: la force brute n’est pas envisageable (plusieurs semaines de calculs alors que l’on a besoin de quasi temps réel sur ordis bureautiques), les algos génétiques aident mais on est souvent loin de l’optimum et les temps de calcul restent trop longs (plusieurs heures), les « systèmes experts » d’il y a quelques années sont complètement dépassés (en fait ce ne sont que des stats associés à une base de donnée et c’est bien trop rigide et impuissant face à de nouvelles entrées). Les résultats sont très satisfaisants!

yoda_net

Nmut: Même un excellent pilote sera dépendant de ses hormones, le stress intense ne fait pas toujours prendre la bonne décision. c’est vrai Nmut: Au moins l’ordi continu a analyser la situation de la même façon, même si il sait que de toute façon c’est foutu, il tentera de minimiser les dégats. Et le problème est bien là. l’ordinateur a des algorithmes et des schémas de réponses, mais ne pense pas. Il y a eu des tests dans une revue auto sur les freinages automatiques. Certaines freinent trop tôt ou sans raison, d’autres freinent trop tard et ne peuvent empêcher la collision alors qu’un simple changement de voie permettait d’éviter l’accident. Autre exemple sur Clubic même, dans le test de la Golf : « À deux reprises sur de petites routes de montagne, le système d’urgence s’est mis en route sans aucune raison apparente en stoppant net le véhicule. Les erreurs d’interprétation des systèmes semi-autonomes comme celle-ci vont sans doute diminuer au fil des évolutions technologiques, mais elles demeurent pour le moment encore assez fréquentes que cela soit sur la Golf ou d’autres modèles concurrents » https://www.clubic.com/voitures-hybrides/article-880737-1-golf-etsi-150-style-vaut-8e-generation-voiture-vendue-europe.html Il suffit de contacter une hotline lambda et tomber sur un opérateur sans connaissances techniques qui va juste cocher des cases pour vous indiquer LA solution, même si elle n’a rien a voir avec le problème. J’ai en mémoire l’échange avec un FAI qui me demandait de faire un « démarrer exécuter cmd » (qui n’existait pas sur MON système d’exploitation) puis ping 192.168.1.1 (inexistant, ip modifiée dans mon organisation réseau) pour un problème d’absence de tonalité sur une ligne VOIP avec internet fonctionnel et modem déjà redémarré. En suivant ce chemin, la réponse ne pouvait être qu’à côté de la plaque ! La voiture autonome suit ses schémas pré-établis doit respecter les règles de circulation (et heureusement sinon qui sait quelle option hasardeuse pourrait venir de ses calculateurs), mais en faisant ça, elle ferme la porte à certaines fins heureuses. Je ne confierai pas ma vie à un autopilot, trop artificiel et pas assez intelligent à ce jour

yoda_net

désolé, citation complétée. Mais ça ne change pas la partie sur laquelle je répondais, à savoir que même si ils voient tout, ils peuvent mal interpréter et surtout mal réagir . . .

Nmut

On est relativement d’accord, le vrai problème est là: yoda_net: trop artificiel et pas assez intelligent à ce jour Mais je suis plus optimiste que toi! Peut-être que mon métier (ingénieur en info, architecture et big data) me montre trop régulièrement la supériorité de la machine sur l’homme… Quand je vois des spécialistes passer plusieurs semaines sur des problèmes pour trouver des solutions pas terribles et que je leur résous en quelques secondes… Pour la mauvaise interprétation ou la mauvaise réaction, c’est toujours à cause d’un entrainement défaillant (diversité, nombre de cas, cas hors normes trop prépondérants, mauvaise réponse donnée car les « pilotes » font aussi des conneries…), ou éventuellement plus grave (mais facilement remédiable de manière hardware) un manque de données. Il faut toujours assoir l’analyse des problèmes par comparaison avec la référence (ici un conducteur humain). On sait que cela ne sera jamais totalement fiable, ne serait-ce que parce que le système n’est pas « prouvable » (définition informatique) ni validable à 100% mais il faut comparer aux performances humaine de manière statistique. Le fait qu’il y ait eu un mort ou que x millions de km ont effectués sans incidents n’ont aucun sens en soit, par contre que l’accidentologie des systèmes automatique se rapproche de celle des humain prouve que l’on avance. Le « seul » problème c’est qu’il faut des accidents pour avoir des données fiables et comparables, les incidents corrigés par un conducteur n’ont pas de signification suffisante :-/.

rexxie

N’oublie pas que le radar voit à travers neige pluie poussière et fumée. C’est comme pour nous les humains, l’IA apprend à reconnaître les intempéries et s’ajuste lentement. Elle n’en est qu’aux balbutiements mais le radar et les milliards de km accumulés dans toutes circonstances donne encore l’avantage à Tesla. La simulation c’est nul, ça n’est que ça, une simulation qui n’aura JAMAIS tous les paramètres fins de la vraie vie. Il y a déjà des millions de km tirés de situations de tempêtes dans les pays nordiques . Encore une fois, même si l’IA est encore un enfant qui apprend, il n’oublie jamais rien!

rexxie

Nmut: les incidents corrigés par un conducteur n’ont pas de signification suffisante :-/ Ils en ont une précieuse pour l’apprentissage de l’IA lorsque ces évènements sont réintroduits dans les boucles d’apprentissage.

Nmut

Bien sur, je voulais dire que la correction n’arrive pas forcément au bon moment et avec la meilleure solution, il faudrait un déroulement complet et une analyse pour proposer au système une bonne solution (pas forcément la meilleure). C’est pour ça qu’ils ont besoin de millions de km de tests, pour avoir un maximum de cas et aussi beaucoup de réactions différentes (lissage des actions préventives et correctives).

rexxie

Si tu t’y connais comme tu décris, je te suggères de regarder attentivement la demi-heure vidéo extraite du « autonomy day » que j’ai mis plus haut. Tu y découvriras l’approche de Tesla en apprentissage profond, basée sur quels principes et où ils en étaient déjà rendus l’an dernier. La voiture autonome ultime n’a pas absolument besoin d’être connectée aux autres et conduira essentiellemnt avec sa vision, comme nous (mais en mieux), parce que les infrastructures et signalisations routières sont toutes visuelles. C’est certain que supplémenter la vue par des radars, sonars et autres lasers va améliorer encore plus la fiabilité. J’en frissonne déjà à m’imaginer passager d’une voiture sans volant qui fonce dans la neige ou le brouillard parce elle, elle voit!

Nmut

Je suis loin de m’y connaitre! Mais je m’y intéresse personnellement et aussi professionnellement comme le sujet assez proche de ma « spécialité » du moment (trafic aérien). Je discute beaucoup avec des collègues (Akka) ou ex-collègues (Continental et Valéo) qui sont à fond sur le sujet.

Voir tous les messages sur le forum

De simples images projetées peuvent induire en erreur les pilotes auto Tesla (et d’autres)

Suivre les mauvaises lignes ou de faux panneaux

De potentielles attaques invisibles ?

A découvrir en vidéo

Commentaires (66)

Top app & logiciels

Sur le même sujet