De simples images projetées peuvent induire en erreur les pilotes auto Tesla (et d’autres)

04 février 2020 à 17h33
0
Tesla Autopilot

Des chercheurs sont parvenus à tromper plusieurs systèmes d'aide à la conduite, en projetant des images 2D sur la trajectoire des véhicules ou au bord de la route. Ils ont ainsi pu pousser les voitures à freiner ou à changer de direction, un comportement qui pourrait mettre en danger leurs conducteurs ou les autres usagers.

Une récente étude universitaire a mis en exergue un nouveau défaut de sécurité sur les systèmes d'aide à la conduite de plusieurs véhicules. En l'occurrence, les scientifiques ont testé deux technologies : l'Autopilot de la Tesla Model X HW 2.5 et Mobileye 630 PRO, employé notamment chez Renault, Honda ou Mazda.

Suivre les mauvaises lignes ou de faux panneaux

Le principe de leurs expériences était plutôt simple : projeter des images en 2D sur la route, ou au bord de celle-ci, et observer la réaction automatique des voitures. Et les résultats obtenus ne sont pas vraiment rassurants.

Autopilot Tesla confond une image avec un piéton
L'Autopilot de Tesla confond une image avec un piéton © Nassi et al.

Ainsi, les deux systèmes ont été incapables de différencier une projection d'un individu ou d'un véhicule d'un véritable obstacle. Ils ont à chaque fois décidé de ralentir ou de freiner. Plus dangereux encore, les chercheurs ont projeté des lignes factices sur la route, qui ont alors été confondues avec le vrai marquage au sol, entraînant un changement de trajectoire dont les conséquences pourraient être dramatiques.


Autopilot Tesla suit des lignes projetées
L'Autopilot de Tesla suit des lignes projetées au sol © Nassi et al.

Et la manœuvre fonctionnait également sur le bord de la route. Les systèmes d'aide à la conduite ont en effet été trompés par des images de panneaux de signalisation, adaptant alors leur vitesse à ces fausses indications. Un stratagème qui s'est révélé efficace dans le cas d'une projection sur un mur ou sur un arbre, mais aussi en intégrant le panneau factice au sein d'une publicité vidéo diffusée sur le mobilier urbain.

Image de panneau de limitation de vitesse trompant Mobileye 630 PRO
Image de panneau de limitation de vitesse trompant Mobileye 630 PRO © Nassi et al.

De potentielles attaques invisibles ?

D'après les auteurs de l'étude, ces failles sont d'autant plus inquiétantes qu'elles nécessitent peu de moyens pour être exploitées. Il suffit d'un projecteur vendu dans le commerce, porté à la main ou installé sur un drone, pour détourner la trajectoire d'un véhicule.

De plus, de telles attaques pourraient survenir, tout en étant invisibles à l'œil nu. Car les scientifiques indiquent qu'une exposition de quelques centaines de millisecondes seulement aux fausses images pourrait suffire à leurrer l'Autopilot ou Mobileye 630 PRO.


Les constructeurs auraient été prévenus de ces dysfonctionnements, mais n'auraient pas encore apporté de solution. Charge à eux désormais de résoudre le problème, peut-être en s'inspirant des technologies de reconnaissance faciale, capables de distinguer un visage humain d'une photo.

Source : ZDNet
Modifié le 04/02/2020 à 17h52
66
24
Partager l'article :
Voir tous les messages sur le forum

Les actualités récentes les plus commentées

Voiture électrique : combien coûte la recharge à domicile ? (MàJ Juillet 2020)
L’ONU tire le signal d’alarme sur la production massive de batteries de voitures électriques
Emmanuel Macron débarque sur... TikTok, pour féliciter les lauréats du bac 2020
En réponse à des accusations de harcèlement des têtes tombent chez Ubisoft
Tesla : le niveau 5 d'autonomie des véhicules, le plus élevé, serait bientôt atteint, d'après Elon Musk
L'administration Trump va bientôt se passer des entreprises qui utilisent des appareils Huawei
Démarchage téléphonique : le parlement donne son feu vert contre les appels abusifs... ce qu'il faut retenir
L'Union européenne mise sur le développement d'un hydrogène propre
YouTube : préparez-vous à voir davantage de publicités
Le réalisateur de God of War en faveur d'une hausse du prix des jeux sur PS5 et Xbox Series X
scroll top