Véhicules semi-autonomes : risques évitables et nature de la faute

Vers 22 heures, le 18 mars 2018, le développement des véhicules autonomes (VA) a été propulsé sous les feux de l’actualité, illustrant peut-être de la manière la plus frappante à ce jour à quel point cette technologie en est encore à ses balbutiements, ainsi que les dangers que présente l’état actuel de la technique : des systèmes qui nécessitent encore l’intervention humaine, mais qui, même involontairement, la découragent. Un véhicule autonome de niveau 3 exploité par Uber, avec un « conducteur de secours » humain au volant, a percuté et tué une piétonne dans une rue de Tempe, en Arizona. La piétonne percutée marchait en poussant son vélo sur un trottoir lorsque le véhicule Uber s’est approché, roulant à environ 38 mph dans une zone limitée à 45 mph, selon les données de l’accident examinées et publiées par le service de police de Tempe. Lorsque la piétonne s’est engagée sur la chaussée (et non, il convient de le noter, sur un passage piéton) dans une tentative apparente de traverser, le véhicule Uber l’a percutée à grande vitesse, sans freiner ni dévier pour tenter d’éviter la collision. Dans une déclaration publiée après le début de l’enquête sur l’incident, la chef de la police de Tempe, Sylvia Moir, a indiqué qu’Uber n’était probablement pas en tort et qu’il aurait été pratiquement impossible d’éviter cette collision. Je pense que la première partie de sa déclaration est vraie, mais en ce qui concerne la seconde, je me permets respectueusement de ne pas être d’accord.

Pour bien comprendre la nature de cet incident, il est important de savoir ce que signifie réellement la conduite autonome de niveau 3. L’Agence nationale américaine de la sécurité routière (NHTSA) a officiellement adopté des lignes directrices visant à classer la conduite autonome en fonction des niveaux d’intervention humaine ; ces lignes directrices ont été établies par la Société des ingénieurs automobiles (SAE) en 2014 afin de clarifier ce qui constitue exactement la conduite autonome sous ses différentes formes. En termes simples, voici les classifications :

• Niveau 0 : aucune fonctionnalité autonome ; une voiture traditionnelle conduite exclusivement par un être humain.
• Niveau 1 : La plupart des fonctions de conduite sont assurées par un conducteur, mais une fonction spécifique (telle que l'accélération et la décélération à l'aide d'un régulateur de vitesse adaptatif) est prise en charge par le véhicule.
• Niveau 2 : Le véhicule prend en charge toutes les tâches fondamentales (accélération, freinage, direction) liées à la conduite dans certaines circonstances, mais une intervention humaine est nécessaire en cas d'erreur de calcul du système ; le conducteur doit surveiller le véhicule et son environnement à tout moment et être prêt à reprendre le contrôle.
• Niveau 3 : Le véhicule prend en charge toutes les tâches fondamentales liées à la conduite et surveille également le véhicule et son environnement afin de réagir à des situations imprévues. L'intervention humaine n'est théoriquement nécessaire qu'en cas de situation d'urgence, lorsque le véhicule ne parvient pas à réagir correctement à son environnement.
• Niveau 4 : Le véhicule prend en charge toutes les tâches de conduite dans des environnements spécifiques (tels que les embouteillages), mais la présence d'un conducteur humain reste obligatoire ; le véhicule doit être capable de se garer de manière autonome et en toute sécurité si le conducteur humain n'est pas en mesure de reprendre le contrôle.
• Niveau 5 : Automatisation totale ne nécessitant aucune intervention humaine ; en toutes circonstances, le véhicule fonctionne de manière autonome et peut se déplacer n'importe où et à tout moment sans occupants humains.

Cette infographie de Vox permet de clarifier un peu les choses :

Comme le montrent clairement ces classifications, les niveaux 2, 3 et 4 reposent tous sur une intervention humaine, inversement proportionnelle au niveau d’automatisation en jeu. Par conséquent, les véhicules autonomes dont la technologie est inférieure au niveau 5 sont généralement qualifiés de « semi-autonomes ». L’automatisation de niveau 1 existe depuis un certain temps déjà ; des systèmes tels que le régulateur de vitesse adaptatif (qui utilise des capteurs pour maintenir une distance définie par rapport aux véhicules qui précèdent, en plus de maintenir une vitesse définie) et le stationnement automatique (dans lequel le véhicule se dirige tandis que le conducteur accélère et freine) sont désormais considérés comme courants. Comme ces systèmes nécessitent un niveau élevé d’implication du conducteur pour fonctionner, ils n’ont eu qu’un impact limité sur le comportement au volant ; par conséquent, ils ont été considérés par les automobilistes comme de simples équipements de luxe. En passant au niveau supérieur, cependant, on constate clairement un impact réel sur la façon dont les gens conçoivent la conduite – et sur la manière dont ils perçoivent la nature de la responsabilité individuelle.

On peut considérer que la première collision très médiatisée impliquant un véhicule autonome de niveau 2 s’est produite en Floride le 7 mai 2016. Le véhicule en question était une Tesla Model S, équipée de la fonctionnalité « Autopilot » de la marque, un système d’autonomie de niveau 2 capable de piloter la voiture dans des circonstances limitées, telles qu’une autoroute dégagée et bien balisée par temps clair. C’étaient précisément les conditions qui régnaient le jour où la Tesla de Joshua Brown a percuté un semi-remorque à la vitesse autoroutière. Le camion était en train de tourner pour traverser la chaussée à ce moment-là, et la Tesla de Brown l’avait averti à plusieurs reprises de reprendre le contrôle du véhicule. Il n’a pas tenu compte de ces avertissements, et sa voiture a fini par percuter le semi-remorque à 74 mph. Il avait réglé le régulateur de vitesse de son véhicule sur cette vitesse moins de deux minutes avant l’accident.

Brown avait activé le système Autopilot ; malgré les avertissements clairs de Tesla (l’entreprise) indiquant que son système « Autopilot », dont le nom était peut-être trompeur, était un système d’aide à la conduite et ne remplaçait pas la vigilance du conducteur, et malgré les alertes claires en temps réel émises par la Tesla de Brown (la voiture) indiquant qu’un contrôle humain du véhicule était nécessaire, sept secondes se sont écoulées entre le moment où le semi-remorque aurait dû être visible pour la première fois et celui où la voiture de Brown a percuté le semi-remorque, selon la NHTSA. Ce furent les sept dernières secondes de la vie de Brown.

Retour à Tempe. Dans la soirée du 21 mars 2018, la police a diffusé les images de la caméra embarquée du véhicule Uber, un SUV Volvo XC90 modifié pour fonctionner avec la technologie de conduite autonome propriétaire d’Uber. Les images montrent Rafaela Vasquez, la « conductrice de secours », baissant les yeux vers ses genoux pendant près de cinq secondes avant la collision qui a coûté la vie à Elaine Herzberg, âgée de 49 ans. Environ 1,4 seconde s'est écoulée entre le moment où Mme Herzberg est apparue dans le champ des caméras installées dans le véhicule Uber et le moment de l'impact.

Les essais instrumentés réalisés sur la Volvo XC90 montrent que celle-ci est capable de s'arrêter en 121 pieds à partir d'une vitesse de 60 mph. La vitesse de 38 mph à laquelle roulait le véhicule Uber au moment où il a percuté Herzberg équivaut à 55,73 pieds par seconde. En l'espace de 1,4 seconde, un véhicule roulant à cette vitesse parcourt un peu plus de 78 pieds. Sans tenir compte du temps de réaction du conducteur, un véhicule standard roulant à 40 mph a besoin de 80 pieds pour s’arrêter complètement. Si Mme Vasquez avait eu le plein contrôle du véhicule Uber et si elle avait remarqué Mme Herzberg et réagi ne serait-ce qu’une demi-seconde avant que celle-ci n’apparaisse dans le champ des caméras embarquées (ce qui n’est pas du tout invraisemblable selon certaines études), Mme Herzberg serait très probablement encore en vie aujourd’hui. Ce calcul ne tient compte que du freinage – Vasquez aurait sans doute pu prendre des mesures d’évitement supplémentaires (en braquant) pour éviter la collision si elle avait eu le plein contrôle du véhicule. Au vu de ces circonstances, je me vois une nouvelle fois contraint de contester la déclaration antérieure du chef de la police de Tempe, Moir, selon laquelle ce décès aurait été pratiquement impossible à éviter.

Dans les derniers instants de la vidéo diffusée par la police de Tempe le 21 mars, on voit Mme Vasquez lever les yeux de ses genoux et regarder à travers le pare-brise du véhicule Uber. Juste avant l'accident qui a coûté la vie à Elaine Herzberg, une expression que l'on ne peut qualifier que d'horreur s'est peinte sur le visage de Mme Vasquez lorsqu'elle a pris conscience de ce qui allait se passer.

À peine cinq jours après l’accident d’Uber à Tempe, le 23 mars, une Tesla Model X a percuté le terre-plein central de l’autoroute 101 en Californie. Le propriétaire du véhicule, Wei Huang, était au volant au moment de l’accident, le système Autopilot étant activé. Selon un article publié sur le blog de Tesla pendant l’enquête sur l’incident, « le conducteur avait reçu plusieurs avertissements visuels et un avertissement sonore lui demandant de reprendre le contrôle du volant plus tôt au cours du trajet, et ses mains n’ont pas été détectées sur le volant pendant six secondes avant la collision. Le conducteur disposait d’environ cinq secondes et d’une vue dégagée de 150 mètres sur la glissière de sécurité en béton… mais les données du véhicule indiquent qu’aucune action n’a été entreprise. » M. Huang a été déclaré décédé dans un hôpital voisin peu après l’accident.

Les véhicules plus avancés que le niveau 1 et moins sophistiqués que l’autonomie totale de niveau 5 posent un dilemme psychologique à leurs occupants. Notre cerveau humain a été conditionné pendant des siècles à rester vigilant en permanence, l’instinct d’éviter le danger étant profondément ancré en nous, comme c’est le cas chez pratiquement toutes les espèces. Pourtant, au volant d’un véhicule équipé d’un système aussi limité que l’Autopilot de Tesla ou aussi performant – du moins en théorie – que la technologie actuelle d’Uber, les accidents mortels, ainsi que de nombreux autres incidents moins graves, montrent que nous attribuons aux systèmes de conduite semi-autonomes un degré de sécurité bien supérieur à ce que la réalité devrait nous dicter. Nous sommes bercés par un faux sentiment de sécurité, ce qui nous amène paradoxalement à relâcher notre vigilance dans des circonstances qui exigent sans doute bien plus de vigilance, et non l’inverse.

Alors qu’Uber a temporairement suspendu les essais de ses véhicules autonomes en Arizona à la suite de la collision de Tempe, ainsi qu’à San Francisco, Toronto et Pittsburgh, la marche du progrès dans le développement de cette technologie ne montre aucun signe de ralentissement, dans un contexte réglementaire qui évolue rapidement en sa faveur. Quelques semaines seulement avant l’accident qui a coûté la vie à Elaine Herzberg, le gouverneur de l’Arizona, Doug Ducey, avait signé un décret autorisant les essais de véhicules autonomes dans l’État sans conducteur humain de secours au volant.

Il serait cynique de supposer que les entreprises développant la technologie des véhicules autonomes exposent délibérément des personnes à des risques évitables dans le seul but d’accumuler des kilomètres d’essais en conditions réelles pour améliorer leurs produits. Et il faut leur reconnaître que, bien avant que les incidents décrits dans cet article ne se produisent, de nombreux constructeurs automobiles avaient publiquement déclaré qu’ils ne commercialiseraient pas de véhicules autonomes tant que l’autonomie totale n’aurait pas été atteinte, dans l’intérêt de la sécurité publique. (Volvo, pour sa part, a déclaré de son plein gré dès 2015 qu’elle assumerait l’entière responsabilité des accidents impliquant ses véhicules autonomes ; il est raisonnable de supposer que les modifications apportées par Uber à ses XC90 contournent la responsabilité du constructeur.) Ces entreprises ne testent pas leurs véhicules sur la voie publique comme l’a fait Uber – et comme celle-ci le fera probablement à nouveau prochainement. Il serait toutefois imprudent de supposer que ces essais ont fait leur dernière victime, sans parler des blessés qui n’ont pas perdu la vie. Si ni les régulateurs ni les entreprises technologiques ne sont disposés à agir dans l’intérêt du public alors que les risques évitables augmentent sur les voies publiques, il existe une mesure alternative – et elle est entre les mains d’organisations particulièrement réticentes à prendre des risques.

Le secteur de l’assurance est en mesure d’atténuer les risques liés aux systèmes de conduite autonome moins sophistiqués que le niveau 5 de la classification SAE. Comme l’a expliqué Jeff Wargin, vice-président chargé de la gestion des produits chez Duck Creek Technologies : « Lorsque les assureurs ont accès à des données non approximatives – des données sur le risque réel, le conducteur réel, ainsi que sur ce qu’il fait réellement et où il se rend réellement lorsqu’il conduit, provenant par exemple de dispositifs télématiques –, ils ont une vision beaucoup plus claire de ce qu’ils assurent et de ce que cela devrait coûter. » Compte tenu des dangers posés par des systèmes qui, ne serait-ce que tacitement ou de manière insidieuse, encouragent la distraction au volant, la démarche responsable de la part des assureurs devrait commencer par une tarification adaptée Assurance automobile commerciale des particuliers et Assurance automobile commerciale , en appliquant des primes plus élevées aux véhicules équipés de technologies autonomes de niveaux 2, 3 et 4. C’est déjà la pratique courante du secteur pour les conducteurs condamnés pour conduite sous l’emprise de l’alcool ou de stupéfiants ; si ces conducteurs parviennent à obtenir une couverture après une condamnation pour conduite en état d’ivresse, ils peuvent s’attendre à ce que leurs primes montent en flèche, et ce à juste titre.

Il s’agit toutefois d’une mesure purement réactive. Les assureurs ne peuvent pas prédire qu’une personne donnée est plus susceptible qu’une autre de conduire sous l’emprise de l’alcool ou de stupéfiants. Avec les véhicules semi-autonomes, en revanche, il ressort clairement d’exemples concrets que la distraction au volant (terme généreusement appliqué aux situations où les conducteurs sont complètement déconnectés de la tâche de conduite proprement dite) présente un niveau de risque réel, potentiellement mortel et tout à fait évitable. Un risque qui peut d’ailleurs être prédit et mesuré avec une grande précision. Certains acteurs du secteur de l’assurance proposent déjà des mesures pour remédier à ce problème ; comme l’a écrit Jack Stewart dans Wired, « L’Association of British Insurers suggère une classification simple, en deux étapes, pour les voitures [autonomes] – assistées ou automatisées – et estime que les régulateurs internationaux devraient se rallier à cette approche. Selon sa proposition, une voiture « automatisée » est capable de rouler de manière autonome dans pratiquement toutes les situations, de s’arrêter en toute sécurité si elle ne peut pas rouler seule, d’éviter tous les accidents imaginables et de continuer à fonctionner même en cas de défaillance d’un élément du système. » Étant donné que la plupart des analystes du secteur automobile prévoient que ces voitures « automatisées » ne deviendront pas une réalité avant au moins une décennie, cette norme permettrait certainement aux assureurs de classer et de gérer plus facilement les risques associés aux véhicules « assistés ».

Le secteur de l’assurance IARD peut tirer parti de cette réalité pour agir en faveur de la sécurité publique. Le simple fait de tarifer les polices d’assurance automobile pour les véhicules semi-autonomes de niveaux 2, 3 et 4 de la même manière que leurs équivalents à conduite manuelle revient à un acte flagrant de sélection adverse. Les véhicules qui recourent à la fois à des solutions d’IA et à une intervention humaine partielle introduisent un nouveau risque qui ne peut être correctement pris en compte à l’aide des modèles traditionnels. En conséquence, le secteur peut adopter une approche à plusieurs volets pour lutter contre les dangers auxquels sont confrontés les conducteurs inattentifs au volant de véhicules semi-autonomes. Premièrement, comme je l’ai mentionné plus haut, il convient de fixer des primes plus élevées pour les véhicules qui ne tiennent pas suffisamment compte du risque lié à un niveau entièrement nouveau de distraction du conducteur ; cela semble tout à fait rationnel au regard du précédent établi par la perception humaine de la responsabilité (ou de l’absence de celle-ci) au volant de tels véhicules. Attribuer automatiquement 100 % de la responsabilité aux conducteurs impliqués dans des accidents survenus lors de trajets en mode semi-autonome ne semble guère déraisonnable non plus. Deuxièmement, exercer une pression directe sur l’industrie automobile et ses régulateurs, en encourageant toutes les parties à adopter le système de classification proposé par l’Association of British Insurers et à ajouter davantage de mécanismes de sécurité, tels qu’un processus tenant compte de la possibilité d’un transfert de contrôle défaillant entre le véhicule et le conducteur, jusqu’à ce que l’autonomie de niveau 5 puisse être mise en œuvre sur la voie publique. Et troisièmement, il convient de lancer de nouveaux produits d’assurance couvrant spécifiquement les sinistres liés à la transition entre la conduite par IA et la conduite humaine. Une telle approche combinée peut jouer un rôle significatif dans la valorisation tant des comportements que des technologies qui luttent contre cette nouvelle forme de risque en pleine expansion.

Un récent rapport de recherche de KPMG qualifie l’état actuel du développement des véhicules autonomes de « phase intermédiaire chaotique » du processus, du point de vue du secteur de l’assurance. Il est temps que ce secteur réagisse à ce chaos par une réponse réfléchie et raisonnable. Il convient de considérer tout véhicule équipé de systèmes de conduite semi-autonomes relevant des niveaux 2, 3 ou 4 comme le Assureur risque qu’il est manifestement ; « dormir au volant » au sens figuré est tout aussi dangereux que de s’endormir littéralement au volant, et chacun doit comprendre que la conduite d’un véhicule à moteur, quel qu’il soit, relève de sa propre responsabilité, qui est très grave.

Si l'on doit tirer quelque chose de positif des accidents qui ont coûté la vie à Elaine Herzberg, Wei Huang et Joshua Brown, c'est au secteur des assurances qu'il revient d'y veiller. C'est tout simplement la bonne chose à faire.