En 2018, un véhicule autonome testé par Uber a percuté et tué une personne de 49 ans qui guidait son vélo dans une zone sombre. Nous apprenons maintenant par l’enquête de la NTSB, que le véhicule a bien reconnu « l’obstacle », mais qu’il a jugé inutile de l’éviter.
En effet, d’après le rapport, la sensibilité des capteurs serait mise en cause. De façon à éviter des freinages intempestifs, une certaine tolérance est donnée aux assistances. Néanmoins, ces dernières sont sensées récupérer leur sensibilité d’origine à l’approche d’un passage pour piéton ou d’un autre obstacle lié à la circulation.
Le problème est que la victime n’a pas traversé la route via un passage pour piétons, et que cette éventualité n’a pas été intégrée dans le système informatique de la Volvo XC90. De plus, le rapport évoque une forte distraction de la « conductrice », qui n’avait pas à se focaliser sur sa conduite en raison d’un pilotage 100% automatisé.
Entre temps, les ingénieurs Uber confirment avoir retravaillé le logiciel pour qu’il soit capable de mieux réagir dans des situations plus délicates….