Totdat auto’s beschikken over level 5 autonomie, zullen bestuurders altijd alert achter het stuur moeten zitten om in te grijpen als dat nodig is. Deze Tesla-bestuurder was dat niet en kon dus niet ingrijpen toen Autopilot de fout in ging.
De huidige autonome systemen, hoe handig ze ook zijn, moeten beschouwd worden als hulpsystemen. Je kunt er niet 100% op vertrouwen, zoals blijkt uit onderstaande video. Het Autopilotsysteem in deze Tesla Model S waarschuwde de bestuurder voor een stilstaand voorwerp, maar reageerde vreemd genoeg niet. De Tesla Model S botste hierdoor met ongeveer 70 km/h op een Nissan crossover, die pas op het laatste moment werd opgemerkt door de vrouwelijke passagier in de Tesla. Veel te laat om nog te kunnen reageren.
De beelden werden geplaatst op YouTube met de volgende mededeling: “We weren’t paying attention [at] all. We were too focused on the chaos around us and didn’t even hear our car warning us of the obstacle ahead. As you can see, we rammed right into the parked car going about 45 mph. I haven’t heard words like that come from my wife’s mouth in the 20 some-odd years we’ve been married!”
Video: Tesla’s Autopilot registreert stilstaande auto
