Ein schlafender Tesla-Fahrer zeigt den größten Fehler des Autopiloten


Mit dem Fortschritt der Technologie so muss policing. Letzte Woche, als ein paar Beamte der California Highway Patrol einen Mann entdeckten, der offenbar auf dem Fahrersitz eines Tesla Model S schlief und auf dem Highway 101 in Palo Alto um 70 mph auf dem Highway 101 fuhr, bewegten sie sich um 3:30 Uhr hinter dem Auto und schalteten ihre Sirene ein und Lichter. Wenn der Fahrer nicht antwortete, gingen die Bullen über ihr Standard-Spielbuch hinaus. Da der Tesla den Autopiloten verwenden wollte, forderte er eine Sicherung, um den Verkehr hinter sich zu verlangsamen, zog dann vor dem Auto an und bremste ab. Und so verlangsamte sich auch die Tesla, bis sie in ihrer Gasse angehalten wurde.

"Das schnelle Denken unserer Offiziere brachte das Fahrzeug zum Stehen", sagt der Informationsbeauftragte der CHP, Art Montiel. Die Beamten verhafteten den Fahrer, der in einem Polizeibericht als 45-jähriger Alexander Joseph Samek aus Los Altos identifiziert worden war, weil er unter Alkoholeinfluss gefahren hatte.

Weder die Polizei noch Tesla haben bestätigt, ob der Autopilot des Modells zu diesem Zeitpunkt aktiviert war. Es ist jedoch wahrscheinlich, dass dies der Fall war, da das Fahrzeug auf seiner Spur blieb und auf Fahrzeuge in der Umgebung reagierte, obwohl der Fahrer nicht aufgewacht war, bis die Bullen an sein Fenster geklopft hatten.

Tesla sagt seinen Kunden, die die zusätzlichen 5.000 USD für Autopilot zahlen, klar, dass sie immer für die Fahrt des Autos verantwortlich sind und dass sie zu jeder Zeit wachsam sein müssen. Betrunkenes Fahren ist illegal. Und die Art-Self-Driving-Technologie des Fahrzeugs könnte einen Absturz verhindert haben. Wenn der Autopilot einem schlummernden und angeblich betrunkenen Fahrer erlaubte, die Autobahn hinunterzufahren, stellt sich eine weitere Frage: Ist das Auto-Unternehmen von Elon Musk genug, um den Missbrauch seiner Technologie durch den Menschen zu verhindern?

Es ist eine langjährige, aber immer noch relevante Kritik. Im vergangenen Jahr hatte eine Untersuchung des National Transportation Safety Board zu dem Tod eines Mannes aus Ohio im Jahr 2016 geführt, dessen Tesla bei einem Autopiloten einen Sattelschlepper getroffen hatte, und kam zu dem Schluss, dass Tesla die Schuld daran trug. Als der entgegenkommende Lastwagen den Weg des Tesla überquerte, wurde die Limousine bis zum Aufprall nicht langsamer. "Die kombinierten Auswirkungen menschlicher Fehler und das Fehlen ausreichender Systemkontrollen führten zu einer tödlichen Kollision, die nicht hätte passieren dürfen", sagte der Vorsitzende des NTSB, Robert Sumwalt.

Seitdem hat Tesla eingeschränkt, wie lange ein Fahrer fahren kann, ohne das Lenkrad zu berühren, bevor ein Warnton ausgegeben wird. Wenn sie nicht antworten, weist das System das Auto schließlich an, anzuhalten und auf die Warnblinkanlage zu treffen. Das macht diesen Vorfall etwas verwirrend, wie Musk in einem Tweet feststellte:

Die Sensoren im Lenkrad, die die menschliche Berührung registrieren, sind jedoch leicht zu betrügen, wie YouTube-Videos zeigen. Eine gut gekeilte Orange- oder Wasserflasche kann den Trick erfüllen. Plakate in Online-Foren geben an, dass sie Gewichte an ihren Rädern befestigt haben und mit Ziplock-Taschen und „Mini-Gewichten“ experimentiert haben. Für eine Weile könnten Autofahrer sogar ein Autopilot-Buddy- „Nag-Reduktionsgerät“ kaufen, bis die Behörden dem Unternehmen einen Waffenstillstand senden – diesen Sommer einen Brief schreiben.

All dies macht das Design ähnlicher Systeme, die von Cadillac und Audi angeboten werden, eher geeignet, um die Aufmerksamkeit der Menschen auf die Straße zu richten, selbst wenn das Auto Lenkrad, Gas und Bremsen betätigt. Die Super Cruise von Cadillac verfügt über eine Infrarotkamera in Gumdrop-Größe an der Lenksäule, die die Kopfposition des Fahrers überwacht: Schauen Sie zu weit weg oder zu tief, und das System gibt einen scharfen Piepton ab. Der Audi Jam von Traffic Jam macht dies auch mit einer Kamera zur Überwachung des Innenraums.

Menschen, die ein Mensch sind, werden vermutlich Wege finden, um diese Systeme zu betrügen (vielleicht lehnt sie sich an Homer Simpson an), aber es ist ein System klar, das überwacht, wo ein Fahrer sucht, ist robuster für diesen Zweck als eines, das von Zitrusfrüchten getäuscht werden kann.

Möglicherweise gibt Tesla einen Versuch. Das Modell 3 wird mit einer Innenkamera geliefert, die in der Nähe des Rückspiegels montiert ist. Obwohl der Autohersteller nicht bestätigt hat, wozu er bestimmt ist, seien Sie nicht überrascht, wenn ein drahtloses Software-Update diesen Autos plötzlich die Möglichkeit gibt, sich auf sie zu schleichen menschliche Herrscher.

Und wenn das nicht funktioniert, gibt es immer die Ludovico-Behandlung. Oder ein Auto, das alles fährt und keinen Menschen braucht.


Weitere großartige WIRED Stories