Valley Voice: Wenn Hacker Auto-Algorithmen knacken

Valley Voice: Wenn Hacker Auto-Algorithmen knacken

, aktualisiert 08. August 2017, 12:32 Uhr
Bild vergrößern

Britta Weddeling, Korrespondentin des Handelsblatts im Silicon Valley, berichtet über neue Trends und den digitalen Zeitgeist im Tal der Nerds.

von Britta WeddelingQuelle:Handelsblatt Online

US-Wissenschaftler haben einen völlig neuen Weg gefunden, um autonome Fahrzeuge zu manipulieren. Sie nutzen eine Schwäche der eingebauten künstlichen Intelligenz aus.

San FranciscoIm Digital-Mekka Silicon Valley herrscht vielfach noch immer Wild-West-Mentalität. Zwar reiten die Leute hier nicht auf Pferderücken ins Start-up-Büro. Heute bringen Cowboys in Metall-Karossen schwächere Teilnehmer des Verkehrsbetriebs in Lebensgefahr. Westküsten-Fahrer ignorieren gern Fußgänger, Jogger oder Radfahrer ebenso penetrant wie Stoppschilder, Geschwindigkeitsbegrenzungen oder die rote Ampel. „Man muss eben engagiert fahren“, erklärte mir das mal ein Uber-Fahrer. „Die Fußgänger wissen, dass sie aufpassen müssen.“

Künftig werden autonome Systeme hinter dem Steuer sitzen, menschliche Straßen-Randalierer müssen sich ein anderes Betätigungsfeld suchen. Doch die Vernetzung bringt neue Herausforderungen mit sich, wie erst vor einer Woche wieder eine chinesische Gruppe im Auftrag von Tencent zeigte – der asiatische Online-Riese ist bekannt durch die Chat-App WeChat. Die Hacker verschafften sich über eine Funkverbindung Zutritt ins Innere eines Tesla Model X.

Anzeige

Alle großen Autohersteller arbeiten daran, ihre digitale Infrastruktur gegen Einbrüche von außen abzudichten. Doch die Angriffsmöglichkeiten sind zahlreicher als gedacht. Eine so eine einfache und unkonventionelle Methode enthüllten nun Wissenschaftler der Universität Washington. Sie hackten den im autonomen Fahrzeug eingebauten Algorithmus zur Objekt- und Bilderkennung, den die Autos zur Orientierung nutzen. Schon indem sie Standard-Verkehrsschilder wie Stoppzeichen oder Wegweiser mit kleinen weißen und schwarzen Aufklebern leicht veränderten, gerieten die Fahrzeuge außer Kontrolle.

Das menschliche Auge erkannte das Haltegebot trotz der minimalen Verzierung immer noch ohne Probleme, das autonome Fahrzeug hingegen interpretierte das Stoppschild fälschlicherweise als Aufforderung, dass hier nun mit einer Geschwindigkeit von 70 km/h weiterzufahren sei. Selbst wenn die künstliche Intelligenz hinter dem Steuer dies gar nicht beabsichtigte, hätte sie wie der Cowboy einen Fußgänger in Gefahr bringen können.

Bei ihrem Hack griffen die Wissenschaftler eine zentrale Technologie an, auf die sich Fahrzeuge bei der Orientierung verlassen. Sie beruht auf zwei technischen Verfahren, einem neuronalen Netzwerk, das Objekte automatisch entdeckt, wie Fußgänger, Verkehrsschilder oder Ampelschaltung, und einem zweiten, das das Erkannte interpretiert, dem Auto also sagt, um welchen Gegenstand mit welcher Bedeutung es sich handelt, zum Beispiel ein Stoppschild, das Halten befiehlt.

Die Forscher nutzten aus, dass sich die neuronalen Netzwerke bei ihren Entscheidungen immer nur auf die Daten stützen, anhand derer vorab sie trainiert werden. „Wir denken, dass aufgrund des ähnlichen Aussehens der Warnschilder, bereits kleine Veränderungen ausreichen um das Entscheidungssystem zu verwirren“, schreibt der leitende Sicherheitsforscher Yoshi Kohno dazu in der Veröffentlichung zur Studie. Je mehr Informationen und Varianten einer künstlichen Intelligenz vorliegen, desto besser werden ihre Entscheidungen. In vielen Fällen seien die Daten noch nicht ausreichend.

Abhilfe könnte schaffen, den Datenpool zu erweitern und das während der Fahrt gewonnene Wissen mit Informationen aus Karten und Standort zusammenzuführen. So könnte der Bordcomputer etwa automatisch erkennen, dass ein Stopp-Zeichen auf der Autobahn keinen Sinn ergibt, ebenso wenig, wie das Beschleunigen in einer Wohngegend auf 70 km/h.

Immer dienstags schreiben Britta Weddeling und Axel Postinett, Korrespondenten des Handelsblatts im Silicon Valley, im Wechsel über neue Trends und den digitalen Zeitgeist im Tal der Nerds.

Quelle:  Handelsblatt Online
Anzeige
Zur Startseite
-0%1%2%3%4%5%6%7%8%9%10%11%12%13%14%15%16%17%18%19%20%21%22%23%24%25%26%27%28%29%30%31%32%33%34%35%36%37%38%39%40%41%42%43%44%45%46%47%48%49%50%51%52%53%54%55%56%57%58%59%60%61%62%63%64%65%66%67%68%69%70%71%72%73%74%75%76%77%78%79%80%81%82%83%84%85%86%87%88%89%90%91%92%93%94%95%96%97%98%99%100%