Suchen

Fahrerassistenzsysteme McAfee überlistet Mobileye-Kamera in Tesla-Modellen

Autor: Sven Prawitz

Experten von McAfee ist es gelungen, die Verkehrszeichenerkennung der Mobileye-Kamera, wie sie in Modellen von Tesla, Audi und Nissan verbaut ist, zu täuschen.

Firmen zum Thema

Tesla Model S
Tesla Model S
(Bild: Axel Busse/Ampnet)

Experten des McAfee Advanced Threat Research (ATR) haben das Mobileye-Kamerasystem, das im Hardware-Paket 1 von Teslas Modellen verbaut ist, erfolgreich täuschen können. Das beschreiben Steve Povolny, Leiter des ATR, und Shivangee Trivedi, Datenspezialistin beim ATR, in einem Blog-Beitrag.

Der Schwerpunkt der Untersuchung lag auf der Objekterkennung von Verkehrsschildern des Fahrerassistenzsystems. Hierfür haben die McAfee-Mitarbeiter einen Aufkleber-Satz entwickelt, der mit der richtigen Kombination aus Farbe, Größe und Position auf dem Schild sehr effizient Fehlklassifikationen verursachen können soll.

Bildergalerie

Ähnliches haben auch Forscher des Max-Planck-Instituts für Intelligente Systeme Ende 2019 vorgestellt. Im Fall von McAfee wurde beispielsweise bei einem Geschwindigkeitsschild mit einer Vorgabe von 35 Meilen pro Stunde der mittlere Balken der Zahl 3 mit einem schwarzen Klebeband horizontal verlängert. Die Verkehrszeichenerkennung eines Tesla Model S und eines Model X (beide aus dem Jahr 2016) mit integriertem Mobileye-Kamerasystem „EyeQ3“ erkannte ein Geschwindigkeitslimit von 85 Meilen pro Stunde.

Systeme auch bei Audi, GM, Nissan und Volvo

Das Kamerasystem wird laut McAfee bei Tesla im Paket Hardware 1 der Modelle S und X zwischen 2014 und 2016 verwendet. Außerdem komme es in Audis Staupiloten des A8, in Nissans Propilot, im Cadillac CT6 und in Volvos Pilot Assist der Versionen 1, 2 und 3 zum Einsatz.

Wie Povolny und Trivedi schreiben, konnten sie die Fehlerkennung bei einer 2020er Version der Mobileye-Kamera in wenigen Tests nicht wiederholen: Die neue Kamera hielt den UNtersuchungen stand.

Für den gesamten Testansatz wurde das sogenannte „Model Hacking“ verwendet. Das Verfahren nutzt Schwächen, die in Algorithmen des maschinellen Lernens vorhanden sind, um nachteilige Ergebnisse zu provozieren. Die gesamte Versuchsmatrix von McAfee gibt es hier.

Über McAfee Advanced Threat Research

McAfee Advanced Threat Research hat eigenen Angaben zufolge ein spezifisches Ziel: ein breites Spektrum von Bedrohungen in der heutigen komplexen Landschaft zu identifizieren und zu beleuchten. Mit „Model Hacking“, also Untersuchungen darüber, wie Gegner auf künstliche Intelligenz zielen und diese umgehen könnten, soll das Bewusstsein, das Verständnis und die Entwicklung sichererer Technologien beeinflusst werden.

(ID:46383018)

Über den Autor

 Sven Prawitz

Sven Prawitz

Technikjournalist