Wahnsinn: Dieses Muster legt selbstfahrende Autos lahm!
Tübingen - Es klingt irre: Mit ein paar Farbklecksen haben Forscher es geschafft, autonom fahrende Autos schachmatt zu setzen!
So ist es Wissenschaftlern des Tübinger Max-Planck-Instituts für Intelligente Systeme (MPI-IS) gelungen, die Bildverarbeitung der Wagen zu verwirren.
Wie die Wissenschaftler auf der Homepage des Instituts schreiben, haben sie ihre Erkenntnisse auf der internationalen Konferenz ICCV 2019 ("International Conference on Computer Vision") im koreanischen Seoul vorgestellt.
Demnach könnte der sogenannte optische Fluss von selbstfahrenden Autos ein Einfallstor für Hacker darstellen.
Zur Erklärung: Die Kameras der Wagen müssen permanent Daten von Bewegungen liefern. Von anderen Fahrzeugen etwa oder auch von Fußgängern, die plötzlich auf die Fahrbahn treten. Das sei der optische Fluss.
Zwar hätten jüngste Fortschritte beim maschinellen Lernen das Berechnen von Bewegungen schneller und besser gemacht, jedoch sei das Verfahren anfällig für Störsignale. Und da kommt die Entdeckung der Tübinger Forscher ins Spiel.
Diese haben ein einfaches, buntes Pixelmuster entwickelt. Wird das von den Kameras erfasst, wird das elektronische Gehirn im autonomen Fahrzeug quasi paralysiert. "Selbst wenn sich das Muster nicht bewegt, kann es dazu führen, dass tiefe neuronale Netze, wie sie heute in großem Maße zur Flussberechnung eingesetzt werden, falsch rechnen", schreiben die Wissenschaftler.
Kleiner Fleck mit verheerender Wirkung
Im Klartext: Das Netzwerk kalkuliere plötzlich, dass sich große Teile der Szene in die falsche Richtung bewegen. Schon früher sei aufgezeigt worden, dass selbst winzige Muster dafür sorgen, dass etwa Stoppschilder nicht mehr korrekt erfasst würden.
Den verwirrenden Pixelfleck haben die Forscher in wenigen Stunden geschaffen.
Und der ist erschreckend effektiv: "Es reicht eine Größe von weniger als 1 Prozent des Gesamtbilds aus, um das System anzugreifen. Die kleinste Störung verursachte, dass das System schwere Fehler bei seinen Berechnungen machte, die die Hälfte des Bildbereichs betrafen (...)." Und: Je größer der Fleck, desto verheerender seien die Auswirkungen!
Das Farbmuster könnte etwa auf einem Shirt, als Aufkleber auf einer Heckscheibe oder auf einer Einkaufstüte angebracht werden - und für Probleme sorgen.
In vielen Fällen seien die Bewegung von Objekten in der gesamten von Kameras erfassten Szene gelöscht worden: "Man kann sich leicht vorstellen, welchen Schaden ein lahmgelegter Autopilot eines selbstfahrenden Autos bei hoher Geschwindigkeit verursachen kann."
Übrigens: Wie genau die selbstfahrenden Wagen funktionieren, entzieht sich den Forschern offenbar. Das seien wohlgehütete Geheimnisse der Autofirmen.
Michael J. Black, Direktor am MPI-IS appelliert: "Unsere Arbeit soll die Hersteller von selbstfahrender Technologie wachrütteln, sie vor der potenziellen Bedrohung warnen. Wenn sie davon wissen, können sie ihre Systeme so trainieren, dass sie gegenüber derartigen Angriffen robust sind."