Das Ziel von SafeSign ist, das Vertrauen in Fahrassistenzsysteme zu erhöhen.
Mit der zunehmenden Nutzung von automatischen Systemen im Straßenverkehr – etwa Fahrassistenzsysteme oder autonome Fahrzeuge – müssen auch diese Systeme Verkehrszeichen zuverlässig “sehen”. Gerade in der Übergangsphase, in der Mensch und Maschine die Straße gemeinsam nutzen, entsteht ein erhebliches Gefahrenpotenzial. Der Grund: Beide können Verkehrszeichen unterschiedlich wahrnehmen.
Im Projekt SafeSign analysieren die Forschenden, in welchem Ausmaß Störungen aktuelle Deep-Learning-gestützte Klassifikationssysteme beeinflussen. Für Menschen ist oft schwer einzuschätzen, ob ein Verkehrszeichen für eine Künstliche Intelligenz überhaupt noch eindeutig erkennbar ist. Ein Beispiel verdeutlicht das: Fährt ein Mensch mit dem Auto auf einen Tunnel zu, erkennt er die Anzeige „STOP“ auf einem LED-Wechselverkehrszeichen, das die Höhenkontrolle aktiviert, und hält an. Ein autonomes Fahrzeug übersieht das „STOP“ jedoch möglicherweise oder interpretiert es falsch, wenn Störungen wie Witterung oder ausgefallene LEDs auftreten. Die Folge wäre ein Unfall.
Um das Vertrauen in diese Systeme zu stärken, entwickelt SafeSign neue Ansätze, die Robustheit und Interpretierbarkeit von KI-Modellen miteinander kombinieren. Das Team testet das Gesamtsystem sowohl mit realen Verkehrszeichenbildern – mit und ohne Störungen – als auch mit synthetisch erzeugten Störungsbildern. Dadurch lässt sich präzise bewerten, wie sicher die Erkennung unter schwierigen Bedingungen funktioniert. Die Forschenden prüfen die Methoden zusätzlich kritisch im Hinblick auf ethische Grundsätze. Dadurch fließen nicht nur technische, sondern auch gesellschaftliche Aspekte in die Bewertung ein.
Die Projektergebnisse – insbesondere die prototypischen Deep-Learning-Methoden und die umfangreiche Störungsdatenbank – stellt SafeSign öffentlich zur Verfügung. Dadurch entsteht für österreichische Unternehmen aus den Bereichen Mobilität, Straßeninfrastruktur und autonomes Fahren eine wertvolle Grundlage für künftige Entwicklungen. Darüber hinaus liefert die Forschung wichtige Impulse für die Entwicklung neuer Verkehrszeichen. Diese Zeichen sollen so gestaltet sein, dass sie Menschen und Maschinen gleichermaßen eindeutig erkennen können.
SafeSign zeigt, dass vertrauenswürdige KI nur entsteht, wenn technische Lösungen immer auch ethische Fragen berücksichtigen. Gerade im Straßenverkehr, einem sicherheitskritischen Bereich, ist dies besonders entscheidend. Indem das Projekt Transparenz und Vertrauen in KI fördert, leistet es einen wichtigen Beitrag zur gesellschaftlichen Akzeptanz von Fahrassistenzsystemen und autonomen Fahrzeugen.
KI-Pipeline zur Verkehrszeichenerkennung und -klassifizierung
Entwicklung des ATSD. 7555 Frames mit Verkehrszeichen wurden aus HD-Videos extrahiert und anschließend annotiert. Nach dem Herausfiltern nicht valider Aufnahmen wurden die verbleibenden 7454 Frames in Trainings-, Test- und interne Sets aufgeteilt, die ATSD-Scenes bilden. ATSD-Signs besteht aus Verkehrszeichen-Patches, die aus den Frames in den jeweiligen Splits extrahiert wurden.
Einige Beispielszenen aus dem ATSD, die die Vielfalt des Datensatzes verdeutlichen. Er umfasst rurale, urbane und montane Gebiete sowie eine Vielzahl von Tunneln.
Dieses Projekt wird aus Mitteln der FFG gefördert.
Project Manager & Senior Researcher
Aktuelle Fahrzeuge nutzen Künstliche Intelligenz (KI) zur Erkennung von Verkehrszeichen, um Fahrer*innen zu informieren oder die Geschwindigkeit des Fahrzeuges anzupassen. Wir vertrauen diesen Systemen oftmals blind – aber wo liegen die Grenzen der maschinellen Wahrnehmung? Wir gehen mit „Crash Me If You Can“ dieser Frage spielerisch auf den Grund. Dazu haben die Besucher*innen die Möglichkeit, Verkehrszeichen so zu manipulieren, dass sie von der KI nicht mehr korrekt erkannt werden. Wird eine Geschwindigkeitsbeschränkung auf der Miniatur-Rennbahn falsch erkannt, fliegt der Rennwagen aus der Kurve. Mit diesen und weiteren Fragestellungen im Bereich der Verkehrszeichenerkennung durch KI beschäftigt sich die RISC Software GmbH im Forschungsprojekt „SafeSign“. Dieses wird von der FFG im Rahmen des Programms Ideen Lab 4.0 gefördert. Die KI-Forschung wird aus Mitteln des Strategischen Wirtschafts- und Forschungsprogrammes „Innovatives OÖ 2020“ vom Land OÖ gefördert.
Das Exponat war bereits im Zuge des Ars Electronica Festivals 2021 und bei der Langen Nacht der Forschung 2022 ausgestellt.
