Das Ziel von SafeSign ist, das Vertrauen in Fahrassistenzsysteme zu erhöhen.
Mit der zunehmenden Nutzung von automatischen Systemen im Straßenverkehr (Fahrassistenzsysteme, autonome Fahrzeuge) sollen die Verkehrszeichen auch von diesen Systemen sicher “gesehen” werden. Insbesondere in der Übergangsphase (gemischte Nutzung der Straße durch Mensch und Maschine) stellt die potenziell unterschiedliche Wahrnehmung der Verkehrszeichen ein großes Gefahrenpotential dar.
Im Projekt wird untersucht, inwieweit Störungen bei aktuellen Deep Learning basierten Kennzeichenklassifikationssystemen zu Fehlklassifikationen beitragen. Vom Menschen kann oftmals nicht beurteilt werden, wie gut ein Verkehrszeichen für eine künstliche Intelligenz lesbar ist. Zum Beispiel: ein Mensch fährt mit seinem Fahrzeug auf einen Tunnel zu. Die Anzeige (Wechselverkehrszeichen mit LED Elementen) zeigt aufgrund der Höhenkontrolle „STOP“ an. Der Mensch hält. Aufgrund einer Störung (Witterung, Ausfall einzelner LEDs) erkennt ein autonomes Fahrzeug das „STOP“ nicht oder interpretiert es falsch. Ein folgenschwerer Unfall kann die Folge sein.
Um im Hinblick auf die in die naher Zukunft liegende gemischte Nutzung der Straße Vertrauen zu schaffen, werden in SafeSign neue Methoden zur Steigerung von Robustheit sowie zur Interpretierbarkeit von KI-Modellen kombiniert und entwickelt. Auf Basis von realen Verkehrszeichenbildern (mit/ohne Störungen) sowie synthetisch erzeugten Störungsbildern wird das Gesamtsystem evaluiert. Die technischen Methoden werden auch im Hinblick auf ethische Grundsätze hinterfragt und evaluiert.
Die Projektergebnisse (prototypische Deep Learning Methoden) und insbesondere die Datenbank mit Störungsbildern werden öffentlich verfügbar gemacht, um für österreichische Unternehmen im Bereich Mobilität, Straßeninfrastruktur und autonomes Fahren eine Basis für weitere Entwicklungen zu legen. Insbesondere kann dadurch die Entwicklung zukünftiger Verkehrszeichen angestoßen werden, die für Mensch und Maschine gleichermaßen lesbar sind.
Eine nach ethischen Leitlinien geführte Forschung zu ethisch relevanten Fragestellungen ermöglicht, Vertrauen in künstliche Intelligenz zu schaffen, womit vertrauensvolle künstliche Intelligenz gesellschaftlich akzeptiert wird. Das ist insbesondere in sicherheitskritischen Bereichen wie im Verkehr besonders relevant.
KI-Pipeline zur Verkehrszeichenerkennung und -klassifizierung
Entwicklung des ATSD. 7555 Frames mit Verkehrszeichen wurden aus HD-Videos extrahiert und anschließend annotiert. Nach dem Herausfiltern nicht valider Aufnahmen wurden die verbleibenden 7454 Frames in Trainings-, Test- und interne Sets aufgeteilt, die ATSD-Scenes bilden. ATSD-Signs besteht aus Verkehrszeichen-Patches, die aus den Frames in den jeweiligen Splits extrahiert wurden.
Einige Beispielszenen aus dem ATSD, die die Vielfalt des Datensatzes verdeutlichen. Er umfasst rurale, urbane und montane Gebiete sowie eine Vielzahl von Tunneln.
Dieses Projekt wird aus Mitteln der FFG gefördert.
Project Manager & Senior Researcher
Aktuelle Fahrzeuge nutzen Künstliche Intelligenz (KI) zur Erkennung von Verkehrszeichen, um Fahrer*innen zu informieren oder die Geschwindigkeit des Fahrzeuges anzupassen. Wir vertrauen diesen Systemen oftmals blind – aber wo liegen die Grenzen der maschinellen Wahrnehmung? Wir gehen mit „Crash Me If You Can“ dieser Frage spielerisch auf den Grund. Dazu haben die Besucher*innen die Möglichkeit, Verkehrszeichen so zu manipulieren, dass sie von der KI nicht mehr korrekt erkannt werden. Wird eine Geschwindigkeitsbeschränkung auf der Miniatur-Rennbahn falsch erkannt, fliegt der Rennwagen aus der Kurve. Mit diesen und weiteren Fragestellungen im Bereich der Verkehrszeichenerkennung durch KI beschäftigt sich die RISC Software GmbH im Forschungsprojekt „SafeSign“. Dieses wird von der FFG im Rahmen des Programms Ideen Lab 4.0 gefördert. Die KI-Forschung wird aus Mitteln des Strategischen Wirtschafts- und Forschungsprogrammes „Innovatives OÖ 2020“ vom Land OÖ gefördert.
Das Exponat war bereits im Zuge des Ars Electronica Festivals 2021 und bei der Langen Nacht der Forschung 2022 ausgestellt.
