Ich seh’ ich seh’ was du nicht siehst: Wie eine Künstliche Intelligenz Verkehrszeichen sieht

Projekt „SafeSign“ für den Straßenverkehr: vertrauenswürdige Verkehrszeichenerkennung der Zukunft

Projektteam „SafeSign“ beim Abschlussmeeting, v.l.n.r.: Nikolaus Hofer (RISC), Nikolaus Kasper (ASFINAG), Christoph Wruß (ASFINAG) , Karin Bruckmüller (JKU), Anton Bachleitner-Hofmann (ASFINAG), Stefan Thumfart (RISC), Alexander Maletzky (RISC), Karl-Heinz Kastner (RISC),Aris Demelius (ASFINAG), ); nicht am Bild Stefan Schumann (JKU) © RISC Software GmbH

08.09.2021

Fahrassistenzsysteme im Straßenverkehr sind bereits jetzt ein fixer Bestandteil der Grundausstattung von modernen Autos. In Zukunft spielen diese intelligenten Systeme eine noch größere Rolle. Für dabei verwendete Methoden der Künstlichen Intelligenz (KI) stellt das Lesen von Verkehrszeichen jedoch eine Herausforderung dar. In einem gemeinsamen Projekt erforschten die ASFINAG, die Johannes Kepler Universität Linz und die RISC Software GmbH diese Systeme – und wollen dadurch das Vertrauen in diese neuen Technologien erhöhen.

Wenn beim Tunnelportal die LED-Anzeige „STOP“ zeigt, dann wissen wir – es könnte gefährlich werden und wir halten an – auch wenn einzelne LEDs defekt sind. Oder wenn durch starken Schneefall die Geschwindigkeitsbeschränkung für mich als Mensch schwer zu erkennen ist – kann die KI das dann trotzdem noch? Der Mensch ist meist in der Lage beschädigte oder verschmutzte und dadurch schlecht erkennbare Verkehrszeichen zu erkennen und richtig zu reagieren. Künstliche Systeme müssen dies erst erlernen und beweisen, damit wir ihnen vertrauen können.

All das wird in Zukunft immens wichtig, wenn autonome Fahrzeugsysteme im Mischbetrieb mit herkömmlichen, sprich von Menschen gesteuerten Autos zusammen unterwegs sind. Auch KI-Ethik Prinzipien werden parallel wissenschaftlich und empirisch hinterfragt und die Ergebnisse bei der Entwicklung mit einbezogen, um so das Vertrauen der Anwender*innen in das System zu erhöhen.

Ein österreichischer Verkehrszeichen-Datensatz

Die Projektergebnisse und insbesondere eine Datenbank mit Störungsbildern wird öffentlich verfügbar gemacht, um für österreichische Unternehmen im Bereich Mobilität, Straßeninfrastruktur und autonomes Fahren eine Basis für weitere Entwicklungen zu legen. Insbesondere kann dadurch die Entwicklung zukünftiger Verkehrszeichen angeregt werden, die für Mensch und Maschine gleichermaßen lesbar sind.

Für Mobilitätspartner wie die ASFINAG sind dies wesentliche Schritte in die Zukunft, die bereits erforscht werden müssen. Nur dadurch ist gewährleistet, dass beim Thema autonomes Fahren oder Künstliche Intelligenzen im täglichen Verkehr rechtzeitig Entwicklungen eingeleitet werden können. Ziele dabei sind weiterhin möglichst hohe Sicherheit bei maximaler Reduktion von Fehlern oder falschen Einschätzungen von Situationen.

Erkennung von Verkehrszeichen mit Deep Learning

Das Forschungsunternehmen RISC Software stellt autonome Systeme auf den Prüfstand und untersucht, inwieweit Störungen bei Verkehrssignalen zu Fehlinterpretationen bzw. -verhalten führen. Mit den Erkenntnissen aus der Analyse sollen auf Künstlicher Intelligenz basierende Systeme noch sicherer und robuster gemacht werden. Dabei werden die Systeme anhand von realen Verkehrssignalen und Straßenzeichen evaluiert und auch Störungen simuliert. Daher werden in diesem Projekt neue Methoden zur besseren Interpretierbarkeit durch KI-Modelle entwickelt. Mithilfe von Deep Learning-Methoden wird auf Basis von realen Verkehrszeichenbildern mit und ohne Störungen sowie synthetisch erzeugten Störungsbildern das Erkennungssystem evaluiert werden.

Das Erkennen der korrekten Verkehrszeichen erfolgt dabei in zwei Schritten: zuerst muss überhaupt erkannt werden, wo am Bild ein Verkehrszeichen ist (Detektion) und erst im zweiten Schritt erfolgt das Erkennen (Klassifikation). Dabei werden moderne Deep Learning-Methoden eingesetzt. Zusätzlich muss eine vertrauenswürdige KI auch robust gegenüber kleinen Veränderungen der Verkehrszeichen sein, insbesondere, wenn diese für den Menschen kaum wahrnehmbar sind. Um die Schwächen von aktuellen Erkennungsmethoden sichtbar zu machen hat sich die RISC Software mit Adversarial Attacks – gezielte Veränderung von Bildern mit dem Ziel die KI zu täuschen – beschäftigt.

Mit dem Exponat „Crash me if you can” für das diesjährige ARS Electronica Festival können Besucher*innen spielerisch erleben, wo die Grenzen der maschinellen Verkehrszeichenerkennung liegen.

Vertrauenswürdige KI

Um VZ-Erkennungssysteme verstärkt einsetzen zu können, bedarf es der Akzeptanz der Gesellschaft. Eine solche ist erreichbar, wenn die KI vertrauenswürdig entwickelt wird. Technisch ausgereifte Methoden begründen die Vertrauenswürdigkeit; reichen allein aber nicht aus. Die Einbeziehung des Rechts und der Ethik in der Entwicklung tragen wesentlich zur Vertrauensbildung bei. In der Praxis ist das schwieriger, als man meinen sollte. Soll die KI – aus Sicht der Verkehrsteilnehmer – insgesamt möglichst viele Unfälle vermeiden? Oder lieber besonders schwere Unfälle an gefährlichen Abschnitten (etwa Tunneleinfahrten oder Auf- und Ausfahrten) verhindern? Soll die KI das Auto aufgrund der Erkennung der Verkehrszeichen alleine steuern, oder soll der Mensch doch jederzeit übernehmen können? Durch eine umfangreiche Befragung finden Jurist*innen der Johannes Kepler Universität Linz heraus, welche Aspekte der Bevölkerung sowie den Stakeholdern wichtig sind, damit sie einer KI vertrauen können. Das Ergebnis unter Einbeziehung der wesentlichen KI-Prinzipien (Autonomie, Schadensminderung, Fairness, Transparenz) fließen in die Entwicklung der KI ein.

Projektpartner

Ziel des Forschungsprojektes “SafeSign” war, maximale Sicherheit autonomer Systeme zu gewährleisten und Vertrauen in die Künstliche Intelligenz zu erhöhen. Die RISC Software evaluierte dazu die technischen Methoden. Der Projektpartner Johannes Kepler Universität stellte sicher, dass die Forschung und Entwicklung auf Grundlage von ethischen Prinzipien erfolgt und das System letztendlich ethische Kriterien umsetzt. Der Partner ASFINAG bringt konkrete Anforderungen von österreichischen Straßenerhaltern ein. Die gewonnenen Daten wurden österreichischen Unternehmen im Bereich Mobilität, Straßeninfrastruktur und autonomem Fahren zur Verfügung gestellt. Damit soll eine starke Basis für weitere Entwicklungen gelegt werden – wie unter anderem Verkehrszeichen, die für Mensch und Maschine gleichermaßen lesbar sind.

Das Projekt

Die Arbeiten wurden im Projekt SafeSign (FFG IdeenLab 4.0, 879320) sowie aus Mitteln des Strategischen Wirtschafts- und Forschungsprogrammes „Innovatives OÖ 2020“ vom Land OÖ gefördert. Die RISC Software GmbH ist Teil des Netzwerkes der UAR (Upper Austrian Research).

Eckdaten

Laufzeit: 01.03.2020 – 31.08.2021
Förderschiene: Ideen Lab4.0 – Ausschreibung 2019
Projektpartner: Autobahnen- und Schnellstraßen-Finanzierungs-Aktiengesellschaft (ASFINAG), Johannes Kepler Universität Linz (JKU), RISC Software GmbH
Fördervolumen: Gesamtkosten 141.341.- | Förderung 113.072.- (= 80%)