Innerhalb der „KI-Familie“ hat das Projekt KI-Absicherung als erstes von vier Projekten am 23.06.2022 die Ziellinie überquert. Eingebettet in die VDA Leitinitiative für autonomes und vernetztes Fahren und gefördert durch das Bundesministerium für Wirtschaft und Klimaschutz untersuchten Projektbeteiligte aus Industrie und Wissenschaft zentrale Fragen zur Absicherung von KI-basierten Funktionen für das hochautomatisierte Fahren.

Wie funktioniert das?
Tiefe Neuronale Netze (Deep Neural Networks) spielen eine entscheidende Rolle für die Realisierung von hochautomatisiertem und autonomen Fahren, da sie über diverse Sensordaten die Umwelt, wie z. B. Fußgänger:innen oder Hindernisse wahrnehmen und unterscheiden können. Nur so wird das hochautomatisierte Fahren, in dem das Fahrzeug auf verschiedene Situationen angemessen reagieren kann und muss, möglich.

Warum KI-Absicherung?
Im Kern des Projekts stand die Ableitung eines Industriekonsens für eine systematische Methodik zur Abnahme von KI-Funktionen im Bereich des autonomen Fahrens. Seit drei Jahren arbeitet QualityMinds aktiv an dem Projekt mit und hat hier innerhalb des Arbeitspaketes „Synthetische Daten“ diverse Aufgaben übernommen. Neben der Unterstützung im Aufbau eines synthetischen Datensatzes, z. B. durch Requirements Engineering und der Funktion eines „Quality Gates“ untersuchten wir Corner Cases, d.h. Situationen, in denen das neuronale Netz auf unerwartete Weise auf seine Umwelt reagiert, um so Hinweise zu finden, in welchen Bereichen der KI-Funktionen das entsprechende Neuronale Netz nicht wie antizipiert funktioniert und weiterer Handlungsbedarf besteht.

Durch diese Grundlagenarbeit und den im Projekt gemeinsam erstellten Datensatz wurden wichtige Herausforderungen in Bezug auf die Realisierung des autonomen Fahrens gefunden. Die nun öffentlich vorgestellte Absicherungsmethodik mit den beinhalteten Nachweisen zur Ableitung systematischer Test- und Trainingsmethoden fließen nun nicht nur in die nationale Entwicklung ein, sondern finden auch in der internationalen Standardisierung, z. B. über die ISO/PAS 8800, Anwendung.

Im Rahmen des Projekts entstanden außerdem wissenschaftliche Arbeiten, z. B. über die automatische Erstellung eines Corner Case Datensatzes mittels einer Tooling Pipeline, welche jetzt durch Niels Heller und Namrata Gurung in Lissabon im Rahmen der DATA 2022 vorgestellt wurden.

QualityMinds bedankt sich bei allen 24 beteiligten Partnern , sowie den Projektträgern, Koordinator:innen und Geldgebern. Außerdem wird QualityMinds weiterhin im Bereich KI forschen, u. a. über das Projekt „Attention – Artificial Intelligence for real-time injury prediction“ des Fraunhofer IAIS.

Weitere Informationen gibt es unter: https://www.ki-absicherung-projekt.de/ oder direkt bei uns!