GfSE Online-Seminar: Verlässliche KI – Hintergründe, Herausforderungen und Lösungsansätze zur Absicherung von Systemen mit KI-Komponenten

Bremen - 25. November 2020 - Künstliche Intelligenz (KI) im Allgemeinen und Machine Learning (ML) im Besonderen gewinnt im Kontext sicherheitskritischer Systeme zunehmend an Bedeutung. Entsprechend stellt sich die Frage nach der Gewährleistung und dem Nachweis der funktionalen Sicherheit. In diesem Online-Seminar werden zunächst einige Grundlagen zum Thema Machine Learning vermittelt. Anschließend wird dann auf Herausforderungen und Lösungsansätze bezüglich der Absicherung eingegangen. Bezüglich der Lösungsansätze wird zunächst ein integrierter Safety- und ML-Engineering Lifecycle skizziert und diskutiert.

Auf einige der Aktivitäten des Lifecycles wird sodann etwas detaillierter eingegangen. Im Online-Seminar »Verlässliche KI – Hintergründe, Herausforderungen und Lösungsansätze zur Absicherung von Systemen mit KI-Komponenten« am 09. Dezember 2020 beantwortet Dr.-Ing. Daniel Schneider folgende Fragen:

  • Wie können Assurance Cases als Rückgrat des Engineerings von KI-Komponenten genutzt werden?
  • Ist es möglich durch Nutzung von Explainable AI Ansätzen Evidenzen zu generieren?
  • Wie können KI-Komponenten durch Maßnahmen auf Architekturebene, z.B. mittels eines KI-Supervisors, abgesichert werden?
  • Welche Möglichkeiten gibt es, mit den Unsicherheiten bzgl. Klassifikation/Entscheidungen in einer ML-Komponente umzugehen?
  • Wie können die genannten Ansätze in das umfassende Konzept des dynamischen Risikomanagements eingebettet werden?