Ethische Risikobewertung von KI Algorithmen in Luftverteidigungssystemen

Beschreibung

Das Functional Hazard Assessment (FHA) wird im militärischen wie im zivilen Bereich genutzt, um zu analysieren, ob spezifische technische Ausfallraten für bestimmte Systeme tolerierbar sind, basierend auf den möglichen Konsequenzen der entsprechenden Fehlfunktionen. Das FHA konzentriert sich allerdings ausschließlich auf technische Fehlfunktionen, sowie den daraus resultierenden finanziellen und physischen Risiken. Hierbei ignoriert es ethische Gefahren vollständig. Diese Gefahren wiederum können auf zweierlei Arten entstehen: Verursacht durch technische Fehlfunktionen oder durch nicht-technische Fehler.
In diesem Vortrag wird das „Ethical Hazard Assessment (EHA)“ vorgestellt, dass das bestehende FHA ergänzen soll. Aufgrund der stetig steigenden Aufmerksamkeit, die KI-basierte Systeme im militärischen Bereich erhalten, liegt der Fokus hier besonders auf Machine Learning Systemen und den Risiken, technisch wie normativ, die durch deren Nutzung entstehen. Zwar treten ethische Risiken bei jeder Technologie auf, die militärisch genutzt wird, jedoch werfen Machine Learning Systeme hier durch ihre Undurchsichtigkeit und potentielle Unvorhersagbarkeit besondere Fragestellungen auf.
Basierend auf bestehenden Normen werden Ansätze für konkrete Designrichtlinien präsentiert, die geeignet sein können, diese Risiken zu mindern.

Zum Redner:

Hauke Budig ist wissenschaftlicher Mitarbeiter am Institut für Lufttransportsysteme (ILT) der Technische Universität Hamburg. Er absolvierte seinen Bachelor- und Masterabschluss an der Universität zu Lübeck im Studiengang Robotik und autonome Systeme, wo er an Projekten im Bereich Rettungsrobotik und Sensorik zur Vitalzeichendetektion arbeitete. 
Am ILT promoviert er zum Thema Bewertung von KI Algorithmen in sicherheitskritischen Bereichen, sowie deren Zuverlässigkeit und Vertrauenswürdigkeit.

Zur Teilnahme geht es hier lang:
An Zoom-Meeting teilnehmen
Meeting-ID: 691 3644 0235
Kenncode: 910704