ITeG-Ringvorlesung „Was ist effektive menschliche Aufsicht über KI?"

Beschreibung

In der ITeG-Ringvorlesung "Digitale Gesellschaft - eine Gestaltungsaufgabe" wird am 10. Dezember 2025 Prof. Dr. Markus Langer Einblicke geben zum Thema „Was ist effektive menschliche Aufsicht über KI?".

Markus Langer ist Professor für Arbeits- und Organisationspsychologie an der Universität Freiburg. Er beforscht die Schnittstelle Psychologie und Mensch-Maschine Interaktion, mit Fokus auf KI-basierten Entscheidungen, Erklärbarer Künstliche Intelligenz, menschzentrierter Gestaltung KI-basierter Systeme und Vertrauen in KI. Seine Forschung ist interdisziplinär ausgerichtet und er arbeitet in Drittmittelprojekten mit Forschenden aus dem Bereich der Informatik, Philosophie, den Rechtswissenschaften und der Medizin.

Zusammenfassung seines Vortrags:

Wenn KI-Systeme für Hochrisikoeinsatzgebiete wie der Justiz, Medizin oder in der kritischen Infrastruktur eingesetzt werden, soll menschliche Aufsicht dazu beitragen mögliche negative Konsequenzen des Einsatzes von KI vorzubeugen. Die europäische KI-Verordnung schreibt solche menschliche Aufsicht sogar gesetzlich vor und die erfolgreiche Gestaltung von menschlicher Aufsicht wird jegliche Organisation vor Herausforderungen stellen, die über den Einsatz von KI-Systemen für Hochrisikoeinsatzgebiete nachdenkt. In diesem Vortrag beleuchte ich das Konzept der menschlichen Aufsicht aus interdisziplinärer Perspektive. Was sind die Ziele menschlicher Aufsicht, was sind die Bedingungen für effektive menschliche Aufsicht und welche Hebel gibt es, Menschen in ihrer Aufsichtsfunktion zu unterstützen?