Civic Coding-Schlaglicht: KI und Diversität: Wie KI Diskriminierung verstärkt – und sie bekämpfen kann

Beschreibung

Künstliche Intelligenz (KI) kann bestehende Vorurteile in Daten, auf denen sie basiert, verstärken. Ein Beispiel ist die Gesundheitsforschung, in deren Datensätzen Frauen oftmals unterrepräsentiert sind. Dies kann zu verzerrten und ungerechten Ergebnissen bei der Entwicklung medizinischer Produkte führen. Ähnliches gilt für die KI-Nutzung in Unternehmen: Beispielsweise können im Recruiting eingesetzte KI-Anwendungen bestehende Vorurteile fördern und somit Frauen und Minderheiten benachteiligen. Auf der anderen Seite bietet KI auch Chancen, Diversität zu stärken. Durch sorgfältige Datenaufbereitung und bewusste Algorithmusgestaltung können Vorurteile reduziert werden; Bias-Monitoring-Tools können Vorurteile in bestehenden Systemen aufdecken und korrigieren. In der Personalbeschaffung kann KI helfen, eine diversere Kandidat*innenliste zu erstellen, indem sie unbewusste Vorurteile erkennt und beseitigt. Zudem können KI-gestützte Lernplattformen personalisierte Bildungsinhalte bereitstellen, die das Bewusstsein für Vielfalt und Inklusion fördern. Ganz wesentlich ist, Prozesse ganzheitlich zu denken. So hat das kürzlich abgeschlossene Projekt KIDD (Künstliche Intelligenz im Dienste der Diversität) einen Prozess entwickelt, der Unternehmen befähigt, die Implementierung von KI aktiv zu gestalten, um eine gerechte, transparente und verständliche KI-Nutzung zu ermöglichen. Der Prozess ist übertragbar und soll eine transparente, partizipative und diversitätssensible Einführung von KI in Unternehmen stärken.

Ziel dieses Civic Coding-Schlaglichts ist es, diese Aspekte zu beleuchten und mit Expert*innen zu diskutieren, wie wir KI als Werkzeug für eine gerechtere und inklusivere Gesellschaft nutzen können.

Annette von Wedel vom Forschungsprojekt „KIDD - Künstliche Intelligenz im Dienste der Diversität“, Dr. Kinga Schumacher vom Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) sowie Dr. Alina Gales von der Technischen Universität München geben dazu Einblicke in die Praxis und ihre Perspektiven auf das Thema.

Hier geht es zur Anmeldung: civic-coding-schlaglicht-3.anmeldung-events.de