Faire KI für die Gesellschaft

Die Informatik trägt gesellschaftliche Verantwortung, dies gilt insbesondere für datenverarbeitende IT-Systeme. Künstliche Intelligenz stellt unsere Gesellschaft dabei vor qualitativ neue Herausforderungen. Um Missbrauchsrisiken entgegenzuwirken, müssen KI-Systeme nicht nur technisch, sondern ebenso in rechtlicher, ethischer und sozialer Hinsicht unter Berücksichtigung der gesellschaftlichen Auswirkungen diskutiert werden. Es gilt, sie im Einklang mit unseren Werten zu entwickeln und Prinzipien der Offenheit und Nachhaltigkeit zu verankern, sowohl bei der Gestaltung als auch beim Einsatz.

Strenge ethische Leitlinien und Prüfverfahren für den Einsatz von KI in sensiblen Bereichen

KI ermöglicht uns große technologische Sprünge in der Medizin, im Umweltschutz und in vielen weiteren Anwendungsfeldern. Gleichzeitig birgt KI beim Einsatz in sensiblen Bereichen wie im Personal- und Migrationsmanagement, der Überwachung im öffentlichen Raum sowie der militärischen Verteidigung Sicherheits- und Fairnessrisiken. Nutzen antidemokratische Regierungen hier KI, drohen sich Risiken zu verschärfen.

Der sichere Einsatz von KI-Systemen erfordert Nachvollziehbarkeit, Transparenz, Gleichbehandlung, Haftbarkeit, Zuverlässigkeit, Datenschutzkonformität und Vertrauen. Die KI-Verordnung der EU schafft ein gutes Fundament, diese Prinzipien einzuhalten. Sie bietet allerdings nur grobe Leitplanken, und schafft weitreichende Ausnahmen in den aufgeführten sensiblen Bereichen. Ihre nationale Ausgestaltung und Durchsetzung muss daher Sorge tragen, dass der Einsatz von KI gegenüber vulnerablen Gruppen streng reglementiert wird, geeignete Kontrollverfahren genannt und eingehalten werden. Gleichzeitig sollten Regelungslücken, etwa im Umgang mit KI-Modellen mit allgemeinem Verwendungszweck, nicht grundlegend technisch eingeschränkt oder verboten werden, sondern zunächst stets der soziale Nutzungskontext eines KI-Systems genau untersucht werden.  

Förderung von Open Source, um Abhängigkeiten zu reduzieren

Das Potenzial von Effizienz- und Produktivitätsvorteilen, insbesondere durch generative KI, ist groß. Dies sollte ausgenutzt werden, ohne sich von proprietären Angeboten großer Konzerne abhängig zu machen. Eine Alternative sind Open Source-Lösungen. Viele der fortschrittlichsten und leistungsfähigsten generativen Modelle wurden als Open Source veröffentlicht und ermöglichen Entwickler*innen und Forschenden auf der ganzen Welt, auf den Quellcode dieser Modelle zugreifen können, um sie zu studieren, anzupassen und zu verbessern. Dies stärkt einen offenen Austausch von Ideen, Wissen und Technologien. Offene KI-Modelle fördern nicht nur digitale Souveränität, sondern auch Innovation, Transparenz und Vertrauen, Zusammenarbeit und Kompetenzentwicklung durch Teilhabe.

Open Source KI schließt die Förderung offener Infrastrukturen mit ein, wie sie von der Open-Science-Bewegung vorangetrieben wird. Es ist sicherzustellen, dass offene Forschungs- und Entwicklungsprozesse sowie die Bereitstellung von offenen Systemen weiterhin und verstärkt eine Bedingung öffentlicher Ausschreibungen sind.