Pressemitteilung

Studie zur Regulierung von algorithmischen Entscheidungssystemen in Berlin vorgestellt

Eine heute veröffentlichte Studie der Fachgruppe „Rechtsinformatik“ der Gesellschaft für Informatik für den Sachverständigenrat für Verbraucherfragen formuliert politische Handlungsempfehlungen zu algorithmischen Entscheidungsverfahren

Berlin, 31.10.2018 – Eine interdisziplinäre Expertengruppe aus Juristen und Informatikern der Gesellschaft für Informatik e.V. (GI) hat im Auftrag des Sachverständigenrats für Verbraucherfragen (SVRV) eine Studie zum Thema algorithmischer Entscheidungsverfahren (Algorithmic Decision Making, ADM) erstellt. Die Untersuchung mit dem Titel „Technische und rechtliche Betrachtungen algorithmischer Entscheidungsverfahren“ wurde im Rahmen der Veranstaltung „Empfehlungen für Faires Verbraucher-Scoring“ der Bundesministerin der Justiz und für Verbraucherschutz (BMJV) Dr. Katarina Barley übergeben.

Die Studie befasst sich mit der Frage, wie Diskriminierung in einer zunehmend durch ADM-Verfahren geprägten Wirtschaft verhindert werden kann, in der viele Entscheidungen nicht mehr von Menschen sondern durch Computerprogramme getroffen werden. So werden algorithmische Entscheidungsverfahren unter anderem bei der Bewertung der Kreditwürdigkeit von Personen (Kreditscoring) sowie bei der Preisermittlung im Online-Handel (Dynamic Pricing) eingesetzt. 

Prof. Dr. Dr. Erich Schweighofer von der Universität Wien und Sprecher der Fachgruppe „Rechtsinformatik“ weist jedoch auf den langen Weg hin, der bis zu einer umfassenden Regulierung noch zu gehen ist: „Es ist wichtig, dass wir algorithmische Entscheidungsverfahren rechtlich regulieren, jedoch stehen wir hier noch am Anfang. Zum einen ist das Gefahrenpotenzial dieser sogenannten ADM-Verfahren noch nicht umfassend bekannt. Zum anderen bedürfen entscheidende Rechtsfragen der Klärung, um rechtsverletzende Diskriminierung wirkungsvoll zu adressieren. Das Gutachten zeigt jedoch, dass es mit Test-, Auditierungs- und Zertifizierungsverfahren wirkungsvolle Werkzeuge gibt, um eine stärkere Transparenz und letztlich einen besseren Schutz für Verbraucherinnen und Verbraucher zu schaffen.“ 

Insbesondere in Testverfahren sieht Erich Schweighofer großes Potential für den Verbraucherschutz: „Tests von ADM-Systemen sind ein wesentliches Element des Schutzes gegen fehlerhafte algorithmische Entscheidungen. Dafür brauchen wir juristische Rahmen, die sowohl die Durchführung als auch die Bewertung dieser Tests rechtlich absichern. Sobald der rechtliche Rahmen für geeignete Testverfahren gelegt ist, sollte eine gesetzliche Pflicht zur Durchführung hinreichender Tests eingeführt werden. Denn es ist wichtig, dass ADM-Systeme vor ihrem Einsatz auf Fehler, insbesondere Diskriminierung, geprüft werden.“

Zur Einhaltung von Transparenz und Informationspflichten sowie zur Implementierung effizienter und effektiver Test- und Auditierungsverfahren wird seitens der Experten ein staatlicher Kompetenzaufbau für algorithmische Entscheidungen empfohlen. Wesentliche Aufgabe einer möglichen „Digitalagentur“ muss zudem die Steigerung der Transparenz durch Beratung und Information von Entscheidungsträgern in Unternehmen, Verwaltung und Politik sowie der gesellschaftlichen Aufklärung sein.

Zudem bedarf es laut der Studie weiterer, vor allem internationaler und interdisziplinärer Forschungsanstrengungen an den Schnittstellen zwischen Informatik und den Rechtswissenschaften (aber auch darüber hinaus), um die vielfältigen offenen Fragen zu adressieren. Spezifische Fragestellungen müssen durch wohldefinierte und konkrete Forschungsprojekte und -initiativen, z.B. durch Stipendien, Promotionen oder weitere Gutachten, untersucht und für den Diskurs aufbereitet werden.

An dem Gutachten mitgewirkt haben:

  • ao. Univ.-Prof. Mag. Dr. Dr. Erich Schweighofer, Universität Wien (Sprecher und wissenschaftlicher Leiter)
  • Prof. Dr.-Ing. Christoph Sorge, Universität des Saarlandes, juris-Stiftungsprofessur für Rechtsinformatik
  • Prof. Dr. Georg Borges, Universität des Saarlandes, Lehrstuhl für Bürgerliches Recht, Rechtsinformatik, deutsches und internationales Wirtschaftsrecht sowie Rechtstheorie
  • Prof. Burkhard Schäfer, The University of Edinburgh, Edinburgh Law School, Personal Chair of Computational Legal Theory
  • Bernhard Waltl, M.Sc. M.A., Technische Universität München, Department of Informatics
  • Dr. Matthias Grabmair, Carnegie Mellon University, School of Computer Science, Pittsburgh, PA, USA
  • Daniel Krupka, Gesellschaft für Informatik e.V., Geschäftsführer 

Die Studie der Fachgruppe "Rechtsinformatik" kann hier heruntergeladen werden.

Ergebnisse der Untersuchung sind auch in ein Gutachten „Verbrauchergerechtes Scoring“ des SVRV eingeflossen, das Siehier herunterladen können.

Pressebilder können hier runtergeladen werden.

 

Über die Gesellschaft für Informatik e.V.
Die Gesellschaft für Informatik e.V. (GI) ist mit rund 20.000 persönlichen und 250 korporativen Mitgliedern die größte und wichtigste Fachgesellschaft für Informatik im deutschsprachigen Raum und vertritt seit 1969 die Interessen der Informatikerinnen und Informatiker in Wissenschaft, Wirtschaft, öffentlicher Verwaltung, Gesellschaft und Politik. Mit 14 Fachbereichen, über 30 aktiven Regionalgruppen und unzähligen Fachgruppen ist die GI Plattform und Sprachrohr für alle Disziplinen in der Informatik. Weitere Informationen finden Sie unter www.gi.de.

Pressekontakt:
Daniel Krupka
Gesellschaft für Informatik e.V. (GI)

Geschäftsstelle Berlin
im Spreepalais am Dom
Anna-Louisa-Karsch-Str.2,
10178 Berlin

Tel.: +49 30 7261 566-15
Fax: +49 30 7261 566-19
Mail: berlin(at)gi.de
Web: www.gi.de

Die Autoren der Studie mit der Ministerin der Justiz und für den Verbraucherschutz Dr. Katarina Barley
© - Gesellschaft für Informatik e.V.