Zum Hauptinhalt springen
Blogbeitrag

Mensch-Technik-Interaktion für digitale Souveränität

„Sind sie hiermit einverstanden?“ Internetnutzer*innen geben auf solche Fragen häufig ihr „OK“ ohne nur einen Blick in die Datennutzungserklärungen der jeweiligen Dienste zu werfen. Die Konsequenzen – umfangreiche Datensammlungen und die Einwilligung in die Verarbeitung ihrer personenbezogenen Daten – sind ihnen dabei häufig nicht klar. Warum ist das ein gesellschaftliches Problem und wie gehen wir es an?

2018 etablierte die europäische Datenschutzgrundverordnung das Konzept der „informierten Einwilligung“ als Rechtsgrundlage für die Verarbeitung personenbezogener Daten. Sie reglementiert so die Rechte und Pflichten in der Interaktion von Datenverarbeitenden und Datensubjekten. In der Praxis stellen sich jedoch vielfältige Fragen zur konkreten technischen Ausgestaltung einer solchen Einwilligung, damit diese der Zuschreibung „informiert“ auch ernsthaft gerecht wird. Als Gesellschaft für Informatik nähern wir uns in zwei Forschungsprojekten der Beantwortung dieser Fragen an.

Im Forschungsprogramm „Technik zum Menschen bringen“ hat sich das Bundesministerium für Bildung und Forschung (BMBF) daher zum Ziel gesetzt, Innovationen in der Mensch-Technik-Interaktion zu fördern, welche Nutzer*innen darin unterstützen, digitale Inhalte und ihre eigenen Daten informiert und mündig nutzen und verwalten zu können.

Auf Seiten der Nutzenden kann es zudem zu Akzeptanzproblemen kommen, weil sie in der Interaktion mit den Systemen nicht verstehen, welche personenbezogenen Daten über sie erfasst werden und welche Konsequenzen dies für sie mitbringt. Digitale Souveränität im Kontext der Mensch-Technik-Interaktion soll jedoch über die rechtliche Basis hinausgehen – es geht um die Steigerung von Kompetenzen im digitalen Raum und Instrumente, die Nachvollziehbarkeit erhöhen und dazu beitragen, kompetente Entscheidungen zu treffen. Die Gesellschaft für Informatik (GI) eint in ihren 20.000 Mitgliedern und 14 Fachbereichen enorme Expertise zu diesen Fragestellungen. Wir wollen seit 50 Jahren wissen, welche Antworten die Informatik auf die drängenden Fragen unserer Zeit bereithält.

Aus dieser Position wird sich die GI in den kommenden Jahren im Themenkomplex digitale Souveränität mit Projekten zur Mensch-Technik-Interaktion verorten. In einem interdisziplinären Verbund mit Partnern von der RWTH Aachen, der Universität Bremen, der Otto-Friedrich-Universität Bamberg, der Stiftung Digitale Chancen und Garmin Würzburg GmbH wollen wir untersuchen, welches Potenzial interaktive Datenschutzlösungen zur Steigerung der Souveränität von Smart-Wearables-Nutzer*innen haben.

Immer mehr Menschen nutzen Fitnesstracker, Smart Watches und ähnliche Technologien, die Bewegungsmuster und Vitalfunktionen aufzeichnen und auswerten. Besonders im Umgang mit sensiblen, persönlichen Gesundheitsdaten wollen wir Lösungen für informierte und reflektierte Nutzungsentscheidungen entwickeln und bereitstellen. Die Diskussionen um Tracking-Anwendungen und die „Datenspende-App“ des Robert Koch-Instituts zur Eindämmung der pandemischen Ausbreitung des Corona-Virus im Frühjahr 2020 zeigt einerseits, welcher gesellschaftliche Nutzen von derartigen Technologien ausgehen kann und andererseits, die Wichtigkeit informierter Nutzungsentscheidungen für eine sichere und datenschutzkonforme Lösung.1 Neben dem Bereich Gesundheit stehen auch Mobilität und „digitale Gesellschaft“ im Fokus des Programms. Letztendlich soll bei allen Forschungsprojekten der Mensch im Mittelpunkt stehen.

Auch in der Arbeitswelt, insbesondere im Personalmanagement stellen sich viele Fragen zum digital-souveränen Umgang mit algorithmischen Entscheidungssystemen. In einem weiteren Forschungsprojekt werden wir daher Handlungsempfehlungen zur Verbesserung von Nachvollziehbarkeit und Beherrschbarkeit in KI-basierten Systemen am Beispiel der Steuerung kollaborativer Produktionsprozesse und individueller Arbeitskarrieren entwickeln. Die Studie wird durch das Bundesministerium für Arbeit und Soziales (BMAS) finanziert und entsteht in Zusammenarbeit mit dem Algorithm Accountability Lab an der TU Kaiserslautern, dem Institut für Rechtsinformatik an der Universität des Saarlandes, dem Fraunhofer-Institut für Experimentelles Software Engineering sowie der Stiftung Neue Verantwortung.2

Um diese vielfältigen Fragestellungen und noch zu entwickelnden Lösungsansätze zu integrieren, wollen wir gemeinsam mit der AlgorithmWatch gGmbH das „Netzwerk Digitale Souveränität“ ins Leben rufen, in dem wir spannende Erkenntnisse für die interessierte Öffentlichkeit, die Politik und die Wirtschaft aufbereiten werden. Wir wollen den öffentlichen Diskurs fachlich fundiert anreichern und gleichzeitig eine Demokratisierung der entstehenden Information erreichen. Denn: In einer digitalisierten Gesellschaft brauchen wir vielfältige Lösungen und klare Ziele. Eines davon ist die Mündigkeit von Nutzer*innen.

 

1Vgl. die Pressemitteilung der GI vom 09.04.2020: „GI kritisiert ‚Datenspende-App‘ des Robert-Koch-Instituts“ https://gi.de/meldung/gi-kritisiert-datenspende-app-des-robert-koch-instituts

2Weitere Informationen zum Projekt unter https://testing-ai.gi.de

 

Elisabeth Schauermann ist Referentin für Politik bei der GI, sie leitet das Projekt InViDas im Rahmen des Förderprogramms „Mensch-Technik-Interaktion für eine digitale Souveränität“ des BMBF und ist Expertin in den Bereichen Internet Governance und partizipative Prozessgestaltung.

Nikolas Becker ist Referent für Politik bei der GI, er leitet das Projekt „Testing und Auditing von KI-Systemen“ des BMAS und ist Experte in den Bereichen Digitalisierung und Nachhaltigkeit, Datenschutz und IT-Sicherheit.

Dieser Beitrag erschien im GI-Arbeitspapier "Schlüsselaspekte digitaler Souveränität" (Mai 2020, PDF).

© Gesellschaft für Informatik -