Die öffentlichen Chatbots kommen

„Wir haben zwei Kinder und möchten uns scheiden lassen“ – Solche oder ähnliche Lebenssituationen kann man in Zukunft in Finnland einem Chatbot schildern. Dieser soll einem dann passende Dienstleistungen der öffentlichen Verwaltung vorschlagen (tab-beim-bundestag.de). Der Chatbot greift dabei auf ein Netzwerk namens AuroraAI (vm.fi) zurück, welches vom finnischen Finanzministerium koordiniert wird (vm.fi). Das Netzwerk bündelt und verknüpft digitale Dienstleistungen der öffentlichen Verwaltung und soll zukünftig auch für private oder zivilgesellschaftliche Anbieter geöffnet werden.

Somit muss man nicht mehr selbst in Erfahrung bringen, welche Dienstleistungen es gibt und wo diese angeboten werden. Dadurch sollen Dienstleistungen insgesamt zugänglicher gemacht werden (vm.fi). Über die technische Umsetzung des AuroraAI-Chatbots ist allerdings recht wenig bekannt (digifinland.fi).

Auch in Deutschland verwenden bereits einige Behörden Chatbots, um Bürger:innen über ihre angebotenen Leistungen zu informieren. So nutzt Berlin beispielsweise den Chatbot Bobbi (service.berlin.de), dem man Fragen zu ausgewählten Dienstleistungsangeboten der Berliner Verwaltung stellen kann. Häufig zitiert Bobbi dann die Inhalte der zugehörigen Webpage oder stellt die entsprechenden Links zur Verfügung. Heidelberg bietet seit 2021 mit dem Chatbot „Hardi“ (heidelberg.de) ähnliche Informationsmöglichkeiten, mit einem Fokus auf das Angebot der Bürgerämter. Auch in weiteren Städten wie Köln (stadt-koeln.de) oder Hamburg (hamburg.de) bieten einzelne Behörden einen entsprechenden Chatbot an.

Auf Bundesebene bietet die Verwaltung Chatbots für alle Bürger:innen an, die sogenannten Bundesbots (itzbund.de). So beantwortet der Chatbot TinA des Zolls (bundesbots.de) Fragen rund um den grenzüberschreitenden Waren-, Personen- und Dienstleistungsverkehr, während der Chatbot Felia (bundesbots.de) beispielsweise Fragen rund um die Warnapp „Nina” beantwortet. Das Bundesministerium des Innern für Bau und Heimat (BMI) hat den KI-gestützten Chatbot „KAI” entwickelt, der Reisenden und Migrant:innen bei Einreise- und Aufenthaltsfragen behilflich sein soll (bundesbots.de).

Die Chatbots der Bundesverwaltung werden hierbei stetig ausgebaut und um neue Angebote erweitert. Langfristig ist hiermit auch die Vision verbunden, alle einzelnen Bundesbots zu einem Bundesassistenten zusammenzuführen, damit Bürger:innen das Dienstleistungsangebot der Behörden unabhängig von Zuständigkeiten nutzen können. Die entsprechenden Anfragen sollen dann dem jeweils passenden Chatbot zur Beantwortung zugeteilt werden.

Hierbei ist die Funktionalität der bisher in der öffentlichen Verwaltung verfügbaren Chatbots jedoch verhältnismäßig überschaubar. Bekannte Fragen (Frequently Asked Questions oder FAQs) werden mit vorgefertigten Texten beantwortet und weitergehende Angebote oder Nachfragen zur Verfügung gestellt. Stellenweise werden KI-Tools in Form von Übersetzungen oder Feedbacksystemen genutzt. Unbekannte oder stark umformulierte Fragen können diese Chatbots jedoch häufig nicht beantworten.

Während aktuell eingesetzte Chatbots lediglich häufig gestellte Fragen beantworten, könnte der Einsatz von Large Language Models (LLM) in der öffentlichen Verwaltung die Bearbeitung von komplexeren Anfragen, z.B. zu städtischen Klimaschutzmaßnahmen, ermöglichen. Large Language Models wie ChatGPT sind künstliche neuronale Netzwerke, welche mit großen Datenmengen trainiert werden. Mehr Informationen zu den technischen Hintergründen von LLMs wie ChatGPT und deren Einsatz in der Lehre finden sich in unserem Artikel aus einer vorherigen Ausgabe des GI-Radars (gi-radar.de).

Die Möglichkeit des verstärkten Einsatzes von LLM in öffentlichen Chatbots könnte den Mehrwert und die Attraktivität dieser Technologie steigern. Allerdings bringt dies potenzielle Risiken mit sich, insbesondere in Bezug auf Datenschutz und die Genauigkeit der bereitgestellten Informationen. 

Aktuelle LLMs stammen vor allem aus den USA und Anfragen werden von US-Servern verarbeitet. Dies wird den Datenschutzansprüchen europäischer Behörden nicht gerecht. Europa bleibt hinsichtlich der technischen Kapazitäten noch einige Jahre hinter den USA oder China zurück (europa.eu).

Da LLMs stochastische Verfahren nutzen, um Antworten zu generieren, können hierbei auch Fehler auftreten und möglicherweise falsche Informationen weitergegeben werden. Insbesondere im Kontext von behördlichen Dienstleistungen stellt dies für das Vertrauen in die öffentliche Verwaltung ein großes Problem dar. Dieses könnte zwar durch manuelle oder stichprobenhafte Prüfungen von Antworten durch menschliche Bearbeiter:innen gemindert, jedoch wohl kaum komplett aus der Welt geschafft werden. Da also keine Garantie für verlässliche Informationen durch stochastische Verfahren gegeben werden kann, bleibt die Frage offen, ob überhaupt ein verantwortungsvoller Einsatz der Technologie möglich ist. Eine Studie zum Einsatz von Chatbots in der Verwaltung (sciencedirect.com) legt nahe, dass die Akzeptanz öffentlicher Chatbots stark vom Anwendungsgebiet und der Kommunikation bei ihrer Einführung abhängt.

Auch muss man sich fragen, ob es zum Einsatz von LLM für behördliche Webseiten überhaupt dedizierte Chatbots benötigt. Durch LLM gestützte Suchmaschinen wie Bing AI können bereits jetzt die Inhalte von Internetseiten analysieren und basierend hierauf passende Antworten geben. Wird diese Technologie noch weiterentwickelt, könnte vielleicht schon diese Technologie viele Informationen zugänglicher machen. Die Frage nach dem Datenschutz kann dabei jedoch nicht gelöst werden.

Ganz abgesehen vom Einsatz von LLM für Chatbots sollte in der Diskussion der Aspekt der Barrierefreiheit und Inklusion nicht vernachlässigt werden. Dauerhafte Verfügbarkeit und die potenzielle sprachliche Flexibilität könnten die Zugänglichkeit verbessern und insgesamt zu einer positiven Bürgerservice-Erfahrung führen. Auch beim Ausfüllen komplizierter Formulare könnten Chatbots möglichst barrierefrei unterstützen. Andererseits mangelt es den Chatbots an Empathie, insbesondere in sensiblen Situationen oder bei komplexen Anliegen, in denen menschliche Intuition und Einfühlungsvermögen erforderlich sind. Wenn bei Sachbearbeiter:innen durch den Einsatz von Chatbots mehr Kapazitäten frei werden, können diese zumindest theoretisch für genau diese eher menschlichen Kompetenzen eingesetzt werden.

Wirtschaftliche Aspekte, wie die möglichen Kostenersparnisse durch die Reduzierung des Personalaufwands und eine gesteigerte Effizienz durch die Verarbeitung von mehreren Anfragen gleichzeitig, führen zu Bedenken hinsichtlich des Verlusts von Arbeitsplätzen. Gleichzeitig könnten Chatbots durch die zentrale Aufbereitung von Daten aus Bürger:innen-Interaktionen wertvolle Einsichten für die Verwaltung liefern, um ihre Dienste weiter zu verbessern. Abschließend bleibt zu sagen, dass – während Chatbots das Potenzial haben, den öffentlichen Sektor zu revolutionieren – eine sorgfältige Abwägung und Umsetzung erforderlich ist, um die bestmöglichen Ergebnisse zu erzielen

Dieser Überblick wurde verfasst von Lasse Cezanne, Benjamin Stopp und Yasmina Adams aus der Redaktionsgruppe „SocIeTy“. Da sowohl gesellschaftlich als auch politisch insbesondere im Rahmen der Verwendung neuer Technologien immer wieder Diskussionsbedarf entsteht, freuen wir uns, gemeinsam einen Diskurs zu genau solchen Themen zu gestalten. Verlinken (und folgen) Sie uns gerne auf X (vormals Twitter) unter @society_read. Sie erreichen uns außerdem unter redaktion.sozioinformatik@cs.uni-kl.de.

Der Text erschien zuerst in unserem Newsletter GI-Radar. Alle Ausgaben gibt es hier zum Nachlesen. Vielen Dank an die Autor*innen!