Wie spreche ich mit und über KI? Kritischer Sprachgebrauch gegen Sexismus

Dass KI und Sprache in einem direkten Zusammenhang stehen, zeigen uns tagtäglich Voice-Assistants wie Siri oder Alexa. Aber auch bei Übersetzungen greifen viele Tools heutzutage auf die Nutzung von KI zurück. Spätestens seitdem auch unsere Suchmaschinen ihre Funktionen mit KI unterstützen, ist die direkte Verbindung von Sprache mit der Sprache von KI im Alltag der meisten Menschen nicht mehr wegzudenken.

Hat KI ein Geschlecht?

Somit steht ausser Frage, dass sich auch hinsichtlich der steigenden Präsenz von KI in unserem Alltag unser Sprachgebrauch in den letzten Jahren stark verändert hat. Eines ist leider gleichgeblieben: Der Sexismus gegenüber Frauen. Denn Personen, die die vermeintlich weiblichen Voice-Assistants nutzen, übertragen ihre gesellschaftlichen Ansichten, Glaubenssätze und Verhaltensweisen gegenüber Frauen auf weiblich klingende Voice-Assistants (Koster et al., 2023).

Die amerikanische Soziolinguistin Deborah Tannen erklärt, dass es Menschen deutlich leichter fällt, Frauen um Hilfe zu bitten oder Anweisungen zu geben, die sie zu erfüllen haben (Simões, 2022). Somit werden veraltete und sexistische Rollenbilder aufrechterhalten und sogar verstärkt. Denn die ständigen sprachlichen Befehle, die man(n) an Voice-Assistants richtet, die mit einem weiblichen Namen adressiert werden, führen unterbewusst zu einer direkten Assoziation von Dienstbarkeit und Untertänigkeit mit Frauen.

Auch in der Art, wie wir über KI sprechen, fällt der Sexismus in der Sprache auf. Wir schreiben KI ein Geschlecht zu, während wir uns – in der deutschen Sprache – miteinander darüber austauschen. Denn im Deutschen wird durch die Verwendung des grammatikalischen Geschlechts das vermeintlich biologische Geschlecht impliziert. Dies geschieht auch bei dem Begriff Künstliche Intelligenz, da es im Deutschen „die Intelligenz“ ist, also wird dem Substantiv ein weiblicher Artikel zugeschrieben. Das Genus überträgt sich so dementsprechend auch auf den Begriff selbst. Somit wird eine Assoziation geschaffen, die durch Sprache verstärkt wird und sich auch negativ auswirken kann.

KI verstärkt Sexismus

Inwiefern besteht hier nun ein konkreter Zusammenhang zur KI? KI-basierte Sprachmodelle werden mit Daten trainiert, anhand derer KI „lernt“. Sie bestimmen die Art der Ergebnisse, also die Sprache von KI – sowohl die Inhalte und die Tonalität, als auch den Umgang mit der Wahl des grammatischen Geschlechts.

Der Lernprozess von Sprachmodellen ist Teil des Machine Learnings, dessen geschlechtsspezifische Voreingenommenheit schon länger bekannt ist: »There have been hundreds or thousands of papers written about word embeddings and their applications, (…). However, none of these papers have recognized how blatantly sexist the embeddings are and hence risk introducing biases of various types into real-world systems.« (Bolukbasi, 2016) Das sogenannte Word Embedding beschreibt ein Verfahren, das für die Darstellung von Textdaten als Vektoren, die ihren Zusammenhang aufzeigen sollen, steht. Dieses Verfahren wird oft bei der Verarbeitung natürlicher Sprache eingesetzt. Die Daten, mit denen Sprachmodelle trainiert werden, weisen jedoch erhebliche Geschlechter-Stereotype auf.

Wie können wir den Sprachmodellen den Sexismus abtrainieren?

Large Language Models (LLMs) sind in der Lage, Texte zu generieren, Fragen zu beantworten, Texte zusammenzufassen, und vieles mehr, indem sie auf Patterns und Wissensbestände in den Daten bauen, auf denen ihr Training basiert. Sie sind ein Beispiel für NLP-Technologien, die zu sehr leistungsfähigen Sprachverarbeitungssystemen führen. NLP-Technologie umfasst das Natural Language Processing, also die Natürliche Sprachverarbeitung, die wiederum ein Bereich der Künstlichen Intelligenz ist. Ziel von NLP ist es, Computern Fähigkeiten zu verleihen, die es ihnen ermöglichen, menschliche Sprache zu verstehen, zu interpretieren und gegebenenfalls selbst zu erzeugen oder zu bearbeiten.

Bei den Verfahren wird häufig der in den Textdaten vorhandene Bias auf das sprachliche Ergebnis übertragen. Um diese Voreingenommenheit, die ein Algorithmus, der auf Basis diskriminierender Daten trainiert wurde, zu verhindern, gibt es auch innerhalb der NLP-Forschung Lösungsansätze. Aktuelle Forschungen wie beispielsweise NBIAS (Shaina et al., 2024) tragen zu mehr Gleichberechtigung bei der Nutzung von Textdaten bei.

Meiner Einschätzung nach ist eine der elementarsten Erkenntnisse der Forschungen zum Bias von KI und den Methoden ihrer Bekämpfung, die ausbleibende multilinguale Übertragbarkeit, die die Geschlechter-Bias reduzieren sollen. Denn abhängig von ihrer grammatikalischen Struktur, wirken sich Übersetzungen unterschiedlich auf die Sprache aus:

„(…) Since German is a gender-marking language, the agreement between the grammatical gender of the person word and the profession influences the associations.“ (Marion Bartl, Malvina Nissim, Albert Gatt, 2020a)

Es gibt Methoden, die das Ziel haben, diese Geschlechter-Bias, also die Voreingenommenheit von Sprachmodellen, zu messen und diese letztendlich zu reduzieren. Kürzlich hat sich unter anderem Marion Bartl damit beschäftigt, die Assoziations-Bias zwischen einem geschlechtsbezeichnenden Zielschlüsselwort und einem Attributwort, wie einem Beruf, zu erkennen. Dafür nutzte sie eine Methode, die die Wortwahrscheinlichkeiten vom BERT-Sprachmodell, ein ursprünglich von Google entwickeltes Modell zur Optimierung der Beantwortung ihrer Suchanfragen, verwendet. (Marion Bartl, Malvina Nissim, Albert Gatt, 2020).

Generiertes Generische Femininum

Die grammatikalische Bezeichnung dieses „Defaults“ ist das „Generische Maskulinum“, welches eine große Rolle im Zusammengang mit dem Sexismus im Deutschen spielt. Hierzu gestaltete ich eine Arbeit namens Generiertes Generische Femininum. Es handelt sich um eine Browser-Extension für Google-Chrome, die die erheblich eingeschränkte Sichtbarkeit von Frauen und allen Personen, die sich nicht zu dem männlichen Geschlecht zählen – zumindest exemplarisch auf Websites – aufhebt. Die Extension prüft jegliche Website auf deutschen Text und erkennt darin die gendermarkierten Substantive, die sie dann in die weibliche Version der Substantive transformiert. Selbstverständlich benachteiligt das generische Maskulinum nicht nur Frauen. Da es sich bei meinem Experiment um eine provokative Demonstration handelt, liegt mein Fokus darauf, ein visuelles Konstrukt anzubieten, wie eine Welt aussähe, wenn ein generisches Femininum statt eines generischen Maskulinums existierte.

Sichtbarkeit in Sprache

Unser Fokus sollte noch viel mehr auf dem Sexismus und den daraus resultierenden Geschlechterungerechtigkeiten in den verschiedenen Sprachen liegen – sowohl in der linguistischen Forschung, als auch der Forschung zu NLP. In einem nächsten Schritt müssen die Forschungsergebnisse und Lösungsansätze auf die Trainingsdaten und -methoden für LLMs übertragen werden. Mir geht es um das Gesehen werden – expliziter das Sehen von Frauen und allen Menschen, die sich nicht als Männer identifizieren, in einer Gesellschaft, die von Männern und für Männer geformt und immer weiter angepasst wurde.

Quellen:

Koster, A.-K., Morais dos Santos Bruss, S., & Klipphahn-Karge, M. (2023). Queere KI – Zum Coming-out smarter Maschinen: Vol. Band 3. transcript Verlag. https://www.degruyter.com/document/doi/10.1515/9783839461891/html

Simões, A. (Director). (2022). Feminine AI Voices [Video recording]. https://motionographer.com/quickie/feminine-ai-voices-vice-news-graphics/

Bolukbasi. (2016). Man is to Computer Programmer as Woman is to Homemaker? Debiasing Word Embeddings [Boston University]. https://arxiv.org/pdf/1607.06520

Marion Bartl, Malvina Nissim, Albert Gatt. (2020a). Unmasking Contextual Stereotypes: Measuring and Mitigating BERT’s Gender Bias [Association for Computational Linguistics]. https://aclanthology.org/2020.gebnlp-1.1/

Shaina, R., Muskan, G., Deepak, J. R., Syed, R. B., & Chen, D. (2024). Nbias: A natural language processing framework for BIAS identification in text. https://www.sciencedirect.com/science/article/pii/S0957417423020444

(Dieser Beitrag wurde verfasst von Lisa Oelsen und in dieser gekürzten Fassung hier erstveröffentlicht.)

Lisa Oelsen ist Typografin und Buchgestalterin aus Düsseldorf. Sie befasste sich während ihres Masterstudiums „Kommunikationsdesign“ in Mainz mit den gesellschaftlichen und sozialen Aspekten von Künstlicher Intelligenz und der Gestaltungslehre. Ihr derzeitiger Forschungsschwerpunkt liegt auf dem Zusammenhang von Linguistik und Gestaltung. Mittels feministischer Methoden untersucht sie, wie der Einsatz von KI zu mehr Gleichberechtigung beitragen und wie ein verantwortungsbewusster Umgang mit Sprache und KI vermittelt werden kann.

Weitere Informationen zu ihren Werken, sowie alle aktuellen Projekte finden Sie auf ihrer Instagram-Seite @lisaoelsen.