Projekt-Kick-off: DeMasKI – Desinformation erkennen mit hybridem KI-Ansatz
In einem neuen Projekt geht die GI zusammen mit Forschungspartnern der Frage nach, wie sich emotionalisierende Sprachmuster und das Fehlen sachlicher Argumentation in historischen wie aktuellen Texten automatisiert identifizieren lassen können. Der Auftakt fand vergangene Woche in Nürnberg statt.
Am 27. April 2026 fand an der Technischen Universität Nürnberg das Auftakttreffen des Projekts DeMasKI (Desinformation und ihre Muster: Identifikation populistischer Emotionalisierung mit einem hybriden Ansatz) statt. Die beteiligten Partnerinstitutionen kamen dabei erstmals zusammen, um die Weichen für die gemeinsame Arbeit der kommenden drei Jahre zu stellen. Das Konsortium stimmte die Arbeitspakete ab, konkretisierte zentrale Meilensteine und widmete sich zugleich der Frage: Was meinen wir eigentlich, wenn wir von Desinformation sprechen?
Ziel und Ansatz
Das Projektteam untersucht sprachliche Muster emotionalisierender Desinformation in antiken Texten und aktuellen Social-Media-Beiträgen (u. a. X/Twitter/TruthSocial), sowie (Wahlkampf-)Reden. Die zentrale These: Desinformation meidet rationale Argumentation und ersetzt diskursiven Austausch durch bloße Behauptung, emotionalisierende Charakterisierungen und das Beschwören von Krisennarrativen – eine anti-diskursive Redeform, deren Muster zeitübergreifend erkennbar sind.
Das Projekt beginnt mit einer rhetorischen Analyse historischer und aktueller Texte mit manipulativen Redestrategien. Auf dieser Grundlage erfolgt eine KI-gestützte Analyse in einem hybriden Verfahren: Mittels Induktiver Logischer Programmierung (ILP) werden die identifizierten rhetorischen Muster in explizite, interpretierbare Regeln überführt. Diese werden anschließend mit einem neuronalen Modell kombiniert, das eine Generalisierung auf neue Texte und eine Skalierung der Mustererkennung über verschiedene Plattformen und Sprachen hinweg ermöglicht. Für die KI-Analyse ist Prof. Dr. Ute Schmid von der Otto-Friedrich-Universität Bamberg mit Felix Haase, Doktorand an ihrem Lehrstuhl. Das Vorhaben wird von der informatischen Fachcommunity aktiv in Form von Hackathons begleitet,
Die Projektergebnisse – darunter annotierte Datensätze, entwickelte Modelle und methodische Erkenntnisse – werden über eine Open-Source-Toolbox auf der Projektwebseite frei zugänglich gemacht. Die Befunde werden zudem in Stakeholderworkshops diskutiert, um darauf aufbauend eine Handreichung für Demokratiebildungsformate zu entwickeln. In Zusammenarbeit mit eduversum, einem Verlag für Lehrmittel, fließen die Erkenntnisse außerdem in die Lehrkräftebildung ein und werden so nachhaltig verankert.
Das Projekt wird von Prof. Dr. Gyburg Uhlmann, Gründungs-Chair des Departments of Liberal Arts and Social Sciences an der Technischen Universität Nürnberg (UTN) und Professorin für Klassische Philologie (Gräzistik) und ihrem Team, Dr. Tobias Hirsch und Iuliia Burtceva geleitet. Weitere Partner im interdisziplinären Konsortium sind Prof. Dr. Ute Schmid und Felix Haase von der Otto-Friedrich-Universität Bamberg, Dr. Nikolai Horn und Marcel Schneuer vom iRights Lab sowie Maja Denisova von der Gesellschaft für Informatik.
DeMasKI ist Teil der BMFTR-Fördermaßnahme „Desinformation – erkennen, verstehen, abwehren", im Rahmen derer elf interdisziplinäre Forschungsprojekte mit insgesamt mehr als 20 Millionen Euro gefördert werden. Mehr zu der Fördermaßnahme und den Projekten unter https://www.forschung-it-sicherheit-kommunikationssysteme.de/forschung/it-sicherheit/desinformation.
Bei Fragen rund um das Projekt:
Maja Denisova
maja.denisova@gi.de
Gesellschaft für Informatik e.V. (GI)
Geschäftsstelle Berlin
