Mit der Verbreitung des Internets und dem Aufkommen sozialer Netzwerke finden gesellschaftliche Diskurse zunehmend online statt. Online-Plattformen, wie beispielsweise Facebook und Instagram, aber auch eigens für Bürger:innenbeteiligung entwickelte Portale, bieten großes Potenzial, sich – unabhängig von Ort und Zeit – zu vernetzen, Ideen auszutauschen und gemeinsame Entscheidungen zu treffen. Allerdings zeigt sich, dass dieser Austausch online oftmals problematisch verläuft. So lädt die Anonymität im Netz manche Menschen dazu ein, sich beleidigend gegenüber anderen Diskussionsteilnehmenden zu äußern. Auch wird häufig kein Bezug zu den Beiträgen anderer Nutzender hergestellt, sondern schlicht die eigene Meinung kundgetan. Und in einer laufenden Diskussion ist es meist schwierig, den Überblick über bereits genannte Argumente und zu behalten. Doch nicht nur die Forschung hat sich bislang vor allem auf die Beschreibung negativer Effekte konzentriert. Auch in der öffentlichen Wahrnehmung werden Online-Diskussionen vielmehr mit Polarisierung und Shitstorms statt mit Integration und Solidarität assoziiert (Sunstein, 2017). Vereinzelt finden sich jedoch auch Beispiele, die zeigen, dass ein respektvoller Austausch zu gesellschaftlich relevanten Themen online möglich ist. Hier setzen wir mit dem Projekt Innovative Interventionen für diskursive Integration, kurz INDI, an. Wir möchten Künstliche Intelligenz (KI) dazu verwenden, Online-Diskussionen integrativer im Sinne einer sogenannten „diskursiven Integration“ zu gestalten.
Was versteht man unter diskursiver Integration?
Diskursive Integration beschreibt einen Zustand innerhalb einer Debatte über gesellschaftlich-politische Fragestellungen, in dem die Teilnehmenden möglicherweise nicht einer Meinung sind, sich jedoch nicht feindselig gegenüberstehen. „Streiten ohne sich zu hassen“ – das ist unsere Arbeitsdefinition. Im Mittelpunkt steht folglich nicht die inhaltliche Einigung der Diskussionsteilnehmenden, sondern ihr Verhalten und Umgang miteinander. Unseren Vorstellungen zufolge sollten Online-Diskussionen idealerweise sogar so verlaufen, dass Teilnehmende nach Ende der Diskussion Lust hätten, erneut miteinander ins Gespräch zu kommen. Um solch einen Zustand zu erreichen, bedienen wir uns einem theoretischen Verständnis von sozialer Integration als Ausmaß geteilter Normen innerhalb einer Gesellschaft (Fuchs, 1999). Normen werden definiert als Verhaltensregeln oder Erwartungen an das Verhalten anderer, z.B. Höflichkeit oder Ehrlichkeit (Opp, 2015). Ziel des INDI-Projektes ist es, im engen Austausch mit Anspruchsgruppen, die ihre professionelle Sicht oder auch ihre Alltagsexpertisen zu Online-Diskussion in den Forschungsprozess einbringen, Normen zu identifizieren, die diskursive Integration fördern. Dafür führen wir co-kreative Formate durch, in denen wir gezielt verschiedene Gruppen dazu einladen, darüber nachzudenken, was diskursive Integration ausmacht und wie wir diese mit KI unterstützen könnten. Davon ausgehend wollen wir innovative Interventionen in Form einer KI entwickeln, die die Einhaltung dieser Normen unterstützen und damit das Miteinander in Online-Diskussionen zu stärken.
Wie kann KI diskursive Integration stärken?
KI lernt aus großen Datenmengen und kann davon ausgehend Aufgaben lösen. So ist sie beispielsweise in der Lage, Texte zusammenzufassen, Argumente zu erkennen und die Haltung von Teilnehmenden zum Diskussionsthema zu erkennen. Wer ChatGPT schon einmal eine Frage gestellt und mit der KI diskutiert hat, weiß, dass auch das Generieren von Text erstaunlich gut funktioniert. Gerade für politische Online-Diskussionen birgt dies jedoch ebenso Gefahren, da automatische Textgenerierung das schnelle Verbreiten von Desinformation noch einfacher macht. Aber auch zur Erkennung von Desinformation und zum Detektieren von Bots kann KI genutzt werden. Die Einsatzmöglichkeiten von KI in Online-Diskussionen sind also vielfältig (Karacapilidis et al., 2024). Einige potenzielle Anwendungen, die für unser Projekt relevant sind, wollen wir im Folgenden näher betrachten:
- Schreibunterstützung: Um Menschen den Einstieg in Diskussionen zu erleichtern und jedem die gleiche Möglichkeit zu geben, sich in die Diskussion einzubringen, kann KI als Formulierungshilfe eingesetzt werden. Wenn Antworten beleidigende Elemente beinhalten, kann eine KI auch eine höflichere Alternative vorschlagen (Argyle et al., 2023). So kann das Diskussionsklima verbessert und infolgedessen auch die diskursive Integration gesteigert werden.
- Kontext anfordern: Ähnlich wie bei der Schreibunterstützung könnte KI die Kommentare der Teilnehmenden prüfen, bevor diese versendet werden und darauf hinweisen, wenn in der Argumentation Begründungen fehlen. Die KI würde also weiteren Kontext anfordern, um so die Kommentare aller Beteiligten verständlicher zu machen.
- Unterstützung der Moderation: Viele Online-Diskussionsverfahren werden von speziell dazu ausgebildeten Moderator:innen begleitet. Diese sorgen für ein angemessenes Diskussionsklima und greifen ein, wenn sich Teilnehmende beispielsweise respektlos verhalten. KI kann hier unterstützen, indem sie hasserfüllte und beleidigende Kommentare erkennt und der menschlichen Moderation anzeigt. Gleiches gilt für besonders gehaltvolle Kommentare, die in der Diskussion hervorgehoben werden könnten. KI ist außerdem in der Lage, die Stimmung innerhalb einer Diskussion zu analysieren oder Fragen zu formulieren, die die Diskussion vorantreiben.
- Verbesserung der Übersichtlichkeit: Um bei vielen geäußerten Meinungen den Überblick in einer Diskussion zu behalten, kann KI eine automatische Zusammenfassung erstellen oder Beiträge mit Anmerkungen (sogenannte „Tags“) versehen, nach denen Teilnehmende suchen können. Eine weitere Anwendung, bei der KI zum Einsatz kommt, sind Recommender Systeme. Also Systeme, die basierend auf den eigenen Interessen oder Positionen, andere Nutzende oder Beiträge finden und vorschlagen. So wie beispielsweise Kundin:innen in Online-Shops Produkte vorgeschlagen werden, die sie, basierend auf ihren früheren Käufen und Suchanfragen, interessieren könnten.
- Konfrontation mit gegensätzlichen Meinungen: Ein Schwachpunkt von Online-Diskussionen ist, dass sich Teilnehmende oftmals nicht oder nicht ausreichend mit Meinungen auseinandersetzen, die nicht ihrer eigenen entsprechen. KI kann hier eingesetzt werden, um die Haltung der Teilnehmenden zum Thema zu analysieren und so geeignete Kommentare zu finden, um sie Menschen mit gegensätzlichen Meinungen vorzuschlagen. Dadurch soll eine angeregte Diskussion entstehen, in der Teilnehmende nicht nur immer wieder mit der eigenen Meinung konfrontiert und in dieser gestärkt werden, sondern sich mit anderen Meinungen auseinandersetzen sollen.
Im INDI-Projekt wollen wir aber nicht nur eine KI entwickeln und testen, sondern auch ihre Auswirkungen auf die diskursive Integration messen. Dazu gilt es ebenso, geeignete empirische Instrumente zu entwickeln. Dabei gehen wir von der Prämisse aus, dass die KI als Unterstützung eingesetzt wird, d.h. unser Ziel ist es nicht, dass sie selbstständig Entscheidungen trifft oder gar mitdiskutiert.
Das INDI-Projekt ist Teil des Clusters „Perspektiven offener Wissenschaften in einer digitalisierten Demokratie“. Mehr dazu und zu den Aktivitäten und Ergebnissen des Projekts erfahren Sie auf dieser Webseite oder auch hier.
Autorinnen: Maike Behrendt & Viviana Warnken (Projekt IndI)
Quellen:
Argyle, L. P., Bail, C. A., Busby, E. C., Gubler, J. R., Howe, T., Rytting, C., … & Wingate, D. (2023). Leveraging AI for democratic discourse: Chat interventions can improve online political conversations at scale. Proceedings of the National Academy of Sciences, 120(41), e2311627120.
Fuchs, D. (1999). Soziale Integration und politische Institutionen in modernen Gesellschaften (Discussion Paper FS III 99-203). Wissenschaftszentrum Berlin für Sozialforschung.
http://bibliothek.wz-berlin.de/pdf/1999/iii99-203.pdf
Karacapilidis, N., Kalampokis, E., Giarelis, N., & Mastrokostas, C. (2024). Generative AI and Public Deliberation: A Framework for LLM-augmented Digital Democracy. Proceedings of Ongoing Research, Practitioners, Posters, Workshops, and Projects of the International Conference EGOV-CeDEM-ePart 2024. https://ceur-ws.org/Vol-3737/paper33.pdf
Opp, K.-D. (2015). Norms. In J. D. Wright (Hrsg.), International Encyclopedia of the Social & Behavioral Sciences (2. Aufl., S. 5–10). Elsevier.
https://doi.org/10.1016/B978-0-08-097086-8.32103-1
Sunstein, C. R. (2017). #Republic: Divided Democracy in the Age of Social Media. Princeton: Princeton University Press.