INDI – Innovative Interventionen für diskursive Integration
Projektinformation
Projektleitung
Dr. Dennis Frieß
Heinrich-Heine-Universität Düsseldorf
Düsseldorfer Institut für Internet und Demokratie (DIID)
Laufzeit
11/2023 bis 10/2026
Projektstatus
laufend
Im Mittelpunkt des Projekts stehen Online-Diskussionen, die in den letzten Jahren immer stärker ein Teil unseres Alltags geworden sind. Allerdings hält die oftmals schlechte Qualität dieser Diskussionen viele Menschen davon ab, sich einzubringen. Hinzu treten andere Zugangshürden für bestimmte Bevölkerungsgruppen. Auf Künstlicher Intelligenz (KI) basierende Interventionen könnten dabei sowohl helfen, die Qualität von Online-Diskursen zu verbessern, als auch Zugangshürden abzubauen. Das aus Sozialwissenschaftler:innen und Informatiker:innen bestehende Projekt-Team möchte dieses Potential erforschen und fragt, wie KI dafür eingesetzt werden kann Online-Diskurse inklusiver zu gestalten.
Das Projekt verfolgt einen offener Wissenschaftsansatz, der einerseits nicht-wissenschaftliche Akteure systematisch in den Forschungs- und Entwicklungsprozess einbindet und anderseits die Ergebnisse der Forschung offene kommuniziert und nutzbar macht. In einem ersten Schritt sammeln die Forschenden zunächst gemeinsam mit Bürger:innen, Zivilgesellschaft und Organisator:innen von Online-Diskursen Ideen, was integrative Online-Diskurse ausmacht und wie man bestehende Diskursumgebungen verbessern könnte. Auf Basis dieser Co-Creative-Formate werden dann passende KI-Interventionen entwickelt. Denkbar sind beispielsweise automatisierte Moderation oder Erkennung von Hassrede. Die entwickelten Interventionen werden dann mit Nutzenden getestet und diskutiert. Dieses Feedback wird wiederum in den Forschungsprozess eingespeist, um schließlich eine KI-Anwendung zu entwickeln.
Gelingt es, Online-Diskurse mittels KI-Interventionen integrativer zu gestalten, so können diese Interventionen überall dort eingesetzt werden, wo online diskutiert wird: Beispielsweise in sozialen Medien wie Facebook oder unter YouTube-Videos, auf Nachrichtenwebseiten oder im Rahmen von digitalen Öffentlichkeitsbeteiligungsprozessen.
Dr. Dennis Frieß
Heinrich-Heine-Universität Düsseldorf, Düsseldorfer Institut für Internet und Demokratie (DIID)
Prof. Dr. Tobias Escher
Heinrich-Heine-Universität Düsseldorf, Düsseldorfer Institut für Internet und Demokratie (DIID)
Prof. Dr. Marc Ziegele
Heinrich-Heine-Universität Düsseldorf, Düsseldorfer Institut für Internet und Demokratie (DIID)
Viviana Warnken
Heinrich-Heine-Universität Düsseldorf, Düsseldorfer Institut für Internet und Demokratie (DIID)
Dr. Maike Behrendt
Heinrich-Heine-Universität Düsseldorf, Düsseldorfer Institut für Internet und Demokratie (DIID)
Weitere Informationen
Ergebnisse und Materialien
Innovative Interventionen für diskursive Integration
Das Poster gibt eine Übersicht über das Projekt und die erarbeiteten Ergebnisse. Dazu wurde auch ein Audio-Guide erstellt.
Das Paper zeigt, wie KI genutzt werden kann, um Online-Diskussionen, die häufig von einem rauen Umgangston geprägt sind, konstruktiver und inklusiver zu gestalten. Im Mittelpunkt dabei steht der co-kreativ entwickelte Diskussionsassistent, der problematische Kommentare erkennt und mittels KI alternative, respektvollere Formulierungen vorschlägt. Der Beitrag beschreibt den co-kreativen Entwicklungsprozess und gibt Einblick in den aktuellen Stand des Prototyps.
In dem Blogbeitrag von Maike Behrendt und Viviana Warnken werden Einsatzmöglichkeiten von KI im Kontext von Online-Diskussionen skizziert und auf ihr Potential hin diskutiert, zu einer diskursiven Integration beitragen zu können. Ausgehend von der Herausforderung, dass Online-Diskussionen eher mit gesellschaftlicher Polarisierung und Hassrede als mit konstruktiven Diskussionen verbunden werden, widmen sich die Autorinnen der Frage, wie diesen Phänomenen technisch begegnet werden kann, um Online-Diskussionen integrativer zu gestaltet.
Publikationen
Behrendt, Maike, Warnken, Viviana, Friess, Dennis, Ziegele, Marc & Escher, Tobias (2026): Using AI to Support Discursive Integration in Online Discussions. Proceedings of The 2nd Workshop on Language-driven Deliberation Technology, 1–6 May, 2026. Online abrufbar unter: http://lrec-conf.org/proceedings/lrec2026/workshops/delite/2026.delite-1.0.pdf
Behrendt, M., Escher, T., Frieß, D., Warnken, V.N.E., & Ziegele, M. (2025, 9.–10. Oktober). An AI Based Discussion Assistant for more Pluralistic Online Spaces – A Project Report. Interdisciplinary Conference: Creating Spaces for Digital Futures (CAIS), Bochum.
Behrendt, Maike, Wagner, Stefan S., Ziegele, Marc, Wilms, Lena, Stoll, Anke, Heinbach, Dominique, & Harmeling, Stefan (2024). AQuA-Combining Experts‘ and Non-Experts‘ Views To Assess Deliberation Quality in Online Discussions Using LLMs. The First Workshop on Language-driven Deliberation Technology (DELITE2024) co-colacted with LREC-COLING 2024, Torino, Italy. arXiv preprint arXiv:2404.02761. Online abrufbar unter: https://arxiv.org/pdf/2404.02761.pdf.
Friess, D., Weinmann, C. & Warné, M., (2025). AI and Deliberation: Normative Ideals in the Light of Current AI Research – A Review. Journal of Deliberative Democracy 21(1), 1-11, https://doi.org/10.16997/jdd.1805
Friess, D., & Weinmann, C. (2025). Making Online Participation More Intelligent: Considerations on How Artificial Intelligence Can Support Public Online Participatory Processes. In E. Paulis, R. Kies & A. Östling (Hrsg.). Public Deliberation in the Digital Age. Platforms, Participation, and Legitimacy (S. 143-157). Routledge.
Warnken, V.N.E., Ziegele, M., Frieß, D., Escher, T., & Behrendt, M. (2025). Arguing Without Animosity? Theorizing and exploring the concept of discursive integration. Interdisciplinary Conference: Creating Spaces for Digital Futures (CAIS),9.–10. October, Bochum.
Warnken, V.N.E. (2026, 4.–8. Juni). Arguing Without Animosity? Theorizing and Exploring the Concept of Discursive Integration. 76. Jahreskonferenz der International Communication Association (ICA), Kapstadt.
Carstens, Jonas. A.; Friess, Dennis (2024). AI Within Online Discussions: Rational, Civil, Privileged? In: Minds & Machines, 34(10), 1-25. https://doi.org/10.1007/s11023-024-09658-0.