In Zusammenarbeit mit der Technischen Universität Wien (TU Wien) führt Sophie Lecheler in den kommenden vier Jahren das Forschungsprojekt Transparent Automated Content Moderation (TACo) durch. Das Projekt wird vom Wiener Wissenschafts-, Forschungs- und Technologiefonds (WWTF) gefördert.

Unter der Leitung von Sophie Lecheler (PI) und Allan Hanbury (Co-PI, TU Wien) soll im Rahmen von TACo ein nutzerzentrierter Ansatz für die automatisierte Moderation von Inhalten untersucht werden. Ab Januar 2022 wird das Projektteam durch eine/n zusätzliche/n Praedoc an unserem Institut unterstützt.

Zum Inhalt: Politische Diskussionen im Internet sind zunehmend durch Negativität und Konflikt gekennzeichnet – mit negativen Konsequenzen für Bürger:innen, Politik und Gesellschaft. Diese "toxischen" Inhalte werden darum auf vielen Plattformen durch (automatisierte) Content Moderationsverfahren eingedämmt. Diese Verfahren vernachlässigen jedoch fast immer die Perspektive der Nutzer:innen selbst, und fällen so scheinbar arbiträre Entscheidung darüber, welche Beiträge "toxisch" sind. Auch gibt es viele Moderationsverfahren, die auf simplen und verzerrten algorithmischen Modellen basieren. Dies kann sich rufschädigend für Organisationen auswirken, die solche intransparente Moderationsverfahren anwenden. Viel wichtiger ist jedoch, dass diese den Bürger:innen die Handlungsmacht entziehen, und das obwohl sich viele in digitalen Informationsumgebungen bereits machtlos fühlen. Das TACo-Projekt wendet darum einen nutzerzentrierten Ansatz an, durch den politische Beiträge im Netz effektiv und transparent moderiert werden sollen. In einer qualitativen, explorativen Studie wird zunächst erörtert, was Nutzer:innen unter toxischer Sprache verstehen, und welche Moderationsverfahren sie vorziehen. Ausgehend von diesem Wissen werden neue automatisierte Modelle zur Bestimmung toxischer Inhalte entwickelt. Schließlich wird mit experimentellen Befragungen untersucht, ob das, was Nutzer:innen "wollen", auch wirklich positive Effekte hat, z.B. auf politisches Vertrauen, politische Beteiligung und Wohlbefinden.

Transparent Automated Content Moderation (TACo)
Fördergeber: Wiener Wissenschafts-, Forschungs- und Technologiefonds (WWTF)
PI: Sophie Lecheler (Universität Wien)
Co-PI: Allan Hanbury (TU Wien)
Laufzeit: 2021-2024
Fördersumme: € 348.240