Die Reaktionen rund um den Fall um Collien Fernandes haben es wieder gezeigt: Soziale Medien haben ein massives Problem mit Hassrede und bestehende Content Moderation Systeme versagen oft. Die großen Plattformen jedoch bauen Moderationsteams zugunsten des vermehrten Einsatzes von KI ab. In meinem Vortrag zeige ich auf, warum dieser Trend eine Sackgasse darstellt und wie wir Content Moderation neu denken können. Dafür stelle ich drei Möglichkeiten der Moderation vor: Plattform Moderation, Community Moderation und nutzer*innengesteuerte Moderation. 
Für unsere Forschung haben wir in drei Studien untersucht, wie Menschen, die von Hassrede betroffen sind, sich bessere Content Moderation vorstellen. Die Ergebnisse: nutzer*innengesteuerte Moderation kann effektiv den Kontext adressieren, in dem bisherige Moderationsansätze versagen. So können Nutzer*innen aktiv mitgestalten und sind nicht nur nicht passive Empfänger*innen algorithmischer Entscheidungen. Ich zeige, warum Nutzende Kontrolle über ihre digitale Umgebung brauchen und wie diese aussehen kann. Denn nur wenn Betroffene selbst mitgestalten können, kann Content Moderation kontextsensibel und wirksam werden.