Ein neuer Bericht der «Agentur der Europäischen Union für Grundrechte» zeigt: Beleidigende Kommentare, Mobbing oder Belästigung im Netz werden von Moderationstools häufig nicht erkannt. Wie gut können soziale Medien mit Hass umgehen? Was bedeutet das für uns alle im digitalen Alltag? SRF Digital-Redaktor Guido Berger ordnet ein.
Guido Berger
Leiter SRF Digital
SRF: Die Studie bezieht sich auf vier Social Media Plattformen: Reddit, Telegram, X (ehemals Twitter) und Youtube. 350’000 Kommentare wurden auf sogenannten Hate Speech überprüft. Wie repräsentativ ist diese Studie?
Guido Berger: Die Studie beansprucht gar nicht, repräsentativ zu sein. Zum einen sind nicht alle grossen Plattformen dabei: Die sozialen Netzwerke von Meta fehlen zum Beispiel alle – also Facebook, Instagram oder Whatsapp. Zum anderen: Auf den beobachteten Plattformen werden rund eine Milliarde Posts pro Tag veröffentlicht – konservativ geschätzt. Da sind 350'000 überprüfte Posts in den sechs Monaten eine verschwindend geringe Anzahl. Damit kann man keine allgemeinen Aussagen über den Zustand des Internets treffen. Aber darum geht es der Studie auch gar nicht.
Die Studie zeigt Beispiele, die durch die Filter der Moderationssysteme durchrutschen.
Die Studie versucht zu belegen, dass bestehende Moderationsmethoden der Plattform, die ja Hatespeech verhindern sollen, nicht gut funktionieren. Die Studienmacher wollen zeigen, dass immer wieder Hasskommentare durchrutschen, obwohl die Plattformen bereits Millionen von Posts täglich löschen.
Laut dem Bericht sind auf allen untersuchten Plattformen Frauen die Hauptziele von Hass im Internet. Konkret geht es um missbräuchliche Sprache, Mobbing und Belästigung sowie Aufstachelung zu sexueller Gewalt. Wieso trifft es hauptsächlich Frauen?
Die Studie zeigt Beispiele, die durch die Filter der Moderationssysteme durchrutschen. Und davon zielt der grösste Anteil von Hass und Hetze auf Frauen. Um dies zu verallgemeinern, dass das generell im Internet so ist, dazu sind die Daten nicht belastbar genug.
Oft fehlt schon das gemeinsame Verständnis, was überhaupt Hatespeech ist.
Es könnte sein, dass es je nach Plattform, nach Land oder auch je nach Sprache unterschiedliche Verhältnisse gibt. Eine Erklärung könnte auch sein, dass Frauen keine Minderheit sind und sie damit automatisch eine grössere Zielscheibe sind als kleinere Bevölkerungsgruppen. Aber eben, die Daten der Studie lassen keine fundierten Aussagen zu, die man verallgemeinern kann.
Welche konkreten Schritte schlägt die Studie vor, um die Verbreitung von Hass im Internet effektiver zu bekämpfen?
Oft fehlt schon das gemeinsame Verständnis, was überhaupt Hatespeech ist. Deshalb gibt es die Idee, dass die Europäische Union Leitlinien bereitstellt und eine Definition liefert, was als Hass oder Hetze im Internet einzustufen ist. Die Agentur der Europäischen Union für Grundrechte schlägt vor, dass die Plattformen erfassen sollen, welche unterschiedlichen Formen von Hassrede es gibt. Damit man weiss, was man überhaupt bekämpfen will. Dies in der Hoffnung, dass die Moderationsmethoden besser werden.
Die wichtigste Forderung wird aber schon seit vielen Jahren von sehr vielen Leuten immer wieder gestellt: Dass Forscherinnen und Forscher endlich Zugang zu den Daten der grossen Plattformen wie Facebook, X oder Youtube erhalten, um unabhängige Forschung zu ermöglichen.
Nur die Plattformen selbst wissen, was bei ihnen passiert, wie oft etwas gelöscht wird, was allenfalls durchrutscht. Von aussen, ohne direkten Zugang, ist es fast nicht möglich, belastbare Aussagen zu treffen – wie es auch diese Studie wieder zeigt.
Das Gespräch führte Simon Burri.
