Darum geht es: Social-Media-Plattformen wie Facebook, Instagram, Tiktok und Co. moderieren ihre Inhalte eigentlich selbst. Künstliche Intelligenz hilft beim Filtern von Hasskommentaren, hartgesottene Angestellte begutachten Videos und Bilder. Sind sie nicht verdaulich – zum Beispiel rassistisch, beleidigend, gewalttätig, grässlich –, werden sie aus dem Verkehr gezogen. Nur, und das zeigt ein neuer Bericht von Appeals Centre Europe: Gemeldete problematische Inhalte sind weiterhin auf den Plattformen sichtbar. Und Facebook und Co. sind nicht gerade auskunftsfreudig.
Der Bericht: Er stammt von Appeals Centre Europe, einer unabhängigen Stelle, die Beschwerden von Userinnen und Usern in der EU entgegennimmt und diese – wenn die nötigen Informationen vorliegen – untersuchen kann. Sie kommt zum Schluss: Bei 59 Prozent der untersuchten Fälle widerspricht das Appeals Centre Europe den Handlungen der Plattformen.
Plattformen wenig auskunftsbereit: Hinzu kommt: Nur ein kleiner Teil der Beschwerden konnte die Stelle wirklich untersuchen. Von den rund 10'000 begutachteten Anliegen musste das Appeals Centre Court bei etwa 7000 eine «Standardentscheidung» treffen, bei denen man aufgrund fehlender – nicht von den Plattformen erhaltener – Inhalte nach dem Prinzip «im Zweifel für den Angeklagten» befinden musste. «Bei der riesigen Mehrheit der Fälle in Bezug auf Accountsperren sind die Plattformen unfähig oder unwillig, uns den [beanstandeten] Inhalt zu übermitteln, womit wir ihre Entscheidungen unabhängig überprüfen könnten», schreibt die Anlaufstelle in ihrem Bericht.
Quote bei Hassrede besonders hoch: Löschten die Plattformen Inhalte, so war das gemäss Appeals Centre Europe in über der Hälfte der Fälle ungerechtfertigt. Bei 63 Prozent der rund 3000 überprüfbaren Beschwerden wurde potenziell schädlicher Inhalt nicht entfernt. Bei bestimmten Kategorien war die Quote besonders hoch: Hassrede oder -kommentare, die gemeldet wurden, wurden zu 70 Prozent nicht gelöscht. Darunter fallen etwa Hetze und Drohungen gegen LGBTQ-Personen, Migrantinnen und Migranten oder religiöse Minderheiten. Wiederum löschten die Plattformen Posts oft zu Unrecht, wie die Anlaufstelle in ihrem Bericht schreibt. In 65 Prozent der überprüften Fälle hätten die Plattformen fälschlicherweise Inhalte im Bereich problematische Waren oder Dienstleistungen entfernt.
Die Situation in der Schweiz: Hierzulande gibt es aktuell keine vergleichbare Anlaufstelle, um Social-Media-Inhalte zu melden beziehungsweise gegen einen Entscheid der Plattformen vorzugehen – mit Ausnahme von rassistischen Hassreden. Der Bundesrat ist aber dabei, mit einer Vorlage zur Plattformregulierung genau das einzuführen: Dass grosse Plattformen eine elektronische Anlaufstelle und eine Rechtsvertretung in der Schweiz bereitstellen müssen. Damit würde die Schweiz weniger weit gehen als die EU mit ihrem sogenannten «Digital Services Act» von 2024, womit auch das Appeals Centre Europe eingeführt wurde. Wie genau die Plattformregulierung hierzulande ausgestaltet wird, entscheidet als Nächstes das Parlament. Die Vernehmlassung dazu ist vergangenen Februar ausgelaufen.
