Internet-Giganten sagen dem IS den Kampf an

Die amerikanischen Firmen Facebook, Twitter, YouTube und Microsoft wollen verhindern, dass Terror-Organisationen wie der IS ihre Plattformen missbrauchen können. Die Technik dahinter ist schon lange bekannt und vereinfacht die Zensur. Doch man kann sie auch umgehen.

Collage: Marschierende Truppen des IS, Logos von Facebook, Twitter, YouTube und Microsoft Bild in Lightbox öffnen.

Bildlegende: Gemeinsam gegen Propaganda: Die vier Internet-Firmen haben eine Datenbank mit problematischen Bildern aufgebaut. Collage SRF

Das Wichtigste in Kürze

  • Facebook, Twitter, YouTube und Microsoft wollen Daten zu problematischen Bildern und Videos austauschen, die von terroristischen Organisationen wie dem IS stammen.
  • Die Technik dahinter ist schon lange bekannt.
  • Das neue System kann nicht komplett verhindern, dass Terroristen soziale Netzwerke für Propaganda missbrauchen.

Die vier Unternehmen haben in einer Mitteilung erklärt, wie sie in Zukunft gegen terroristische Propaganda vorgehen wollen. Im Zentrum steht eine Datenbank für Bild- und Video-Information.

Firmen zensieren unabhängig

Entdeckt etwa Twitter ein Bild, dessen Inhalt man einer terroristischen Vereinigung wie dem IS zuordnen kann, so wird aus dem Inhalt ein Fingerabdruck (Perceptual Hash) berechnet, der dann in die Datenbank kommt.

Jedes Mal, wenn jemand ein Foto oder Video bei einem der vier Netzwerke hochlädt, überprüft das System, ob das Bild schon einmal zensiert und deshalb in der Datenbank vermerkt wurde. Und noch mehr: Nach jedem Eintrag in die Datenbank überprüfen die Plattformen der anderen drei Firmen, ob der gleiche Inhalt bereits bei ihnen publiziert wurde. Falls dem so ist, meldet das System das Bild oder Video als verdächtig.

Die vier Firmen legen Wert darauf, dass sie über die Datenbank nur Information zu Bildern und Videos austauschen. Angaben zu den Nutzern, die mit einem Foto oder Film in Verbindung gebracht werden können, geben sie nicht weiter.

Ihnen ist auch wichtig, dass das System Bilder oder Videos auf den angeschlossenen Plattformen nicht automatisch löscht. Jedes der sozialen Netzwerke will die visuellen Inhalte nach eigenen Kriterien beurteilen. Die Datenbank soll lediglich das Aufspüren problematischer Inhalte vereinfachen. Die Entscheidung zur Zensur trifft jede Firma unabhängig.

Bewährte Technologie

Details zur technischen Umsetzung haben die Unternehmen nicht veröffentlicht. Wie man aus einem Video oder Foto einen Fingerabdruck berechnen kann, ist jedoch schon seit längerem bekannt. Bei YouTube etwa ist ein ähnliches Verfahren seit ein paar Jahren im Einsatz. Die Video-Plattform will damit verhindern, dass Nutzerinnen und Nutzer urheberrechtlich geschützte Inhalte wie etwa ein Musikvideo hochladen und verbreiten können.

Über den Fingerabdruck kann das System nicht nur identische Bilder erkennen, sondern auch solche, die sich ähnlich sehen. Um den Filter zu umgehen, können terroristische Organisationen deshalb nicht einfach ein bereits zensiertes Bild geringfügig verändern – etwa, indem sie es verkleinern. Mit immer neuen Fotos oder Videos, die das System noch nicht kennt, lässt es sich jedoch austricksen.

Image aufpolieren

Die Datenbank bewirkt, dass für den IS der Aufwand steigt, während er für die Betreiber der sozialen Netzwerke abnimmt, da sie von der Zusammenarbeit profitieren. Doch ganz verhindern kann auch das neue System nicht, dass terroristische Organisationen Bilder und Videos hochladen und die Plattformen so für Propaganda missbrauchen können.

Die vier Unternehmen wissen das. Der Entscheid zur Zusammenarbeit ist deshalb auch ein Stück weit als PR-Coup zu werten. Doch Facebook und Co. hatten keine andere Wahl, als endlich zu handeln, wollten sie nicht länger als Steigbügelhalter terroristischer Organisationen wie dem IS dastehen.