Gefälschte Nacktbilder und Pornovideos, sogenannte Deepfakes, verbreiten sich rasant im Internet. Für Angela Müller von der Organisation Algorithm Watch Schweiz sind Deepfakes aber vor allem ein Symptom für ein tieferliegendes Problem.
Angela Müller
Geschäftsleiterin von Algorithm Watch CH
SRF News: Wie gross ist das Problem mit Deepfakes in der Schweiz?
Angela Müller: Wir sehen erst die Spitze des Eisbergs. Es ist eine Welle, die nicht nur die Schweiz, sondern die ganze Welt erreicht hat. Technologie wird missbräuchlich genutzt, um Menschen zu schaden. Wenn es um sexualisierte Bilder geht, sind sehr oft Frauen und Kinder betroffen, aber es kann jeden treffen.
Ein grosses Problem sind gefälschte Pornovideos. Wie schlimm ist das für Betroffene?
Es ist brutal. Das Schlimmste ist nicht nur, dass dieser Inhalt erstellt wurde, sondern die völlige Machtlosigkeit gegenüber seiner Verbreitung. Einmal online, ist es quasi unmöglich, solche Bilder wieder aus dem Internet zu entfernen. Sie entwickeln ein Eigenleben. Für die Betroffenen ist das kaum auszuhalten.
Technologie wird genutzt, um gesellschaftliche Phänomene zu verstärken.
Sind Deepfakes nur technische Auswüchse oder ein Symptom für ein gesellschaftliches Problem?
Absolut ein Symptom. Technologie ist nicht die Ursache von sexualisierter Gewalt. Sexismus und Frauenfeindlichkeit gibt es seit Langem. Die Technologie wird aber genutzt, um diese bestehenden gesellschaftlichen Phänomene zu zementieren und zu verstärken. In vielen Online-Communities werden frauenverachtende Inhalte geteilt und normalisiert. Die Technologie macht es nur einfacher. Auf Knopfdruck.
Die Pornoindustrie erfindet die Technologie nicht, aber sie fördert die Nutzung.
Welche Rolle spielt die Pornoindustrie bei der Verbreitung neuer Technologien?
Wir beobachten sehr oft, dass neue Technologien, wie Deepfakes, im Pornobereich als Erstes angewendet werden und die Pornoindustrie so deren Verbreitung anstachelt. Sie war ein wichtiger Treiber bei Videostreaming oder Online-Zahlungssystemen. Die Pornoindustrie erfindet die Technologie nicht, aber sie nutzt sie als eine der Ersten und fördert damit die allgemeine Nutzung.
Der Bundesrat will nun Kommunikationsplattformen regulieren. Ein wichtiger Schritt?
Es ist ein wichtiger erster Schritt, gerade was die Verbreitung auf Social Media angeht. Die Gesetzesvorlage hat aber eine Lücke: Sie fokussiert auf Plattformen als reine Verbreiter von Inhalten, aber nicht auf die generativen KI-Anwendungen, die zunehmend direkt in die Plattformen eingebaut werden. Das Zusammenspiel von Erstellung und Verbreitung auf derselben Plattform wird nicht erfasst.
Genügt es, die Technik zu regulieren?
Regulierung ist nur ein Puzzleteil. Die Ursache des Problems liegt in unserer Gesellschaft. Wir müssen dafür sorgen, dass sexualisierte Gewalt nicht normal ist. Das heisst, wir brauchen Prävention, wir müssen darüber reden und wir brauchen Anlaufstellen und Begleitung für Betroffene. Technologie ist keine Naturgewalt, sie wird von Menschen gemacht und eingesetzt. Darum müssen wir als Gesellschaft die Regeln setzen.
Das Gespräch führte David Karasek.
