Die EU schlägt bei sexualisierten Deepfakes einen härteren Kurs ein. Das EU-Parlament verbietet ab Dezember Anwendungen, mit denen solche Inhalte erstellt werden können. Es geht um Bilder, Videos oder Toninhalte, die mit Künstlicher Intelligenz manipuliert werden. Digitalredaktor Guido Berger ordnet ein, was es mit dem Verbot auf sich hat.
Guido Berger
Leiter SRF Digital-Redaktion
Auf welche Anwendungen zielt dieses Verbot?
Im Gesetz wird von intimem Material gesprochen, das von KI-Werkzeugen nicht einvernehmlich erstellt wurde. Dabei geht es konkret um Anbieter von sogenannten Nudify-Dienstleistungen, also Websites oder Apps, bei denen man Fotos von realen Personen hochladen kann und die Dienstleistung sexualisierte Deepfakes erstellt, welche diese Person in einem pornografischen Kontext zeigen. Das können Personen sein, die in der Öffentlichkeit stehen, wie Prominente aus Politik oder Filmen. Es können aber auch private Personen sein wie Bekannte, eine Schulkollegin oder eine Ex-Freundin. Es sind in der Regel Frauen, die betroffen sind. Einige dieser Dienste bieten Anwendungen für Bilder von Erwachsenen als auch von Kindern an.
Wie verbreitet sind solche Inhalte im Netz?
Ich kenne keine konkreten Zahlen, aber mittlerweile werden regelmässig Fälle von sexualisierten Deepfakes bekannt. Es hat auch hier in der Schweiz bereits mehrere öffentlich bekannt gewordene Fälle gegeben. Mein Eindruck ist, dass die Nutzung solcher Nudify-Anwendungen weit verbreitet ist. Es gibt entsprechend viele Dienstleister und die gäbe es nicht, wenn es keine Nachfrage danach gäbe. Deshalb sieht es die EU jetzt als dringlich an, ihre KI-Regulierung in diesem Punkt entsprechend zu präzisieren und zu verschärfen.
Wie soll das Verbot in der Praxis umgesetzt werden?
Es gibt zwei Stossrichtungen. Man kann einerseits auf die Täter fokussieren, also die Person, die ein solches Werkzeug anwendet und damit eigentlich in die sexuelle Integrität einer anderen Person eingreift. Das wird versucht, über das Sexualstrafrecht abzubilden. Bei der neuen Regelung geht es aber gezielt darum, die Werkzeuge zu verbieten. Das will die EU jetzt verschärfen in der Hoffnung, dass man besser verhindern kann, dass die Fake-Pornografie erstellt wird.
Wie viel bringt das Verbot effektiv?
Solange eine Nachfrage besteht, wird es auch Anbieter und Werkzeuge geben, die versuchen, diese Nachfrage zu befriedigen. Die Anbieter solcher Nudify-Dienste sind oft auch heute schon so aufgestellt, dass sie einen solchen Dienst einfach schliessen und dann unter anderen Adressen, unter anderem Branding, neu aufmachen können. Sie sitzen oft nicht in der EU, sondern sind irgendwo rund um die Welt verteilt. Es ist wahrscheinlich sehr schwierig, einzelne verantwortliche Personen dingfest zu machen.
Was will die EU mit dem Verbot erreichen?
Mein Eindruck ist, dass die EU vor allem das Ziel hat, die Rechtslage unmissverständlich klar zu machen – nämlich, dass nicht nur das Anwenden von Nudify-Apps strafbar ist, sondern dass sich auch die Anbieter strafbar machen. Damit will die EU den Druck erhöhen, um vielleicht auch einige davon abzuschrecken.
