Identitätsdiebstahl mit KI - Du plötzlich im Porno: Muss der Bund mehr tun gegen Deepfakes?

Die Schweizer Politik diskutiert, wie man missbräuchlichen Umgang mit KI verhindert. Doch kann man das überhaupt?

Was für ein Gefühl muss das sein, sein eigenes Foto auf Online-Foren und Porno-Seiten zu sehen – manipuliert, in gefälschter Sexpose. So jüngst Frauen in Italien passiert. Tausende geraubte Fotos kursierten im Internet, auch von Minderjährigen, versehen mit Aufrufen zu sexueller Gewalt.

Davon betroffen sind auch prominente Politikerinnen wie Premierministerin Giorgia Meloni. «Diese teuflische digitale Maschine gehört demontiert», forderte eine italienische TV-Moderatorin.

Mehr Porno-Deepfakes

Die Zahl der pornografischen Deepfakes ist laut einer internationalen Recherche in den letzten Jahren massiv angestiegen. Die deutsche Telekom veröffentlichte vor einem Jahr ein Video, indem sie vor dem Teilen persönlicher Daten im Netz warnt – insbesondere publizierfreudige Eltern.

Doch nicht nur pornografische Deepfakes sind ein Problem: Jüngst warnte das österreichische Bundeskriminalamt vor Deepfake-Videokonferenzen mit dem vermeintlichen Innenminister. Dabei haben Kriminelle bei Anrufen seine Identität vorgetäuscht und um Geld gebeten.

Braucht es gesetzliche Anpassungen?

Der Mitte-Ständerat Fabio Regazzi hat genug von dieser Entwicklung. Er verlangt vom Bundesrat eine Strategie, die ein koordiniertes Vorgehen gegen den Missbrauch von Deepfakes und die Erpressung mit intimen Bildern enthält. Besonderen Schutz gebühre den Kindern und Jugendlichen.

Mehr Cybersexualdelikte auch in der Schweiz

Die Universität Lausanne hat 2023 in einem Bericht im Auftrag des Bundesrates das Ausmass von Cybersexualdelikten bei Minderjährigen behandelt. Die Expertinnen und Experten kommen zum Schluss: Die Delikte werden häufiger. Mit den Möglichkeiten der neusten KI-Modelle droht sich die Entwicklung weiter zu verschärfen.

Gemäss einer Befragung im Rahmen der James-Studie 2022 gab die Hälfte aller Jugendlichen an, bereits einmal online sexuell belästigt worden zu sein. Solche Delikte «können ähnlich schwerwiegend sein wie bei sexualisierter Gewalt mit Körperkontakt», heisst es auf der Webseite von clickandstop.ch, einer Online-Meldestelle für Opfer digitaler Übergriffe. Zum Beispiel seien immer mehr Jugendliche hierzulande von Sextortion – also der Erpressung unter anderem durch die Verbreitung von Nacktfotos im Netz – betroffen, wie die Meldestelle feststellte. Zu Sextortion läuft seit 2024 landesweit eine Kampagne von Kinderschutz Schweiz, der Bundespolizei Fedpol und weiteren Akteuren.

Doch braucht es mehr Effort, mehr Gesetze? Dänemark beispielsweise plant ein neues Gesetz, das jedem Menschen das Recht auf seinen eigenen Körper, seine eigene Stimme und seine eigenen Gesichtszüge gibt.

Bundesrat gegen neue Gesetze

Zwar steht der Ständerat hinter Regazzi, doch der Bundesrat will von seinem Vorschlag nichts wissen. Es gebe schon genügend Möglichkeiten zur Bekämpfung der Cyberkriminalität. Eine der wichtigsten Massnahmen sei dabei die Förderung der Medienkompetenz, wo sich der Bund seit Jahren engagiere. Die Landesregierung setzt also auf Prävention – und die Anwendung des bestehenden Rechts.

«Ich bin grundsätzlich skeptisch, dass irgendwelche neuen Gesetze etwas an der Deepfake-Pornografie ändern können», sagt SRF-Digitalredaktor Guido Berger. Das Problem liege nämlich an der Durchsetzung der Gesetzgebung. Denn die Verbreitungswege von schädigenden Inhalten seien – früher wie heute – für die Behörden nicht einfach aufzudecken.

Berger gibt zu bedenken, dass es pornografische Deepfakes gebe, seit Pornos existierten. Damals wurden die Deepfakes mit Photoshop aufwändig produziert und waren manchmal sogar überzeugender als die KI-Manipulationen von heute. «Das Phänomen ist nicht neu, aber die Menge an verbreiteten Deepfakes», betont Berger.

Von sexueller Cybergewalt sind in der Schweiz vor allem Jugendliche betroffen.

IMAGO / Zoonar

Dass aber alle mit der heutigen Technik pornografische Deepfakes selbst produzieren könnten, sei falsch, betont Berger. «Die gängigen KI-Tools lassen das nicht mehr zu.»

Ermittlungen gegen SVP-Nationalrat Glarner

Wie das geltende Recht bei der Verbreitung von Deepfake-Videos – nicht nur pornografisch, sondern generell – angewendet wird, wird sich bald in einem prominenten Fall weisen: Derzeit laufen nämlich Ermittlungen gegen SVP-Nationalrat Andreas Glarner.

Dieser hatte im Wahlkampf 2023 ein manipuliertes Video von Grünen-Nationalrätin Sibel Arslan geteilt. Darin «äusserte» sich die manipulierte Nationalrätin zu «kriminellen Türken» und rief zur Wahl der SVP auf. Arslan zeigte Glarner daraufhin an.