Deepfakes von Minderjährigen - Auch KI-Kinderpornografie ist Kinderpornografie

Künstlich hergestellte Kinderpornografie ist verboten und strafbar. Die EU leitet gegen Grok ein Verfahren ein. Auch die Wissenschaft sieht in den Deepfakes eine Gefahr.

Das Bundesgericht hat Ende 2025 entschieden: Pornografische Inhalte, die digital verjüngte Erwachsene als «Scheinminderjährige» darstellen, fallen unter das Verbot der Kinderpornografie. Zuvor war unklar, ob sogenannte «Scheinkinder­pornografie», die durch digitale Verjüngung (De-Aging) entsteht, ebenfalls darunterfällt. Sie tut es.

Grok spült massenhaft sexualisierte Bilder in die sozialen Medien.

EPA / FAZRY ISMAIL

KI-generierte Erotik ist massentauglich. Chatbots wie ChatGPT und Grok haben kürzlich ihre Bild­bearbeitungsfunktionen ausgeweitet. Auf einfache Weise lassen sich fotorealistische manipulierte Fotos echter Personen erzeugen – sogenannte Deepfakes. Insbesondere der KI-Chatbot Grok hat die Plattform X zu Jahresbeginn mit sexualisierten Bildern geflutet.

Verfahren gegen Grok

Viele Leute nutzten den Chatbot, um Fotos von realen Personen zu manipulieren. Besonders häufig forderten Nutzer Grok auf, Fotos von Frauen in normaler Kleidung in Bikini-Outfits oder Unterwäsche zu verwandeln – meist ohne deren Zustimmung.

Die EU leitet nun ein Verfahren gegen den US-Konzern X von Elon Musk ein. Es hätten auch KI-generierte Aufnahmen von Kindesmissbrauch verbreitet werden können, schreibt die EU-Kommission in einer Mitteilung.

Schutz potenzieller Opfer 

Mit Hilfe von KI lassen sich erotische Inhalte präzise auf individuelle Vorlieben massschneidern. Man kreiere sich selber einen spezifizierten Reiz. Was technisch einfach verfügbar sei, werde schneller als normal empfunden, erklärt die Sexualpsychologin Stefanie Gonin-Spahni.

Ein junger Mann schaut sich auf einem Smartphone eine Porno-Internetseite an (gestellte Szene). Immer mehr Frauen und Mädchen werden Opfer von Deepfake-Pornos.

KEYSTONE / DPA / Marcus Brandt

Diese Gefahr besteht auch bei künstlich hergestellter Kinderpornografie: Für Marc Graf, Professor für Forensische Psychiatrie, ist das Urteil des Bundesgerichts zur digitalen Verjüngung deshalb richtig und mit Rechtspraxis und Gesetzgebung konsistent. Denn es gehe um den Schutz potenzieller Opfer und darum, dass Minderjährige nicht zu Sexualobjekten herabgewürdigt werden, sagt der Experte für kinderpornografische Fälle. «Dabei spielt es keine Rolle, ob jemand echt oder virtuell missbraucht wird oder nicht.»

Bundesgericht stellt De-Aging unter Strafe

Ein Mann wird 2023 vom Bezirksgericht Zürich und später vom Zürcher Obergericht wegen harter Pornografie verurteilt. Über seinen Instagram-Account hatte er ein Video verschickt, das ein vorpubertär wirkendes Mädchen beim Oralverkehr mit einem erwachsenen Mann zeigte.

Wie sich herausstellte, handelte es sich bei dem «Mädchen» um eine volljährige Pornodarstellerin, deren Erscheinungsbild mittels digitaler Filter manipuliert worden war, um sie jünger wirken zu lassen. Das Video stammte von einer bekannten Plattform.

Wegweisendes Urteil zu Scheinkinder­pornografie

Das Bundesgericht stützte seinen Entscheid auf Artikel 197 des Strafgesetzbuches, der seit 2014 neben tatsächlicher auch «nicht tatsächliche» Kinderpornografie unter Strafe stellt. Bisher war unklar, ob sogenannte «Scheinkinder­pornografie», die durch digitale Verjüngung (De-Aging) entsteht, ebenfalls darunterfällt.

In seiner Begründung verwies das Gericht auf die ursprünglichen Absichten des Gesetzgebers. Bei der Einführung des Verbots von rein virtuell generierten kinderpornografischen Inhalten – wie Comics – wurde befürchtet, dass die Verfolgung tatsächlicher Kinderpornografie erschwert werden könnte, wenn «nicht tatsächliche» Darstellungen straffrei blieben. Diese Beweisschwierigkeiten seien bei digital verjüngten Personen nicht weniger ausgeprägt, sondern möglicherweise sogar grösser.

Das Bundesgericht betonte zudem die mögliche korrumpierende Wirkung solcher Inhalte. Wenn der Konsum kinderpornografischer Erzeugnisse generell eine solche Wirkung haben kann, so gelte dies erst recht für Darstellungen, die echte Menschen als «Scheinminderjährige» zeigen, im Gegensatz zu reinen Zeichnungen. Auch ein möglicher Markteffekt, wonach solche Darstellungen den realen Markt für Kinderpornografie fördern könnten, spielte eine Rolle in der Urteilsfindung.

«De-Aging», die künstliche Verjüngung von Menschen, die in pornografischen Inhalten zu sehen sind, sei nicht zu verharmlosen, sagt der forensische Psychiater. Es gebe keine ausreichenden Forschungsergebnisse, die belegen würden, dass derartige Darstellungen bestimmte Personen nicht dazu verleiten könnten, echte Übergriffe zu begehen.

Kein «realer» Schaden. Nur weil es nicht echt ist, ist es nicht zwingend legal: Jugendliche konsumieren pornografische Inhalte in Form von Manga-Comics auf dem Smartphone, fotografiert am 22. Januar 2023 (gestellte Szene).

KESTONE / Christof Schuerpf

Die Grenzen zwischen echter und künstlicher Welt würden immer mehr verschwimmen. Deshalb sei «De-Aging» gefährlich.

Verbot mit Ausnahmen?

Auch andere Fachpersonen aus der forensischen Psychiatrie und Psychologie halten das Verbot grundsätzlich für richtig. Es signalisiere, dass die Gesellschaft sexuellen Missbrauch verurteile. Doch in Ausnahmefällen können sich Fachleute vorstellen, Pädosexuellen Zugang zu künstlichem Material zu geben.

SRF-Community: «Es ist doch kein realer Schaden entstanden?»

Die Diskussion über Verbot oder Legalisierung von KI-generierter Kinderpornografie beschäftigt auch die SRF-Community.

«KI-Kinderpornografie ist nicht so schlimm, da kein echtes Kind missbraucht wurde.»

Die Gesellschaft wolle nicht, dass Kinder zu Objekten degradiert werden. Auch nicht dort, wo sie in der Fantasie oder in der virtuellen Welt missbraucht werden. Wir als Gesellschaft würden solche Normen wie Verbote brauchen, denn diese seien präventiv wichtig, sagt der forensische Psychiater Marc Graf. Sonst kämen Menschen, die sich nicht selbst schützen können – unter anderem Kinder – unter die Räder.

Das Argument, dass kein echter Schaden entstanden sei, versteht Graf jedoch. Der Mensch würde Grenzen austesten wollen. Und die meisten könnten das auch, ohne diese Grenzen zu überschreiten. Aber eben nicht alle.

«Bei der Suche nach pornografischen Inhalten ist die Kategorie ‹Teen› eine der gefragtesten. Weshalb?»

Warum finden primär Männer Kinder oder minderjährige sexuell attraktiv, fragt Marc Graf zurück. Unter Fachleuten gebe es dazu unterschiedliche Meinungen. Wissenschaftlich sei das nicht geklärt. Bei gewissen Menschen ziehe die sexuelle Präferenz nicht mit dem Alter mit. Der (älter werdende) Mann sucht eine jüngere Frau. Das könne evolutionsbedingte Gründe haben.

Menschen, die kinderpornografische Inhalte konsumieren, hätten oft das Gefühl, dass gleichgestellte Erwachsene Erwartungen hätten, die womöglich nicht erfüllt werden könnten. Bei Kindern gebe es keine Gleichberechtigung. Da gehe es auch um Macht. Und auch bei virtuellen Darstellungen spiele dieses Machtgefälle.

Manche Fachleute argumentieren, es sei klüger, Pädophilen etwas zur Verfügung zu stellen, für das keine Kinder leiden mussten. Das könnte den Konsum «echter» Kinderpornografie mit realem Missbrauch senken. Die Stiftung Kinderschutz Schweiz lehnt eine Legalisierung künstlich hergestellter Kinderpornografie jedoch strikt ab: «Das wäre eine gefährliche Verharmlosung», sagt Direktorin Regula Bernhard Hug.