Vorfall an Schweizer Schule - Teenager verbreiten KI-Nacktbilder von Mitschülerinnen – was tun?

Ein Vorfall an einer Deutschschweizer Schule erschüttert. Das können Eltern und Schulen gegen die Deepfakes unternehmen.

Mal lustig, mal hilfreich, mal gefährlich. KI-Anwendungen durchdringen das Leben immer stärker. Vermehrt zeigen sich auch die Schattenseiten. Besondere Abgründe legt nun eine Geschichte offen, die der «Tages-Anzeiger» recherchiert hat.

An einer Deutschschweizer Schule haben 12- bis 14-jährige Jungen KI-Nacktbilder von Mitschülerinnen erstellt und sie in den sozialen Medien geteilt. Auf einer Website konnten die Jugendlichen die Deepfakes kostenlos erstellen.

Schwerwiegende Folgen für Betroffene

Der «Tages-Anzeiger» nennt bewusst nicht, an welcher Sekundarschule sich der Vorfall letztes Jahr ereignet hat – die betroffenen Mädchen sollen geschützt werden. Die kantonale Jugendanwaltschaft hat inzwischen ein Verfahren eröffnet.

Dagmar Rösler, Präsidentin des Dachverbandes schweizerischer Lehrerinnen und Lehrer LCH, zeigt sich tief betroffen von dem Fall. Opfer von solchen Deepfakes zu werden, löse «eine grosse Machtlosigkeit aus, ein Sich-ausgestellt-Fühlen. Und man kann nichts dagegen tun.»

Deepfakes ohne Schranken und Auflagen

Besonders brisant: Auf der Website gibt es keine Altersprüfung und auch die hochgeladenen Bilder werden nicht untersucht. Es lassen sich also auch Fotos von Kindern hochladen. Laut dem «Tages-Anzeiger» werben die mutmasslich chinesischen Betreiber aktiv damit, dass ihre KI jede beliebige Person in sekundenschnelle ausziehen kann.

Pose und intime Merkmale können nach Belieben «angepasst» werden. In keiner Weise warne die Website vor Missbräuchen oder rufe dazu auf, das Einverständnis der betroffenen Personen einzuholen. Und: Die Website ist kostenlos, komplett anonym und verlangt nicht einmal eine E-Mail-Adresse.

Erst seit wenigen Jahren ist es überhaupt möglich, absolut realistisch anmutende KI-Nacktfotos zu erstellen. Schulen und Lehrpersonen müssen sich auf eine Technologie einstellen, die unglaublich schnell voranschreitet.

Erst vor wenigen Wochen hat Elon Musks Firma für künstliche Intelligenz, xAI, nach einem Skandal um sexualisierte Bilder die Nutzung ihres Chatbots eingeschränkt.

Keystone/EPA/FAZRY ISMAIL

«Es geht immer weiter», sagt Rösler – und räumt ein: «Manchmal ist man der Entwicklung ausgesetzt und hilflos.» Die Schulen würden tun, was in ihrer Macht stehe, ist die LCH-Präsidentin überzeugt.

Für das Thema Cybermobbing werde schon im frühen Alter sensibilisiert und den Kindern gesagt, was erlaubt sei und was nicht. «Das Problem ist aber, dass wir uns mit einem bewegenden Ziel befassen.»

Muss die Politik mehr tun?

Ein Patentrezept, wie man der Entwicklung begegnen kann, gibt es nicht. Schliesslich ist der Rechtsrahmen für die KI-Anbieter auch Sache der Politik und der Regierungen weltweit.

In einem Positionspapier fordert der LCH klar gesetzte, gesetzliche Schutzmassnahmen. Die eidgenössischen Räte diskutieren derzeit, wie insbesondere Kinder und Jugendliche besser vor Deepfakes geschützt werden können.

Auch Eltern stehen in der Pflicht

Den Lehrkräften rät Rösler, sich über die neusten Entwicklungen auf dem Laufenden zu halten und sich über die Gefahren der KI weiterzubilden. «Zudem ist es sehr wichtig, dass man immer mit den Erziehungsberechtigten in Kontakt bleibt.»

Der LCH fordert auch, dass die Medienkompetenz der Eltern durch Beratungs- und Weiterbildungsangebote gestärkt wird. Denn sie hätten eine Vorbildfunktion für ihre Kinder, was den Umgang mit digitalen Medien und KI angeht.

Die Plattformen und Politik sind gefordert, Schutzmassnahmen vorzunehmen – so etwa durch Altersverifikationen.

Dagmar Rösler Dachverband schweizerischer Lehrerinnen und Lehrer LCH

«Wir alle sind also gut beraten, uns zu informieren», sagt LCH-Präsidentin Rösler. «Auch wenn Erwachsene nie alles wissen können, was die Jugendlichen mit ihren Handys treiben.»

Ein Handyverbot an Schulen löse das Problem im Übrigen nicht, sagt Rösler. Denn Deepfakes wie im vorliegenden Fall würden wohl meist in der Freizeit produziert.

Die Schulen stünden durchaus in der Verantwortung, schliesst Rösler: «Aber es sind auch die Plattformen und die Politik gefordert, Schutzmassnahmen vorzunehmen – so etwa durch Altersverifikationen.»

SRF-Fachredaktor: «Reicht nicht, allein beim Werkzeug anzusetzen»

Guido Berger, Digitalredaktor von SRF: «Die grossen, etablierten KI-Anbieter setzen in der Regel Schranken, welche Art von Bildern ihre Modelle erstellen dürfen. Natürlich ist das ein Katz-und-Maus-Spiel. Nutzer finden regelmässig Wege, diese Schranken zu umgehen. Doch hier sind die Anbieter eher im Vorteil, weil sie generell die Anwendungsbereiche ihrer Dienste kontrollieren, also bestimmen, was Nutzer der KI dürfen und was nicht. 

Daneben gibt es allerdings auch kleinere Anbieter, die die Nachfrage nach sexualisierten Darstellungen bedienen. Die Anbieter in diesem Schwarzmarkt sind oft in Ländern angesiedelt, die den Zugriff von Strafverfolgungsbehörden schwierig machen. Die entsprechenden Websites und Dienste können auch leicht verschwinden und an anderer Stelle wieder auftauchen. Auch das ist ein Katz-und-Maus-Spiel. Doch hier ist der Schwarzmarkt im Vorteil. 

Und schliesslich gibt es viele verschiedene Bildmodelle, auch frei verfügbare. Einige davon sind effizient genug, um sie auf einem eigenen Gerät ohne inhaltliche Schranken zu nutzen. Mit wenig technischem Know-how ist es deshalb möglich, Bilder mit beliebigem Inhalt zu generieren, ohne irgendeinen Dienstleister dafür zu nutzen. Das bedeutet, dass es wohl nicht ausreicht, allein beim Werkzeug anzusetzen. Stattdessen ist Prävention nötig – also Medienbildung für die Jugendlichen und die Eltern.