Mal lustig, mal hilfreich, mal gefährlich. KI-Anwendungen durchdringen das Leben immer stärker. Vermehrt zeigen sich auch die Schattenseiten. Besondere Abgründe legt nun eine Geschichte offen, die der «Tages-Anzeiger» recherchiert hat.
An einer Deutschschweizer Schule haben 12- bis 14-jährige Jungen KI-Nacktbilder von Mitschülerinnen erstellt und sie in den sozialen Medien geteilt. Auf einer Website konnten die Jugendlichen die Deepfakes kostenlos erstellen.
Schwerwiegende Folgen für Betroffene
Der «Tages-Anzeiger» nennt bewusst nicht, an welcher Sekundarschule sich der Vorfall letztes Jahr ereignet hat – die betroffenen Mädchen sollen geschützt werden. Die kantonale Jugendanwaltschaft hat inzwischen ein Verfahren eröffnet.
Dagmar Rösler, Präsidentin des Dachverbandes schweizerischer Lehrerinnen und Lehrer LCH, zeigt sich tief betroffen von dem Fall. Opfer von solchen Deepfakes zu werden, löse «eine grosse Machtlosigkeit aus, ein Sich-ausgestellt-Fühlen. Und man kann nichts dagegen tun.»
Erst seit wenigen Jahren ist es überhaupt möglich, absolut realistisch anmutende KI-Nacktfotos zu erstellen. Schulen und Lehrpersonen müssen sich auf eine Technologie einstellen, die unglaublich schnell voranschreitet.
«Es geht immer weiter», sagt Rösler – und räumt ein: «Manchmal ist man der Entwicklung ausgesetzt und hilflos.» Die Schulen würden tun, was in ihrer Macht stehe, ist die LCH-Präsidentin überzeugt.
Für das Thema Cybermobbing werde schon im frühen Alter sensibilisiert und den Kindern gesagt, was erlaubt sei und was nicht. «Das Problem ist aber, dass wir uns mit einem bewegenden Ziel befassen.»
Muss die Politik mehr tun?
Ein Patentrezept, wie man der Entwicklung begegnen kann, gibt es nicht. Schliesslich ist der Rechtsrahmen für die KI-Anbieter auch Sache der Politik und der Regierungen weltweit.
In einem Positionspapier fordert der LCH klar gesetzte, gesetzliche Schutzmassnahmen. Die eidgenössischen Räte diskutieren derzeit, wie insbesondere Kinder und Jugendliche besser vor Deepfakes geschützt werden können.
Auch Eltern stehen in der Pflicht
Den Lehrkräften rät Rösler, sich über die neusten Entwicklungen auf dem Laufenden zu halten und sich über die Gefahren der KI weiterzubilden. «Zudem ist es sehr wichtig, dass man immer mit den Erziehungsberechtigten in Kontakt bleibt.»
Der LCH fordert auch, dass die Medienkompetenz der Eltern durch Beratungs- und Weiterbildungsangebote gestärkt wird. Denn sie hätten eine Vorbildfunktion für ihre Kinder, was den Umgang mit digitalen Medien und KI angeht.
Die Plattformen und Politik sind gefordert, Schutzmassnahmen vorzunehmen – so etwa durch Altersverifikationen.
«Wir alle sind also gut beraten, uns zu informieren», sagt LCH-Präsidentin Rösler. «Auch wenn Erwachsene nie alles wissen können, was die Jugendlichen mit ihren Handys treiben.»
Ein Handyverbot an Schulen löse das Problem im Übrigen nicht, sagt Rösler. Denn Deepfakes wie im vorliegenden Fall würden wohl meist in der Freizeit produziert.
Die Schulen stünden durchaus in der Verantwortung, schliesst Rösler: «Aber es sind auch die Plattformen und die Politik gefordert, Schutzmassnahmen vorzunehmen – so etwa durch Altersverifikationen.»
