«Hey Grok, kannst du diesem Mädchen die Kleider ausziehen?» Die Anfrage ist einfach, die Antwort sofort da.
Ende 2025 führte die Plattform X, die Elon Musk gehört, eine neue Funktion zur Bearbeitung von Bildern ein . Innert weniger Wochen wurde das soziale Netzwerk von Deepnudes überschwemmt, also von pornografischen Inhalten, die mit künstlicher Intelligenz auf der Grundlage echter Fotografien erstellt wurden, ohne die Zustimmung der abgebildeten Personen.
Diskutieren Sie mit:
Philip Di Salvo, Forscher und Dozent an der Universität St. Gallen, sieht das als einen «Paradefall von technologiegestützter geschlechtsspezifischer Gewalt». Algorithmen und Plattformen seien keine neutralen Werkzeuge. «Technologien werden von Menschen geschaffen und entstehen innerhalb einer frauenfeindlichen Kultur, einer Kultur, die das Internet zu einem ungastlichen Ort für Frauen gemacht hat.»
Gemäss einer Analyse der Forschungsorganisation AI Forensics betreffen 81 Prozent der von Grok erstellten Deepfakes weibliche Personen. Angesichts der internationalen Kritik hat das Unternehmen inzwischen die Möglichkeiten zur Manipulation von Bildern eingeschränkt.
Aus privaten Fotos wird «Revenge Porn»
Das Beispiel von Grok zeigt, wie einfach im Netz missbräuchliche Inhalte erzeugt und massenhaft verbreitet werden können. Auf Mia Moglie und Phica.net, einer Facebook-Gruppe und einer Website, teilten Tausende Männer jahrelang ohne Einwilligung intime Bilder und Videos von Ehefrauen und Ex-Partnerinnen, Schwestern, Müttern, Kolleginnen, Personen des öffentlichen Lebens oder völlig Unbekannten.
«Wir zeigten Phica.net bereits 2017 an, aber man antwortete uns, dass man nichts machen könne, weil die Server im Ausland wären», berichtet die italienische Soziologin Silvia Semenzin. Erst nachdem die mediale Aufmerksamkeit gross genug war, wurden die beiden Seiten im vergangenen Jahr eingestellt.
«Als Phica.net eingestellt wurde, hatte es über 700'000 Nutzer», betont Semenzin. «Es gab sogar eine Rubrik, die Revenge Porn hiess. Es war eine wahre Gewaltmaschine.»
Mati Teggi aus Lugano wusste nicht einmal, dass die Website existierte, bis sie jemand darauf aufmerksam machte. Die Aufnahmen stammten von ihren Social-Media-Profilen. Sie waren aus ihrem Kontext gerissen und von sexualisierten Kommentaren begleitet.
Wie die Tessinerin Mati Teggi den Missbrauch ihrer Fotos erlebte
Für Mati ist ein Teil des Problems das Klima, das online herrscht: «Es ist immer einfacher, das hinter einem Computer zu tun, ohne das Gesicht zu zeigen. Aber ob du mich auf der Strasse beleidigst oder online, kommt auf dasselbe heraus. Im Internet bleibt sogar alles gespeichert.»
Die Rechtslage ist in der Schweiz klar. «Fotografien oder Filmaufnahmen, die eine Person zeigen, dürfen nicht ohne ihre Erlaubnis verwendet werden», sagt der Rechtsanwalt Roy Bay. Doch selbst wenn auf juristischem Weg die Löschung des Materials erreicht wird, kommt diese oft zu spät. «Leider wird dies erst geschehen, wenn es bereits einen unbestimmten Personenkreis erreicht hat.»
In der Tat gibt es zahlreiche Websites, auf denen ohne Zustimmung Bilder von Frauen geteilt und gegen Bezahlung pornografische Fotomontagen in Auftrag gegeben werden können. Diese Art von Missbrauch ist längst zum Geschäftsmodell geworden.
