Künstliche Intelligenz - Druck auf X wächst wegen Verbreitung gefälschter Nacktvideos

Das soziale Netzwerk X von Elon Musk steht in Europa wegen der Verbreitung gefälschter Videos unter Druck. Diese sind mit Grok, dem KI-Assistenten von X, erstellt worden und zeigen Personen ohne deren Einverständnis entblösst.

«Wir sind uns der ernsthaften Bedenken bezüglich einer Funktion von Grok auf X bewusst, die Bilder nackter Personen und sexualisierte Bilder von Kindern erstellt», schrieb die britische Medienaufsichtsbehörde Ofcom am Montag in einer Mitteilung.

Weiter hiess es darin, man habe X «dringend» kontaktiert, um «zu verstehen, welche Massnahmen» dieses soziale Netzwerk ergriffen habe, um «seine gesetzlichen Verpflichtungen» bezüglich des Schutzes der Nutzer und Nutzerinnen in Grossbritannien zu erfüllen. «Abhängig von ihrer Antwort werden wir eine rasche Bewertung vornehmen, um festzustellen, ob es Compliance-Probleme gibt, die eine Untersuchung rechtfertigen könnten», fügte die Behörde hinzu.

EU bezeichnet Videos als «abscheulich»

Die Europäische Union liess ebenfalls am Montag verlauten, man nehme diese auf X verbreiteten gefälschten Videos «sehr ernst». Diese Videos «sind illegal, abscheulich und haben in Europa keinen Platz», betonte der Sprecher der EU-Kommission.

«X ist sich vollkommen bewusst, dass wir die Verordnung über digitale Dienste sehr streng anwenden, und wir ermutigen alle Unternehmen, sich daran zu halten», fügte der Sprecher hinzu. Er erinnerte daran, dass die EU im Dezember gegen X die allererste Geldstrafe verhängt hatte wegen eines Verstosses gegen diese Verordnung (siehe Box).

Rekordstrafe gegen X in Europa

Die EU hatte Anfang Dezember eine Busse von 120 Millionen Euro gegen X verhängt wegen Verstosses gegen den Digital Services Act (DSA) – dies trotz wiederholter Drohungen des US-Präsidenten Donald Trump. Dieser wirft der EU vor, mit ihrer digitalen Gesetzgebung amerikanische Techkonzerne ins Visier zu nehmen.

Die US-Regierung ergriff Ende Dezember Vergeltungsmassnahmen. Sie verhängte Sanktionen gegen den ehemaligen EU-Kommissar Thierry Breton, den Architekten des DSA, sowie gegen vier weitere europäische Persönlichkeiten. Diese hatten sich für eine strenge Regulierung der Techbranche eingesetzt.

Laut der französischen Zeitung Le Monde stellten zwischen dem 25. Dezember und dem 1. Januar fast die Hälfte der Bilder, die mit dem KI-Assistenten Grok generiert worden waren, teilweise entblösste Personen dar.

Tausende Internetnutzerinnen und Internetnutzer hätten dieses Werkzeug genutzt, um Inhalte zu erstellen, die darauf abzielten, Frauen, Jugendliche und sogar Kinder «auszuziehen», erklärten Fachleute der Organisation AI Forensics. Sie hatten zuvor 20'000 Bilder analysiert, die von Grok in diesem Zeitraum produziert worden waren.

X hat die Existenz von «Schwachstellen» bei seinem KI-Assistenten eingeräumt. Diese hätten es Nutzern ermöglicht, Bilder von Minderjährigen oder Frauen mit sexuellem Inhalt zu generieren.