Künstliche Intelligenz - Wie wir mit KI-Bildern aus Auschwitz getäuscht werden sollen

Soziale Medien werden mit Bildern des Holocausts geflutet, die mit KI produziert wurden. Gedenkstätten warnen. Was steckt dahinter?

Ein ausgemergelter Mann spielt Geige im Konzentrationslager Auschwitz. Er begleite seine Mitgefangenen auf dem Weg in die Gaskammern, steht in der Bildlegende. Beiträge wie jener bei Facebook bewegen viele Menschen, die Kommentarspalten sind voll. Doch echt ist das Bild nicht – es ist hergestellt mit künstlicher Intelligenz. Eine Fälschung.

• 

  X/Petros Van Ripper
• 

  Facebook/Golden Historical Images
• 

  Facebook/Whispers of History

Das Bild suggeriert zudem: Der Terror in Auschwitz wurde dokumentiert, sichtbar für die ganze Welt. Wo ein Mann mit Geige abgebildet wird, ist auf der anderen Seite ein Fotograf. Doch genau das stimmt nicht – aus Auschwitz zum Beispiel gibt es nur sehr wenige Bilder aus Zeiten vor der Befreiung – und diese waren Nazi-Propaganda. Der Terror war eben nicht für die ganze Welt sichtbar – auch wenn viele davon wussten.

Darauf haben wir beim Faktencheck geachtet

Samuel Fehr vom Netzwerk Faktencheck von SRF hat sich die Bilder genau angeschaut. «Auffällig war zum Beispiel der Vergleich mit authentischem Bildmaterial bekannter Gedenk‑ und Archivorganisationen: Die KI‑generierten Bilder unterscheiden sich klar in Stil und Darstellung.»

Der Plausibilitätscheck verdeutliche: Viele dargestellte Situationen oder Details ergeben im historischen Kontext des Holocaust keinen Sinn – etwa die ungewöhnlich gepflegten Erscheinungen, unwahrscheinliche Szenen oder eine Bildqualität, die nicht zur technischen Realität der damaligen Zeit passt.

«Zudem sind alle Fotos ausschliesslich auf Social-Media-Plattformen zu finden und in keiner anderen verlässlichen Sammlung von historischem Bildmaterial. Zahlreiche der Accounts, welche die Bilder posten, sind unpersönliche Konten, welche viel mit KI-generierten Inhalten arbeiten», so Samuel Fehr. Schliesslich gebe es auffällige Fehler in den Bildern: fehlende Köpfe oder Gliedmassen und fehlerhafte oder fiktive Orte.

Zur digitalen Überprüfung wurden unter anderem Hive Moderation sowie Bilderrückwärtssuchen über gängige Suchmaschinen und KI‑Assistenten eingesetzt.

Sehr oft sind die gefälschten Bilder für Laien nur schwer von Originalen unterscheidbar. Die Künstliche Intelligenz wird jeden Tag ein bisschen besser.

• 

  Ein Mensch steckt halb in einem Müllberg, einem anderen fehlen die Hände.

  Facebook/Threads of Time
• 

  Das Foto wirkt nicht alt und ist ungewöhnlich scharf für diese Zeit.

  Facebook/Ok 30
• 

  Auffällige intakte Häftlingskleidung und künstlich wirkender «Flicken» auf ihrem Kleid.

  Facebook/History about Native
• 

  Ein fiktiver Ort: Der Hintergrund stimmt nicht mit den historischen Standorten überein.

  Facebook/History Timelines

Die Geschichte wird zur Fiktion. Darum schlagen in Deutschland neben vielen anderen Organisationen auch Gedenkstätten Alarm.

«KI-generierte Inhalte verfälschen die Geschichte durch Verharmlosung und Verkitschung», schreiben die Organisationen in einem offenen Brief. «Sie verändern die Sehgewohnheiten der Nutzerinnen und Nutzer, die zunehmend auch authentische historische Dokumente anzweifeln. Mit jedem dieser Postings wird die Arbeit von Gedenkstätten, Archiven und Forschungseinrichtungen entwertet und ihre Glaubwürdigkeit untergraben.»

Emotionen sind Klicks und damit bares Geld

Doch wer hat ein Interesse daran, historische Dokumente zu fälschen? Einerseits gehe es ums Geld, schreiben die Organisationen: «Sogenannte Content-Farmen nutzen die emotionale Wucht des Holocaust, um mit minimalem Aufwand maximale Reichweite zu erzielen. Ein Geschäftsmodell, das auf Klicks und Werbeeinnahmen basiert».

• 

  Hier sind die Wiederholungen auffällig.

  Facebook/Chava Leonard
• 

  Auf diesem Bild verschmelzen Köpfe und Körper ineinander.

  Facebook/Threads of Time
• 

  Fehlende Köpfe und unnatürliche Wiederholungen.

  Facebook/History Timelines

Auf der anderen Seite hätten auch Holocaust-Leugner ein Interesse an den Fälschungen, «um historische Fakten zu verwässern, Opfer- und Täterrollen zu verschieben oder revisionistische Narrative zu verbreiten. Die Algorithmen der Plattformen begünstigen dabei emotional aufgeladene Inhalte, unabhängig von deren Wahrheitsgehalt.»

Soziale Medien und ihre Probleme mit KI

Facebook oder Tiktok zum Beispiel reagieren auf die Forderungen, KI-generierte Fälschungen zu löschen. Es sei bisher technisch aber nicht möglich, alle KI-generierten Inhalte zu identifizieren, schreibt Facebook auf eine Anfrage der «Süddeutschen Zeitung». Zusammen mit anderen Unternehmen der Branche arbeite man aktuell aber an einheitlichen Standards, um KI-Content zu erkennen. 

Es untergräbt die Integrität der historischen Wahrheit.

Museum Auschwitz-Birkenau in Polen

Darauf hoffen auch viele Nachfahren der Opfer – und Gedenkstätten wie das staatliche Museum Auschwitz-Birkenau in Polen. Auf «X» schreibt das Museum zu den KI-Fälschungen: «Sie sind ein schwerwiegender Akt der Missachtung gegenüber dem Andenken derjenigen, die in Auschwitz gelitten haben und ermordet wurden. Es untergräbt die Integrität der historischen Wahrheit».

Und wer nicht mehr unterscheiden kann, was wahr ist und was eine Lüge, der glaubt am Ende gar nichts mehr.