Immer mehr KI-Inhalte - Fake-Video von Orca-Angriff: Die Wahrheit wird immer unwichtiger

Das Video eines Orcas, der in einem Vergnügungspark seine Trainerin tötet, sorgt auf Social Media für Aufruhr. Doch nichts daran ist echt. Der Deepfake steht exemplarisch für ein Problem mit Onlineinhalten.

Darum geht es: Es sind blutige, schockierende Aufnahmen, die derzeit auf Tiktok, Facebook und X kursieren. Ein Video zeigt die Orca-Tainerin Jessica Radcliffe, die im «Pacific Blue Marine Park» während einer Show von einem Schwertwal unter Wasser gezogen und getötet wird. Die Szenerie ist untermalt mit dramatischen Kommentaren und wirkt auf den ersten Blick extrem real.

Das Problem daran: So echt die Aufnahmen auf den ersten Blick auch wirken mögen, es gibt da einen Haken. Denn es gibt weder eine Orca-Trainerin namens Jessica Radcliffe, noch existiert ein Vergnügungspark mit dem Namen «Pacific Blue Marine Park». Das Video ist ein Deepfake und sowohl die Bilder als auch die Tonaufnahmen vollständig KI-generiert.

Ein exemplarisches Beispiel: Fake Videos wie jenes der Orca-Attacke häufen sich auf sozialen Medien. Ein weiteres aktuelles Beispiel sind Bilder von Superstar Paul McCartney, der am Bett des todkranken Musikers Phil Collins sitzt. Nicht nur werden solche Deepfakes in ihrer Qualität immer besser, sondern es werden auch immer mehr. Die grosse Menge an Online Content mache es den meisten Menschen unmöglich, zwischen echten und unechten Inhalten zu unterscheiden, sagt SRF-Digitalredaktor Guido Berger. «Die meisten sehen etwas nur ein paar Sekunden lang und haben dann bereits entschieden, ob sie das glauben oder nicht. In der Zeit, in der professionelle Faktenchecks stattfinden, haben andere 100’000 neue Inhalte erstellt.»

Die Frage der Wahrheit wird irrelevant: Ein Effekt dieser Masse an Onlineinhalten ist, dass auch echte Videos und Bilder vermehrt angezweifelt werden. Denn in Zukunft werde man wohl oft nicht mehr zwischen wahr oder falsch unterscheiden können, glaubt Berger. «Die Frage, ob etwas wahr ist oder nicht, ist komplett irrelevant geworden. Es geht vielmehr darum, was die Gruppe glaubt, der ich mich zugehörig fühle. Und das glaube ich dann auch.»

Fragmentierung im Internet schreitet voran

Wenn alle Inhalte potenziell gefälscht sein könnten und wir online nichts mehr wirklich trauen können: Welche Rolle kann das Internet dann bei der Informationsbeschaffung in Zukunft noch spielen?

Die Tribalisierung, also die Bildung von Gemeinschaften mit ähnlichen Interessen, werde sich fortsetzen, glaubt SRF-Digitalredaktor Guido Berger. Es werde wohl nicht mehr relevant sein, ob eine Information wahr oder falsch sei, sondern vor allem, ob die eigene Gruppe die Information teile und ihr vertraue. «Das geschieht auf einer gesellschaftlichen und auf einer technologischen Ebene. Die Plattformen, über die Inhalte verbreitet werden, fragmentieren sich ebenfalls und man kann mittlerweile leicht eine eigene Plattform für seine Gruppe aufbauen», so Berger. Ein Beispiel dafür sei Truth Social, wo es weniger um die Wahrheit gehe als viel mehr darum, den Leuten das zu sagen, was sie hören wollen und was sie als Teil der Gruppe ausmacht.

Anzweifeln aller Inhalte ist keine Lösung: Sollten wir heute grundsätzlich davon ausgehen, dass Bilder oder Videos im Internet nicht echt sind? Digitalredaktor Guido Berger hält diese Herangehensweise nicht für zielführend. Denn: «Es würde ja bedeuten, dass ich grundsätzlich Dinge anzweifle, auch die, die wahr sind. Besser wäre es, als Gesellschaft eine Resilienz zu entwickeln gegenüber dem Umstand, dass wir viele Inhalte wahrnehmen und nie wirklich wissen können, ob sie echt sind oder nicht.»

Geringe Chancen durch technische Fake-Erkennung: Es gibt technische Anstrengungen, um gefälschte Inhalte besser erkennen zu können. So sollen Bilder und Videos mit Wasserzeichen als echt verifiziert werden. Dies kann beispielsweise einem Kriegsfotografen als Beweis dienen, dass seine Bilder nicht künstlich generiert oder verändert wurden. Auch bei Gerichtsfällen oder breit diskutierten Themen in der grossen Öffentlichkeit könne die Technik helfen, glaubt Berger. Doch im Grossen und Ganzen verspreche er sich wenig davon. «Die Inhalte fliegen im Feed in Sekundenschnelle vorbei und erzielen eine Wirkung – unabhängig davon, ob sie wahr oder falsch sind.» Dass man in naher Zukunft mittels technischer Mittel alle Fake-Inhalte erkennen kann, hält der Digitalexperte für unrealistisch. Zu gross sei der Wettkampf um neue Technologien und zu schwierig die zweifelsfreie Verifikation der Masse an Onlineinhalten.

Optimismus für Demokratien wie die Schweiz

Wenn die Wahrheit im Netz immer weniger wichtig wird, mache er sich vor allem um eher autokratische Staaten Sorgen, sagt SRF-Digitalredaktor Guido Berger: «Das grösste Problem hat eine Demokratie, die nur aus wenigen Parteien besteht. Dort sind die Tribalisierungskräfte sehr stark und sie fördern Populismus.» Um eine Demokratie, in der es nur Repräsentanten gibt und die Bürgerinnen und Bürger sich nur alle vier Jahre oder noch seltener zu Wort melden können, mache er sich grosse Sorgen.

«Für die Schweiz hingegen glaube ich, dass man einen Schlüssel hat, um sich gegen solche Entwicklungen zu wappnen», so Berger weiter. Dazu zähle neben der direkten Demokratie auch die Verankerung in der Gemeinde sowie das föderale System. Wer nah an seiner Lebenswelt mitbestimmen könne, spüre mehr Verantwortung und beteilige sich dadurch unter Umständen mehr. «Das können Faktoren sein, die es möglicherweise begünstigen, dass man dann aus diesem tribalen Denken herauskommt und sich den Mechanismen widersetzen kann», erklärt der Digitalexperte.