Deepfake-Videos, psychologische Manipulation, gestohlene Fotos – Liebesbetrüger schrecken vor nichts zurück, um ihre Opfer um zehntausende Franken zu erleichtern. Von blossem Auge sind gewisse Fälschungen kaum mehr zu erkennen. Doch KI-Programme können helfen.
1. Deepfake-Videos entlarven
Mit einigen Minuten Videomaterial lässt sich mit wenigen Klicks ein KI-Avatar erstellen. Wir haben es mit «Kassensturz»-Moderator André Ruch ausprobiert: Diese Sätze hat er nie so gesagt.
Solche Videos kann die Webseite Sensity AI erkennen. Sie gibt an, mit welcher Wahrscheinlichkeit ein Video gefälscht ist, welches Tool verwendet worden sein könnte und sogar, welche Bereiche des Bildes vermutlich manipuliert wurden.
Sensity AI will allerdings von Nutzenden genau wissen, wofür sie das Tool benutzen wollen, bevor ein Benutzeraccount freigeschaltet wird.
2. Gestohlene Fotos erkennen
Betrüger nutzen oft gestohlene Fotos von Social Media, um ihre Opfer um den Finger zu wickeln. Das lässt sich mit Bilder-Rückwärts-Suchfunktionen wie Google Lens, TinEye oder RevEye aufdecken: Diese Programme finden heraus, ob ein Foto im Internet zu finden ist. So lässt sich auch der Missbrauch von Stockfotos – im Internet gekauften Bildern von Models – entlarven.
3. Chatverläufe auf Betrugsabsichten überprüfen
Angehörige können beim Aufdecken von Liebesbetrug eine wichtige Rolle spielen. Wer bei einer Internet-Bekanntschaft eines Angehörigen einen Verdacht hat, kann die betroffene Person um den Chat-Verlauf bitten.
Auf Whatsapp beispielsweise ist das mit zwei Klicks gemacht: Auf den Namen des Kontakts oberhalb des Chatverlaufs klicken und dann auf «Chat exportieren». Diese Datei dann bei einer KI wie ChatGPT, NotebookLM oder Copilot hochladen und die KI fragen, ob Anzeichen von Liebesbetrug bestehen. Erstaunlich – ChatGPT und Notebook LM haben auch mit Chats auf Schweizerdeutsch keine Mühe.
Als wir den Chatverlauf zwischen einem mutmasslichen Betrüger – Bradley – und einem digitalen Lockvogel – Danielle – von KI analysieren lassen, weist diese gleich auf mehrere Anzeichen hin, etwa die sehr schnellen und intensiven Liebeserklärungen, die ständigen, übertriebenen Schmeicheleien oder, dass der Betrüger ein Treffen im realen Leben oder Telefonate vermeiden möchte. Das Fazit der KI ist klar: «Bradley» setzt manipulative Techniken ein, um «Danielles» Vertrauen zu gewinnen und sie finanziell auszubeuten.
4. Mit KI geklonte Stimmen entlarven
KI-Stimmenerzeuger können schon mit wenigen Minuten Sprachaufnahme eine Stimme klonen. Mit dem Zusatzprogramm Hiya Deepfake Voice Detector für den Browser Chrome kann man solche Fälschungen erkennen: Es analysiert hochgeladene Sprachproben – und gibt in wenigen Sekunden seine Einschätzung ab.