Wenn die KI sich verhört - «Ich steh auf die Nazis»: KI von Mundart-Schlager überfordert

• Bei einem Facebook-Video von Schlager-Star Melissa Naschenweng machte die automatische KI-Untertitelung aus «I steh auf Bergbauernbuam» den Satz «Ich steh auf die Nazis».
• Das Management der 36-jährigen Österreicherin deaktivierte daraufhin die Funktion und will die Ursache des Fehlers klären.
• Ähnliche Fehlleistungen automatischer Spracherkennung sind auch bei Youtube und anderen Diensten dokumentiert.

Fachpersonen nennen das «inappropriate content hallucination»: Das System erzeugt problematische Inhalte, die nicht gesagt wurden.

• 

  Die Untertitel wurden in dem entsprechenden Video auf Naschenwengs Facebook-Seite unterdessen deaktiviert.

  Facebook / Melissa Naschenweng
• 

  Melissa Naschenweng gehört zu den erfolgreichsten Schlagerstars Österreichs. Die Kärntnerin machte ihren Mix aus Volksmusik, Pop und Rock zu ihrem Markenzeichen.

  Getty Images / Pedro Becerra

Beim Video einer walisischen Kinderbuchlesung versuchte Youtube 2021, die damals nicht unterstützte Sprache als Englisch zu transkribieren. Aus «chwyrnu» – «schnarchen» – wurde mehrfach «horny» – «erregt».

Eine Studie zu mehr als 7000 Youtube-Videos für Kinder fand zahlreiche solcher Beispiele: Aus «corn» wurde etwa «porn», aus «beach towel» ein «bitch towel».

Warum versteht die KI etwas völlig anderes?

Automatische Spracherkennung hört nicht einfach ein Wort und schlägt es im Wörterbuch nach. Sie berechnet aus den gehörten Lauten mehrere mögliche Wortfolgen und entscheidet, welche davon am wahrscheinlichsten erscheint. Dabei berücksichtigt sie auch, welche Wörter sprachlich gut zusammenpassen.

Gerade bei Dialekten, seltenen Ausdrücken oder Gesang wird das schwierig. Erkennt die KI eine Lautfolge wie «Bergbauernbuam» nicht zuverlässig, kann sie die Laute anders aufteilen und daraus eine völlig andere, aber sprachlich plausible Wortfolge bilden. So können selbst Begriffe entstehen, die mit dem Gesagten inhaltlich nichts zu tun haben.

Dieselbe Studie testete auch Amazons automatische Spracherkennung. Dabei wurde der harmlose Name «Fluffy» als englisches F-Wort transkribiert. Aus «craft ideas» – «Bastelideen» – wurden in einem weiteren Beispiel «crap ideas» – «dumme Ideen».