Künstliche Intelligenz - Traumatisiert, weil sie den Chat-Roboter trainieren mussten

Damit ein Chat-Roboter nicht ausfällig und diskriminierend wird, muss ihm zuerst beigebracht werden, was Hass und Gewalt sind. Diese Aufgabe übernehmen meist schlecht bezahlte Arbeitskräfte im globalen Süden. Für die Menschen hat das fatale Folgen, wie das Beispiel aus Kenia zeigt.

ChatGPT ist derzeit in aller Munde: Der Chat-Roboter der Firma OpenAI kann innert kürzester Zeit sinnvolle Antworten auf komplexe Fragen geben, Gedichte und Songtexte schreiben und andere Aufgaben lösen.

Schulen und Universitäten fordern Regeln für ChatGPT – weil sonst die Gefahr besteht, dass sich Studierende ganze Vorträge und Seminararbeiten von der künstlichen Intelligenz schreiben lassen. Umgekehrt wird ChatGPT auch bejubelt: Als grossartige Innovation, die das Leben in vielen Bereichen erleichtert.

Warum ist ChatGPT besser als frühere Chat-Roboter?

Um Algorithmen zu trainieren, müssen sie mit sehr vielen Daten gefüttert werden. Im Fall von Chat-Robotern sind das häufig Texte aus dem Internet. Das Problem dabei: Im Internet finden sich nicht nur korrekte Informationen, sondern auch zahlreiche Verzerrungen, Vorurteile, Falschmeldungen und Diskriminierungen.

Frühere Chatbots, die mit Texten aus dem Internet trainiert wurden, haben deshalb auch rassistische, sexistische oder anderweitig diskriminierende Äusserungen gemacht. Die Lösung für dieses Problem: Der Chat-Roboter muss lernen, welche Texte problematisch sind – damit er solche Inhalte nicht reproduziert. Das führt aber wiederum zu einem Problem: Es braucht Menschen, die Tausende Schilderungen von Gewalt, Missbrauch und Ungerechtigkeit lesen und als solche klassifizieren. (Quelle: «Die Zeit»)

Ein Chat-Roboter mit guten Manieren

Was an ChatGPT besonders ist: Im Gegensatz zu früheren Chat-Robotern, die auch ausfällig und diskriminierend werden konnten, bleibt ChatGPT stets respektvoll. Das hat damit zu tun, dass dem Roboter ganz gezielt beigebracht wird, was Hass und Gewalt sind.

Das Problem: Es sind Menschen – in der Regel schlecht bezahlte Arbeitskräfte aus dem globalen Süden –, die dem Chat-Roboter das beibringen. Dafür müssen sie Tausende Schilderungen von sexualisierter Gewalt, Übergriffen, Hatespeech, Rassismus und Sexismus lesen – mit teilweise fatalen Folgen für die psychische Gesundheit, wie eine Recherche des «Time Magazine» ergab. Ein Mitarbeiter bezeichnete die Arbeit als «Folter». Verdient hat er nicht mehr als eine Putzkraft oder ein Gärtner, psychologische Unterstützung gab es keine.

«Ich bin ein Computerprogramm und habe keine Meinung dazu»

Die Antwort von ChatGPT, wenn er mit Kritik konfrontiert wird.

Screenshot / chat.openai.com

SRF-Korrespondentin wurde gefragt, ob sie künstliche Intelligenz trainieren möchte

Die Firma Sama, die für das Training von ChatGPT zuständig war, hat den Vertrag mit der Firma OpenAI mittlerweile aufgelöst. Grosse Wellen hat das in Kenia keine geschlagen, sagt SRF-Afrika-Korrespondentin Anna Lemmenmeier: «Es sind 200 Menschen, die ihre Stelle verlieren. Das ist nicht sehr viel, wenn man bedenkt, dass in Kenia etwa 24 Millionen Menschen im arbeitsfähigen Alter sind.»

Viele Unternehmen verkaufen ihre KI-Systeme so, als würde die Maschine wie von Zauberhand alles selber machen. Dabei braucht es im Hintergrund immer noch sehr viele Menschen.

Jürg Tschirren SRF-Digitalredaktion

Sie selbst sei auf LinkedIn auch einmal angefragt worden, ob sie als deutschsprachige Person in Kenia eine künstliche Intelligenz trainieren möchte: «Die Firmen haben ihren Standort meist nicht in Kenia, schreiben dann aber die Menschen hier an. Das läuft alles online», sagt Lemmenmeier.

Künstliche Intelligenz: «Technologie der Mächtigen»

Gibt es eine Möglichkeit, dass man die Chat-Roboter trainieren kann, ohne dass die Menschen verstörende Inhalte lesen müssen? Jürg Tschirren von der SRF-Digitalredaktion bezweifelt das: «Viele Unternehmen verkaufen ihre KI-Systeme so, als würde die Maschine wie von Zauberhand alles selber machen. Dabei braucht es im Hintergrund immer noch sehr viele Menschen.»

Und das sind oft Arbeitskräfte in Billiglohn-Ländern, die auf den Job angewiesen sind, um ihre Familie zu ernähren. Technik-Ethikerinnen wie Meredith Whittaker weisen seit Jahren auf diese Problematik hin: «Künstliche Intelligenz ist eine Technologie der Mächtigen.»

Kenia: Beliebter Standort für Online-Arbeiten

Kenia ist ein beliebter Standort für diverse Arbeiten, die online erledigt werden können – beispielsweise auch für das Verfassen von Seminararbeiten, wie SRF-Afrika-Korrespondentin Anna Lemmenmeier sagt: «In Kenia werden weltweit am meisten Uni-Arbeiten gegen Geld geschrieben. Das hat damit zu tun, dass die Menschen Englisch sprechen, relativ gut ausgebildet sind, mit dem Computer umgehen können und das Lohnniveau tief ist.»