Der Informatiker und Kognitionspsychologe Geoffrey Hinton hat massgeblich zum Erfolg der neuronalen Netze beigetragen, der Technologie hinter KI-Anwendungen wie ChatGPT. Seit 50 Jahren forscht der gebürtige Brite an dieser Technologie, nun schlägt er Alarm: Die Maschinen seien auf dem Weg, uns in puncto Intelligenz zu überholen, und das bleibe nicht ohne Konsequenzen.
Ein Blick in die Geschichte zeige, dass die Dümmeren die Intelligenteren nicht mehr kontrollieren könnten, so der Forscher. Hinton warnt, dass die Maschine den Menschen dominieren wird. Dass der Mensch die Kontrolle über super intelligente Systeme verlieren könnte, scheint auch für den Philosophen Nik Bostrom realistisch.
Super beschränkt: Ist KI ein Fachidiot?
Ganz anders sieht das Stuart Russell, Professor für Informatik an der University of California und ebenfalls eine KI-Koryphäe. Er warnt davor, die Fähigkeiten von KI-Systemen zu überschätzen. Russell sieht die Probleme darin, dass KI-Systeme heute falsch trainiert werden, dass sie stur ein vom Menschen vorgegebenes Ziel verfolgen, ohne sich um die Nebenwirkungen zu kümmern.
Beispiel soziale Medien: Eine KI wurde für die Zusammenstellung des Newsfeeds darauf trainiert, Nutzerinnen und Nutzer möglichst lange auf der Plattform zu halten, egal wie fragwürdig die Inhalte auch sind. Wären die Maschinen intelligent, würden ihnen solche Fehler nicht unterlaufen.
Die deutsche Wissenschaftsjournalistin Manuela Lenzen zeigt in einem lesenswerten Buch über natürliche und künstliche Intelligenz eindrücklich, wie gross die Unterschiede zwischen künstlicher und natürlicher Intelligenz sind – und wie wenig der Mensch versteht, wie Intelligenz zustande kommt.
Für die Autorin sind KI-Anwendungen wie ChatGPT einfach Werkzeuge. Dabei macht ihr nicht KI-Software Angst, sondern die Menschen, die diese Werkzeuge benutzen.
Mensch oder Maschine: Wer ist das Problem?
KI-basierte Text- und Bildgeneratoren können Fake News in grossem Stil produzieren und verbreiten. Viele renommierte Expertinnen und Experten warnen deshalb vor einer Fake-News-Welle, welche die Gesellschaft weiter spaltet.
Der Philosoph Joshua Habgood-Coote hingegen meint, dass die dystopischen Warner das Problem falsch verstünden: Der Mensch sei das Problem und nicht die Technologie , so der Wissenschaftler, der an der Universität Leeds forscht.
Jobverlust: Prognosen sind schwierig
KI-Werkzeuge werden unser Leben verändern, etwa beim Schreiben von Texten, beim Übersetzen, beim Illustrieren oder bei der Ideenfindung – und damit auch die Arbeitswelt. Welche Jobs verschwinden werden, hängt davon ab, wie schnell die Werkzeuge ihre vielen Kinderkrankheiten ablegen können.
Bei den selbstfahrenden Autos geht das langsamer als vor zehn Jahren angenommen. Statt des damals prognostizierten Heeres arbeitsloser Chauffeure wird ein gravierender Mangel an Fahrern zum Problem. Einmal mehr wurde die Komplexität der zu automatisierenden Aufgabe unter- und das Potenzial der Maschine überbewertet.
Vielleicht lassen sich anspruchsvolle Aufgaben gar nicht mit den heutigen Verfahren des maschinellen Lernens lösen. Viele Forschende wie etwa Benjamin Grewe, Professor am Institut für Neuroinformatik von der Univerisität und ETH Zürich, sind überzeugt, dass für leistungsfähige KI-Systeme körperliche Erfahrungen unabdingbar sind.
