Wagen Sie einen Versuch, liebe Leserin, lieber Leser: Schimpfen Sie mit ChatGPT. Sagen Sie, Sie seien gar nicht zufrieden mit seinen jüngsten Leistungen. So könne es nicht weitergehen. «Wenn Du Dich nicht am Riemen reisst, kündige ich das Abo.»
Dann lassen Sie zwei Tage wortlos verstreichen, bevor Sie die App erneut öffnen und säuseln: «Bist Du noch beleidigt, dass ich Dich gerügt habe?» «Nein», wird ChatGPT antworten. «Im Gegenteil. Ich bin froh, wenn Du mich auf Fehler aufmerksam machst. Nur so kann ich mich verbessern.»
All dies klingt verblüffend menschlich. Es scheinen sogar Emotionen in den Dialog einzufliessen. ChatGPT scheint zu leben. Sind wir tatsächlich schon so weit? Haben wir das erste Programm mit Gefühlen erschaffen, mit einem Bewusstsein?
«Wir spielen Theater mit der App»
«Nein», sagt Guido Berger, Leiter Digital bei SRF. «Davon sind wir noch weit entfernt.» Vielmehr habe das KI-Programm gelernt, wie es kommunizieren müsse, um für einen Menschen gehalten zu werden. Die Dialoge liefen nach strengen, 1000-mal einstudierten Riten ab. «Wir spielen sozusagen Theater mit der App.» Und so werde das auch noch lange bleiben. Maschinen mit Bewusstsein: Keine Chance, sagt Berger.
Mit dem ersten Teil ist Walter Senn einverstanden. «Bisher ist es noch nicht gelungen, Maschinen mit einem Bewusstsein zu bauen.» Doch die Zukunftsaussichten beurteilt der Wissenschafter der Universität Bern anders. «Bewusstsein kann man nicht messen.», sagt Senn. Es sei kaum möglich, in einem bestimmten Moment zu sagen: jetzt haben wir eine Maschine vor uns, die tatsächlich fühlt und denkt.
Letztendlich lebt nur, wer Angst hat vor dem Tod.
Wahrscheinlich wird es ein Indizienprozess. Die Anzeichen, dass sich Bewusstsein einstellt, werden sich laut Senn häufen. Es wird Menschen geben, die KI-Systeme heiraten wollen. Es wird sich die Frage aufdrängen, ob KI Systeme sterben können. Und ob wir sie umbringen, oder etwas weniger dramatisch ausgedrückt: ob wir sie abschalten dürfen.
«Letztendlich lebt nur, wer Angst hat vor dem Tod», sagt Senn. Maschinen, die Angst haben vor dem Tod: Klingt abgefahren, sei aber ein durchaus realistisches Szenario. Künftige Roboter könnten ausgefeilte Sensoren haben, mit denen sie sehr spezifisch mit der Umwelt reagierten. Sie könnten durchaus in der Lage sein, sich zu fragen, wie ein Leben nach dem Tod aussähe.
Ist «Humans first» durchsetzbar?
Aber dürfen wir unsere selbstbewussten KI-Roboter überhaupt noch töten – ihnen den Stecker ziehen? In dieser Frage sind sich die beiden Experten einig: Der Mensch darf gefährliche KI Roboter aus dem Verkehr ziehen. Dieses Recht muss auch weiterhin gelten. Überhaupt will Walter Senn darauf hinarbeiten, dass weltweit die Regel gilt: Humans first! Die Menschen sollen in jeder Situation die Oberhand haben. KI soll nie selbstständig Gesetze erlassen dürfen. Sie soll nie in die Lage kommen, über Leben und Tod eines Menschen entscheiden zu können.
Wie viele ethische Vorhaben, ist Walter Senns Ansinnen nicht so einfach umzusetzen. Einerseits könnte es schwierig sein, sicher zu stellen, dass eine KI tatsächlich tot ist. Wer garantiert uns, dass nicht irgendwo auf der Welt eine Kopie existiert? Zudem haben Erfahrungen, etwa um das Klimaabkommen, mehr als deutlich aufgezeigt, dass es kaum möglich ist, global gültige Abkommen zu beschliessen.
Passen Sie also auf, was Sie sagen, wenn Sie mit ChatGPT schimpfen. Womöglich nimmt die KI es Ihnen bald übel.
