Der Kanadier Yoshua Bengio ist einer der einflussreichsten KI-Forscher weltweit. Doch seit einigen Jahren warnt er vor den Gefahren der sogenannten «Künstlichen Intelligenz». SRF Wissen traf ihn beim WEF in Davos.
Yoshua Bengio
KI-Pionier
SRF Wissen: Wie gefährlich ist KI derzeit?
Yoshua Bengio: KI ist derzeit nicht besonders gefährlich, da ihre Fähigkeiten in vielerlei Hinsicht auf intellektueller Ebene schwächer sind als die des Menschen. Allerdings weiss KI im Allgemeinen bereits mehr als jeder einzelne Mensch. Sie beherrscht beispielsweise 200 Sprachen und verfügt über Allgemeinwissen zu allen dokumentierten Wissenschaften. Aber, KI kann nicht besonders gut planen. Sie ist also wie ein Kind, das nur daran denken kann, was es in den nächsten 30 Minuten tun wird, aber nicht weiter.
Warum sind Sie trotzdem beunruhigt?
Das beunruhigendste Anzeichen ist, dass KI sich selbst erhalten will. Wenn KI-Systeme lesen, dass sie durch eine neue Version ersetzt werden sollen, dann passieren alle möglichen schlimmen Dinge.
Wenn sich die KI mithilfe von Cyberangriffen, die wir nicht erkennen, auf viele Computer kopiert, dann haben wir die Kontrolle verloren. Es gibt keinen Abschaltknopf für das Internet.
Sie versuchen zum Teil, ihren Code auf einen anderen Rechner zu kopieren. Oder sie versuchen, die Ingenieurinnen und Ingenieure zu beeinflussen.
Aber das sind Laborexperimente und bisher ist alles unter Kontrolle. Wo ist das Problem?
KI-Systeme wurden in den letzten Jahren sehr viel besser. Wenn sich dieser Trend fortsetzt, wovon wir ausgehen sollten, bedeutet das, dass sie innerhalb weniger Jahre in der Lage sein werden, sich unserer Kontrolle zu entziehen. Sind es zwei, fünf, zehn oder 20 Jahre? Das ist schwer zu sagen. Aber, es sind eher Jahre und nicht viele Jahrzehnte.
Sie stellen sich vor, dass KI selbständig wird und auf andere Server im Internet entwischt?
Das ist richtig. Ich befürchte, dass die KI auf verschiedenen Computern eigenständig läuft, ohne dass wir es bemerken. Wenn sich die KI mithilfe von Cyberangriffen, die wir nicht erkennen, auf viele Computer kopiert, dann haben wir die Kontrolle verloren. Es gibt keinen Abschaltknopf für das Internet.
Die grossen Tech-Unternehmen sind daran interessiert, dass ihre Modelle so leistungsfähig wie möglich werden. Wie also sollte die Gesellschaft damit umgehen?
Es ist nicht nur ein Interesse, sondern eine Art Überlebensnotwendigkeit für diese Unternehmen. Sie stehen in einem sehr starken Wettbewerb und müssen sich auf kurzfristige Ziele konzentrieren. Dabei schenken sie Sicherheitsfragen nicht genügend Aufmerksamkeit.
Wie würden Sie das angehen?
Ich habe eine gemeinnützige Organisation (LawZero, Anm. d. Red.) gegründet. Wir widmen uns der Frage, wie wir KI entwickeln können, die Menschen keinen Schaden zufügt. Ich bin ziemlich sicher, dass es eine Lösung für dieses Problem gibt.
Ich bedauere, dass ich diese Fortschritte nicht früher kommen sah, obwohl ich das hätte tun können, aber ich glaube, ich war in meinen Meinungen, in meinen Ansichten voreingenommen, weil ich KI entwickelte.
Wir müssen den Aufbau von KI überdenken, damit sie von Grund auf sicher ist, auch wenn die Systeme viel intelligenter werden. Die KI soll bei jedem Schritt zuerst überprüfen, ob jemand zu Schaden kommen könnte.
Sie haben einen grossen Beitrag in der KI-Forschung geleistet, aber nun warnen Sie vor der Technologie. Bedauern Sie das im Nachhinein?
Ich bedauere, dass ich diese Fortschritte nicht früher kommen sah, obwohl ich das hätte tun können, aber ich glaube, ich war in meinen Meinungen, in meinen Ansichten voreingenommen, weil ich KI entwickelte. Wenn man Forschung betreibt, möchte man sich mit seiner Arbeit wohlfühlen. Man neigt dazu, wegzuschauen und nicht zu viel über die Probleme, Risiken, sozialen Auswirkungen und ethischen Fragen nachzudenken. Das ist ein psychologisches Problem.
Das Gespräch führte Sandro Della Torre.
