Künstliche Intelligenz erobert immer mehr Lebensbereiche – doch es gibt auch warnende Stimmen. So verlangt der Mitbegründer von Anthropic, Jack Clark, es brauche dringend eine Möglichkeit, um die Programmierung durch KI zu bremsen. Denn schon in zwei Jahren werde seine KI Claude sich selbstständig weiterentwickeln – ganz ohne menschliches Programmieren. SRF-Digitalredaktor Guido Berger mit einer Einschätzung des Sachverhalts.
Guido Berger
Leiter SRF Digital-Redaktion
Wie ist die Warnung Clarks zu bewerten?
Inzwischen zeigt sich alle paar Monate ein grosser Name aus der KI-Szene besorgt über mögliche Folgen der rasanten KI-Entwicklung: dass wir die Kontrolle darüber verlieren könnten, dass es gut wäre, zu bremsen und eine Pause einzulegen, um zu überlegen, wie man die Kontrolle behalten kann. Doch einen konkreten Plan, wie man das machen sollte, hat keiner. Und so passiert jedes Mal das Gleiche: nichts. Zugleich drängen die KI-Unternehmen an die Börse, Investoren werfen mit Billionen Dollar um sich. Und Staaten schrecken vor einer Regulierung zurück. Es gibt also grosse Widersprüche zwischen dem Sagen und dem Handeln. Dabei wird man den Eindruck nicht los, es gehe womöglich nicht um eine Warnung, sondern vor allem darum, mit den tollen Fähigkeiten der eigenen KI zu werben.
Was ist die Gefahr, wenn sich eine KI selbst steuert?
Sie würde sich nicht nur selbst steuern, sondern auch selbst stetig verbessern. In der KI-Szene wird das «recursive self improvement» genannt (rekursive Selbstverbesserung, RSI). Derzeit machen KI-Modelle tatsächlich grosse Fortschritte darin, Programmcode zu schreiben und komplexere Aufgaben zu lösen. RSI würde dazu führen, dass die Fähigkeiten der KI exponentiell zunehmen würden. Doch es gibt ein grosses Aber: Experten sind sich nicht einig, ob das überhaupt möglich ist. Es könnte auch sein, dass die derzeit rasante Entwicklung wieder abflacht und an Schwung verliert. Doch falls die Selbstverbesserung tatsächlich möglich ist, dann ist völlig unklar, was passieren wird. In diesem Fall gibt es eben die Sorge, dass uns dann die Kontrolle über die KI komplett entgleitet.
Was wollen denn die KI-Unternehmen?
Alle grossen Player wie Anthropic, OpenAI (ChatGPT), Google (Gemini) oder Microsoft (Copilot) streben die rekursive Selbstverbesserung RSI an. Sie gehen alle davon aus, dass jenes Unternehmen, das RSI mit ihrer KI tatsächlich erreicht, ein allen anderen überlegenes Werkzeug in den Händen hat. Derzeit haben alle grossen KI-Entwickler das Gefühl, kurz davor zu stehen, dieses Ziel zu erreichen. Und deshalb stehen sie nicht auf die Bremse – im Gegenteil: Alle geben Vollgas.
Könnte eine «KI-Bremse» auch von Staaten geschaffen werden?
Durch stärkere Regulierung könnten Staaten tatsächlich so etwas wie eine Bremse einbauen. Doch welche Staaten kämen da infrage? Wenn westliche Staaten Bremsen einbauen würden, kämen sie möglicherweise ins Hintertreffen gegenüber autokratischen Staaten – wie etwa China –, sollten die nicht an Bremsen denken. Wir stecken also in einem Dilemma. Und so rufen immer wieder Leute nach einer Pause bei der KI-Entwicklung, doch einen umsetzbaren Plan hat niemand, wie dies realisierbar wäre.
