Zum Inhalt springen
Inhalt

Künstliche Intelligenz «Durchaus möglich, dass die Technologie in falsche Hände gerät»

Legende: Video Stuart Russell über die Gefahr, die Kontrolle zu verlieren (eng.) abspielen. Laufzeit 00:28 Minuten.
Aus ECO vom 08.06.2018.

Beim Bezahlen oder beim Musikhören – künstliche Intelligenz ist längst schon in unserem Leben angekommen. Die Codes, die es braucht, um die Geräte zu programmieren, sind für viele leicht zugänglich. Zu leicht, fürchtet der renommierte Forscher Stuart Russell.

Stuart Russell

Stuart Russell

Professor für Elektrotechnik & Informatik

Personen-Box aufklappenPersonen-Box zuklappen

Stuart Russell ist ein weltweit führender Experte in künstlicher Intelligenz (KI), Robotik und Bioinformatik. Der britische Wissenschaftler doziert an den Universitäten in Berkeley sowie San Francisco und ist Vizepräsident des Rates für KI und Robotik des World Economic Forum. Er hat u.a. das viel zitierte Buch «Artificial Intelligence: A Modern Approach» verfasst. Stuart Russell ist Gründer und Vizepräsident eines Start-ups für Datenanalyse, welches im Auftrag der Vereinten Nationen ein Überwachungssystem für Atomwaffentests aufbaut. Der KI-Pionier unterstützt die internationale Kampagne zum Stopp von Killerrobotern.

SRF News: Welche Art von künstlicher Intelligenz (KI) nutzen Sie?

Stuart Russell: Ich brauche genau die gleichen wie alle: Google oder Kreditkarten zum Beispiel – dahinter steckt künstliche Intelligenz. Aber ich brauche weder Siri noch ein anderes Spracherkennungssystem.

Warum nicht?

Ich finde diese Sachen nicht wirklich nützlich. Sie verstehen meine Aktivitäten, meine Beziehungen und Projekte nicht. Es ist nicht das gleiche wie ein richtiger Assistent. Aber das ändert sich wohl in den nächsten Jahren – die Tools werden sehr viel intelligenter werden.

Sie vertreten die Meinung, dass KI für Gutes genutzt werden soll. Wie realistisch ist dieser Ansatz?

Es gibt die allgemeine Ansicht, dass KI eine sehr mächtige Technologie ist und dass es Dinge gibt, die wir damit machen können, die den Menschen sehr helfen werden. Aber es gibt auch Sachen, die wir damit tun können, die der Menschheit schaden werden. Es ist die Aufgabe der Politik, diese Formen des Missbrauchs zu verhindern.

Die Risiken werden weder von Politikern noch von den meisten KI-Forschern verstanden.

Und dann gibt es weitere Probleme. Sie haben damit zu tun, dass, wenn KI-Systeme immer fähiger werden, sie auch schwieriger zu kontrollieren sind. Wir werden schliesslich Systeme haben, die möglicherweise intelligenter sind als Menschen.

Es ist nicht einfach herauszufinden, wie Menschen Dinge kontrollieren können, die mächtiger sind als sie selbst. Das ist kein politisches, sondern ein technisches Problem. Es hängt davon ab, wie wir KI-Systeme bauen, und daran arbeite ich gerade.

Glauben Sie, dass die Leute sich der Gefahr bewusst sind, die KI mit sich bringt?

Viele Menschen glauben, dass Armeen von Robotern entstehen werden, die sich plötzlich dafür entscheiden, die Kontrolle zu übernehmen und die Menschen zu töten. Das ist völlig irreführend. Künstlich intelligente Systeme werden nicht entscheiden können, dass sie Menschen hassen.

Ausserdem werden wir bei Waffen wahrscheinlich keine superintelligenten KI-Fähigkeiten verwenden, weil wir das nicht brauchen. Menschen zu töten ist nicht besonders schwierig.

Legende: Video Stuart Russells Auftritt am Swiss Economic Forum abspielen. Laufzeit 20:44 Minuten.
Aus ECO vom 08.06.2018.

Aber KI-Systeme werden grosse Auswirkungen auf die Welt haben, und wir müssen sicherstellen, dass diese Effekte positiv sind und die Systeme vollständig unter menschlicher Kontrolle bleiben. Diese Risiken verstehen weder Politiker noch die meisten KI-Forscher.

Die Vorstellung, dass ein einziger intelligenter Roboter ganze Städte zerstören und die Macht übernehmen kann, ist in Ihren Augen absoluter Unsinn?

Ich denke nicht, dass das Unsinn ist. Aber es ist unwahrscheinlich, dass die ersten super intelligenten Maschinen von einem Individuum entwickelt werden.

Sobald eine Technologie entwickelt ist, ist es durchaus möglich, dass sie in die falschen Hände gerät.

Es ist eine sehr grosse Herausforderung, an der wir schon lange arbeiten. Dafür braucht es sehr grosse intellektuelle Ressourcen. Aber sobald eine Technologie entwickelt ist, ist es durchaus möglich, dass sie in die falschen Hände gerät – so wie wir fürchten, dass Atomwaffen in die Hände von Terroristen gelangen.

Software ist viel einfacher zu kopieren und zu verbreiten als Atomwaffen, und die Technologie wird öffentlich sein. Es wird für Einzelpersonen möglich sein, intelligente Systeme zu bauen. Und wenn sie das ohne Sorge um die Sicherheit tun, könnten sie die Systeme benutzen, um sehr zerstörerische Pläne durchzuführen oder sie könnten die Kontrolle über sie verlieren. Das ist ein erhebliches Risiko.

Haben wir die Kontrolle schon verloren?

Nein. Aber die Gefahr geht von Maschinen aus, die intelligenter sind als Menschen. Es könnte so weit kommen, und dann hätten wir wirklich ein Problem. Denn bisher gibt es keine Beispiele von weniger intelligenten Wesen, die intelligentere Wesen kontrollieren.

Wie könnte eine Kontrolle funktionieren?

Sie können sich ein System vorstellen, wie wir es schon im App Store haben. Wenn Sie eine Anwendung entwickeln, die Sie in den Store stellen möchten, muss die App eine ganze Reihe von Softwaretests bestehen, bevor sie erlaubt wird. Das, um sicherzustellen, dass sie das Smartphone nicht blockiert, keine andere Apps stört oder etwa Daten stiehlt.

Es gäbe ähnliche Anforderungen für KI-Software, bevor sie bereitgestellt werden können. Die Frage ist, wie wir sicherstellen, dass die Menschen diese nutzen.

Und wie wollen Sie verhindern, dass Roboter intelligenter werden als wir Menschen?

Ich will das nicht unbedingt verhindern. Es könnte für den Menschen enorm wertvoll sein, unsere intellektuellen Fähigkeiten zu erweitern. Und ich glaube nicht, dass ich das verhindern kann, weil die wirtschaftlichen Vorteile so gross sind. Ich möchte sicherstellen, dass die Maschinen, wenn sie intelligenter werden, vollständig unter menschlicher Kontrolle bleiben.

Die Art und Weise, wie wir über KI denken, ist nicht ausreichend, um das Kontrollproblem zu lösen. Aber es gibt innovative Wege, um Lösungen dafür zu finden. Mein Ziel ist es, diese Technologie zu entwickeln und alle davon zu überzeugen, sie zu nutzen.

Ich kann mir vorstellen, dass es schwierig ist, die Menschen davon zu überzeugen.

Ich hoffe nicht. Wir sehen Maschinen, die Fehler machen – wie etwa das autonome Fahrzeug von Uber, das einen Fussgänger getötet hat. Aber das war buchstäblich ein Bug, weil das Auto nicht richtig programmiert worden war.

Wir werden Fälle haben, in denen schlechtes Verhalten auftritt, nur weil der grundlegende Ansatz falsch ist. Diese Ereignisse werden die Menschen davon überzeugen, dass wir einen grundlegend anderen Ansatz für die Gestaltung von KI-Systemen brauchen. Und ehrlich gesagt liegt es an mir und meinen Kollegen zu zeigen, wie man diese baut, und dass solche Designs tatsächlich sicher sind.

Dinge wie der Uber-Unfall sind sehr schlecht für die ganze Branche.

Es ist sehr im Interesse der Industrie, bei der Sicherheit zusammenzuarbeiten. Denn jedes Mal, wenn ein Unternehmen einen Fehler macht, ist es auch für alle anderen Firmen sehr schlecht.

Wir sehen KI-Systeme in der Öffentlichkeit, die ziemlich unsicher sind.

Es gibt die Idee, dass Unternehmen die Forschung zur KI-Sicherheit teilen sollten. Aber das wird noch nicht wirklich umgesetzt. Wir sehen Systeme in der Öffentlichkeit, die ziemlich unsicher sind. Wir sollten nicht experimentieren und das Leben von Menschen riskieren, nur um zu forschen.

Legende: Video Stuart Russell über seine Forschungsmotivation und die neuen Gefahren (eng.) abspielen. Laufzeit 01:11 Minuten.
Aus ECO vom 08.06.2018.

Das Interview führte Viviane Bischoff.

Interviews

Interviews

Alle «ECO Spezial»-Gespräche vom Swiss Economic Forum sind hier zu finden.

Keine wichtigen News verpassen

Erhalten Sie die wichtigsten Nachrichten per Browser-Push-Mitteilungen.

Push-Benachrichtigungen sind kurze Hinweise auf Ihrem Bildschirm mit den wichtigsten Nachrichten - unabhängig davon, ob srf.ch gerade geöffnet ist oder nicht. Klicken Sie auf einen der Hinweise, so gelangen Sie zum entsprechenden Artikel. Sie können diese Mitteilungen jederzeit wieder deaktivieren.

8 Kommentare

Navigation aufklappen Navigation zuklappen

Sie sind angemeldet als Who ? (whoareyou) (abmelden)

Kommentarfunktion deaktiviert

Uns ist es wichtig, Kommentare möglichst schnell zu sichten und freizugeben. Deshalb ist das Kommentieren bei älteren Artikeln und Sendungen nicht mehr möglich.

  • Kommentar von Thomas Käppeli (Tokapi GT)
    Jede Künstliche Intelligenz muss früher oder später zur rationalen Schlussfolgerung gelangen, dass die Menschheit in ihrer quantitativen und qualitativen (autodestruktiven) Ausprägung für den Planeten Erde mit all seiner Biodiversität untragbar ist und zu eliminieren sei. Zu verhindern wäre dies einzig, wenn wir auch den Maschinen irrationales Tun und Lassen als angestrebter „Idealzustand“ einprogrammieren. Das wird nichts schlaues, wenn mangelhaft intelligente Wesen eine „Gottheit“ schaffen.
    Ablehnen den Kommentar ablehnen
  • Kommentar von Beat Reuteler (br)
    Das Risiko ist nicht primär, dass KI-Systeme intelligenter werden könnten als der Mensch. Ich bin mir sicher dass dies nicht passieren wird in den kommenden 80 - 100 Jahren. Aber dass KI-Systeme in genz spezifischen Nischen stärkere Leistungen erbringen und somit dann wegen fehlender Intelligenz in anderen Bereichen ganz wahnsinnige Dinge tun, mit denen wir nicht rechnen, das ist aus meiner Sicht das grösste Risiko.
    Ablehnen den Kommentar ablehnen
  • Kommentar von Ernst U. Haensler (ErnstU)
    Bis jetzt wurde jede neue Tech auch menschenfeindlich eingesetzt. Die fortgeschrittene KI eignet sich noch besser für Kriminelle u auch Militärs. Es wird auch in Zukunft Wissenschaftler geben ohne Moral u die sich nicht kontrollieren lassen.
    Ablehnen den Kommentar ablehnen