Künstlich intelligente Waffen Experten fordern Verbot von Killerrobotern

Er hat den Appell an die UNO zwar auch unterzeichnet. Doch eigentlich komme dieser zu spät, sagt der Experte für Künstliche Intelligenz, Jürgen Schmidhuber.

Schmidhuber posiert mit einem Roboter mit niedlichen, kindlichen Gesichtszügen. Bild in Lightbox öffnen.

Bildlegende: Jürgen Schmidhuber ist Ko-Direktor des Schweizer Forschungsinstituts für Künstliche Intelligenz. ZVG

  • Waffensysteme, die selbständig Entscheidungen treffen können, gehören längst nicht mehr ins Reich der Science Fiction allein. Doch anders als in Literatur und Film, gibt es in der Wirklichkeit möglicherweise kein Happy End.
  • Über 100 Experten für künstliche Intelligenz (KI) aus 26 Ländern warnen in einem offenen Brief an die UNO vor den Gefahren autonomer Waffen.
  • Einmal entwickelt, ermöglichten sie mehr bewaffnete Konflikte denn je und in einer Geschwindigkeit, die Menschen nicht mehr verstünden.
  • Und die Zeit dränge, schreiben die Experten weiter. Sie fordern die UNO dazu auf, autonome Waffen auf eine Verbotsliste zu setzen.
Zusatzinhalt überspringen

Der Apell an die UNO

KI-Experten der ganzen Welt treffen sich derzeit im australischen Melbourne zur zweijährlichen Joint Conference on Artificial Intelligence (IJCAI). Der offene Brief an die UNO wurde an der Konferenz initiiert.

SRF News: Welche Gefahren gehen von Waffensystemen mit künstlicher Intelligenz (KI) aus?

Jürgen Schmidhuber: Alle Internetkonzerne setzen derzeit auf das so genannte Long-Short-Term Memory (LSTM). Das ist ein lernendes, neuronales Netzwerk, das beispielsweise auf Handys die Sprache erkennt, oder das für Google, Facebook und all die anderen die Übersetzungen macht. Milliarden von Leuten verwenden es. Man könnte sagen, das sei doch eine gute Anwendung, und Menschen profitierten davon. Dasselbe LSTM kann aber auch für die Steuerung von Drohnen verwendet werden und dazu, besser Krieg zu führen. Und das stimmt nachdenklich.

Autonome Waffen sind bereits in Gebrauch oder in der Entwicklung. Lassen sie sich überhaupt noch aufhalten?

Ich habe den offenen Brief an die UNO zwar unterschrieben, aber ich glaube nicht, dass diese Entwicklung aufzuhalten ist. Wenn es die Chinesen nicht machen, dann machen es die Amerikaner, die Russen oder andere. Natürlich hat jede Grossmacht Angst, dass die anderen einen Vorsprung erforschen, den sie dann nicht mehr so schnell aufholen kann. Deshalb werden sie alle an den autonomen Waffen weiterforschen.

«  Ich glaube nicht, dass diese Entwicklung aufzuhalten ist.  »

Ist bekannt, welche Länder wie weit in der KI-Forschung sind?

Die grundlegenden Ideen in der KI oder dem Deep Learning, wie es jetzt oft genannt wird, kommen alle aus Europa. Es begann vor 50 Jahren in der Ukraine. Heute sind die grossen Firmen, die KI besonders gerne verwenden, vor allem an der US-Westküste und an der Ost-Küste Asiens angesiedelt. Dort sind auch sehr grosse Geheimdienste und Kriegsmaschinerien zu finden.

Drohnen auf grossen Lastwagen an einer Militärparade auf dem Tiananmen-Platz in Peking. Bild in Lightbox öffnen.

Bildlegende: Entscheiden Chinas unbemannte Drohnen bald selbst, wen sie verfolgen und angreifen wollen? Reuters

Im Gegensatz zu den grossen Firmen, publizieren diese natürlich nicht, was sie alles tun. Aber man muss davon ausgehen, dass sie all das, was für die grossen Firmen gut funktioniert, auch für ihre eigenen Zwecke verwenden. Und die Geheimdienste sind natürlich massiv daran interessiert, alles Material im weltweiten Internetverkehr zu durchforsten, um alle möglichen Vorteile zu gewinnen, und ihre Drohnen sowie automatischen Kämpfer, besser steuern und erfolgreicher machen zu können. Deswegen ist es völlig klar, dass die Grossmächte – und wahrscheinlich auch kleinere wie Israel – ganz viel in der KI forschen.

Also kommt ihr Aufruf zu spät?

Eigentlich kommt er zu spät. Doch man darf nicht vergessen, dass 95 Prozent der KI-Forschung darauf zielen, Menschen länger und besser leben zu lassen – aber auch sie abhängiger von ihren Smartphones zu machen.

«  Vielen Politikern ist nicht bewusst, wie stark KI heute schon das tägliche Leben beeinflusst und wie rasch die Entwicklung fortschreitet. »

Die UNO solle autonome Waffen auf eine Verbotsliste setzen, fordern Sie und die anderen Unterzeichnenden. Was erhoffen Sie sich davon?

Zumindest wird damit mal die öffentliche Aufmerksamkeit ein wenig geschärft. Die UNO hat ja eine lange Tradition, Waffen zu ächten. Allerdings konnte sie nie so viel ausrichten, wenn es um die Interessen von Supermächten ging. Chemische Waffen etwa sind seit langer Zeit verboten, doch die schlimmsten unter ihnen, die Nuklearwaffen, sind es nicht. Das heisst, in dem Masse, wie Supermächte nicht daran interessiert sind, sich irgendetwas verbieten zu lassen, wird es auch nicht wirklich getan. Wahrscheinlich werden wir im Fall der KI-Waffen dasselbe sehen. Insofern ist es recht schwierig, zu viel zu erwarten.

Tödliche autonome Waffen

Heute werden Drohnen, Panzer und U-Boote, die unbemannt unterwegs sind, noch ferngesteuert. Derzeit werden aber Waffensysteme entwickelt, die völlig autonom agieren können. Das heisst sie entdecken die Ziele, wählen sie aus, verfolgen sie und greifen ohne menschliche Kontrolle an. Experten rechnen damit, dass die ersten solchen Waffen in ein paar Jahren einsatzfähig sind.
Die UNO diskutierte im April 2013 erstmals darüber, letale autonome Waffen in die Konvention über «gewisse konventionelle Waffen» (CCW) aufzunehmen. Im letzten November einigten sich die 124 CCW-Mitgliedstaaten, eine Expertengruppe einzusetzen, die formale Verhandlungen vorbereiten soll. Ihr erstes Treffen war für heute in Genf geplant, wegen Geldmangels wurde es jedoch abgesagt. Einige CCW-Mitgliedsstaaten hätten ihre Beiträge nicht bezahlt, teilt die UNO mit.
Das UNO-Übereinkommen über das Verbot oder die Beschränkung des Einsatzes
bestimmter konventioneller Waffen, die übermässige Leiden verursachen
oder unterschiedslos wirken können, trat 1983 in Genf in Kraft. Sie bemüht sich um ein Verbot von Landminen, Napalm, blendenden Laserwaffen und Streumunition.

Die Joint Conference on Artificial Intelligence hat schon vor rund zwei Jahren auf die Gefahren von KI-Waffen hingewiesen. Passiert ist aber nicht viel. Wie erklären Sie sich das Desinteresse der Politik?

Die meisten Politiker haben einen relativ nahen Horizont. Sie sind für vier Jahre gewählt. Daher schauen sie im Durchschnitt vielleicht gerade mal zwei Jahre voraus, um herauszufinden, was sie tun müssen, um wiedergewählt zu werden. Alles, was mit KI zu tun hat, die möglicherweise erst in fünf bis zehn Jahren eine sehr grosse Rolle spielen werden, steht auf ihrer Prioritätenliste nicht ganz oben. Viele von ihnen sind sich auch einfach nicht bewusst, wie stark KI heute schon das tägliche Leben beeinflusst und wie rasch die Entwicklung fortschreitet.

Das Gespräch führte Beat Soltermann.

Sendungsbeitrag zu diesem Artikel