Zum Inhalt springen

Header

Audio
Software für die Entwicklung tödlicher Gifte
Aus Echo der Zeit vom 21.03.2022.
abspielen. Laufzeit 5 Minuten 15 Sekunden.
Inhalt

KI entwickelt Nervengifte Mit Pharma-Software zum nächsten Nowitschok

Zehnmal potenter als das Nervengift VX: Künstliche Intelligenz findet Tausende hochtoxische Moleküle, die bislang unbekannt waren.

Chemische Waffen sind gefürchtet und seit 1997 völkerrechtlich verboten. Dennoch gibt es ein Arsenal an hochgiftigen Molekülen, die über die Jahrzehnte als Waffen entwickelt wurden. Bekannt sind die Nervengifte Sarin, VX oder Nowitschok.

Porträt vom russischen Oppositionspolitiker Alexei Nawalny.
Legende: Mit dem Nervengift Nowitschok wurden der russische Oppositionspolitiker Alexei Nawalny (im Bild) und zuvor der russische Ex-Geheimdienstler Sergei Skripal und seine Tochter vergiftet. Keystone / ALEXANDER ZEMLIANICHENKO

Eine neue Studie zeigt, dass relativ einfach noch giftigere Stoffe entwickelt werden können – mithilfe einer Software, die in der Pharmaindustrie weit verbreitet ist.

Im Zentrum dieser Erkenntnis steht Sean Ekins. Der Brite will Menschen helfen und entwickelt in den USA Computerprogramme, die mittels künstlicher Intelligenz – kurz KI – nach neuen Arzneistoffen suchen. Mit Chemiewaffen hatte er nichts zu tun – bis ihn das Labor Spiez kontaktierte, das Institut des Eidgenössischen Departements für Verteidigung, Bevölkerungsschutz und Sport.

Das Labor Spiez organisiert regelmässig eine Konferenz, um Entwicklungen zu diskutieren, die das internationale Verbot von Chemiewaffen zu unterlaufen drohen. Sean Ekins wurde angefragt, ob er eine solche Untersuchung machen wolle, um darüber an der Konferenz zu berichten: Könnte die Software seiner Firma Collaborations Pharma mithilfe von KI statt heilender Medikamente auch tödliche Stoffe entwickeln?

Schockierende Ergebnisse

Ekins polte die Software also um: Statt wie normalerweise ausgehend von einem medizinischen Wirkstoff ähnliche Stoffe mit weniger Nebenwirkungen zu finden, suchte sie diesmal nach immer giftigeren Substanzen. Das Experiment gelang: Bloss sechs Stunden Rechenzeit später hatte der Computer Zehntausende Moleküle gefunden, viele davon extrem giftig.

Als Ausgangspunkt bekam die Software Moleküle, die dem Nervengift VX entfernt ähneln. Sie baute darauf zahlreiche Moleküle, die VX sehr ähnlich sind – aber bis zu zehnmal potenter. Noch etwas war beunruhigend: Die Software hatte auch Tausende hochtoxischer Moleküle entwickelt, die bislang unbekannt waren.

Am meisten aber schockierte Sean Ekins, dass all dies möglich war, obwohl er ausschliesslich öffentlich zugängliche Daten verwendet hatte. Selbst von der KI-Software, die Ekins entwickelt, gibt es Open-Source-Varianten, die man frei im Internet herunterladen kann.

Und schon ist die Chemiewaffen-Kontrolle ausgehebelt

Der Chemiewaffenexperte Cédric Invernizzi vom Labor Spiez hatte Sean Ekins' Versuch angeregt. Auch er ist beunruhigt, gibt aber zu bedenken, dass dieses Verfahren einem Staat, der Chemiewaffen produzieren will, nicht zwingend Vorteile bringt: Warum sollte jemand noch etwas Giftigeres in die Hände bekommen wollen als VX oder Nowitschok? Zumal die interessanten Moleküle nur virtuell im Computer existieren. Chemiker mit dunklen Absichten müssten erst herausfinden, ob und wie sie diese herstellen könnten.

Wie gross das Missbrauchpotenzial von KI tatsächlich ist, ist schwierig zu sagen.
Autor: Cédric Invernizzi Chemiewaffenexperte vom Labor Spiez

Um solche Absichten im Keim zu ersticken, gibt es Kontrollen. Zum Beispiel dürfen Ausgangsstoffe für die Produktion von Chemiewaffen nur mit Bewilligung gehandelt werden.

Doch diese Hürden könnten umgangen werden, warnt Sean Ekins, mit einer Software, die in ihren Kochrezepten nur unverdächtige Stoffe verwendet, für die es keine Handelsbewilligung braucht. Und schon ist die Chemiewaffen-Kontrolle ausgehebelt.

Aufklärung ist wichtig

Wichtig sei, die Software-Firmen und Forscherinnen aufzuklären, damit sie misstrauisch würden, wenn sie verdächtige Anfragen erhalten. Zudem könnten potenziell gefährliche Programme nur an registrierte Nutzer abgegeben werden. Bereits kursierende Software lässt sich damit allerdings nicht mehr kontrollieren.

Wie gross das Missbrauchpotenzial von KI tatsächlich sei, sei schwierig zu sagen, so Cédric Invernizzi vom Labor Spiez. Die internationalen Gremien von Chemiewaffenfachleuten würden dies nun wohl prüfen: «Gut möglich, dass das angeschaut wird, aber sicherlich kaum im öffentlichen Bereich.»

Sondern hinter verschlossenen Türen, damit nicht noch mehr Wissen bekannt wird, das missbraucht werden könnte.

Echo der Zeit, 21.03.2022, 18:00 Uhr

Meistgelesene Artikel

Nach links scrollen Nach rechts scrollen

5 Kommentare

Navigation aufklappen Navigation zuklappen

Sie sind angemeldet als Who ? (whoareyou) (abmelden)

Kommentarfunktion deaktiviert

Uns ist es wichtig, Kommentare möglichst schnell zu sichten und freizugeben. Aktuell sind keine Kommentare unter diesem Artikel mehr möglich.

  • Kommentar von Pascal Odermatt  (PDOdermatt)
    Ich frage mich wie präzise man die Toxizität eines unbekannten Stoffes bestimmen kann. Andererseits, fehlt der Vergleich zu den Erfolgen von KI. Wieviele Stoffe sind in klinischen Studien, welche von KI stammen? Viele sind es nicht, soweit ich weiss, allerdings hat KI sicher schon x Millionen solcher Substanzen 'entwickelt'. Wäre schon interessant eine Substanz herzustellen und zu vgl mit der Computercharakterisierung, aber wer will schon freiwillig solche Hochgifte herstellen.
    1. Antwort von Antwort SRF (SRF)
      Guten Tag Herr Odermatt
      Das sind alles völlig richtige Punkte. Es handelt sich grossteils um «virtuelle» Stoffe. Man müsste bei allen einzeln ausprobieren, ob man sie tatsächlich synthetisieren kann. Ein Chemiker kann das bei einigen davon sicher ziemlich gut aus der Erfahrung abschätzen, bei anderen ist es unklarer. Es gibt aber auch Software, die nach Synthesewegen sucht und auch Firmen, die auf die Herstellung neuer Stoffe spezialisiert sind und dies auch anbieten.
      Eine Hürde ist sicher, dass jemand nur einen hochgiftigen Stoff herstellen kann, wenn er ein Labor hat, das mit viel Sicherheitstechnik ausgestattet ist. Sonst würde er sich selbst gefährden.
      Liebe Grüsse
      SRF Wissen
  • Kommentar von Thomas Brand  (tomcomm)
    Ist diese Gefahr auf chemische Dinge beschränkt?
    1. Antwort von SRF Wissen (SRF)
      Guten Morgen Herr Brand
      Die Studie hat Software untersucht, die chemische Wirkstoffe sucht. In diesem Sinne bezieht es sich auf «chemische Dinge».
      Liebe Grüsse
      SRF Wissen
    2. Antwort von Thomas Brand  (tomcomm)
      Die Studie ja, aber die Gefahr. Besteht die Gefahr, dass z.B. neuartige biologische Pathogene auf die gleiche Art mit KI gefunden werden können. Was würde dagegen sprechen?