Kampf gegen Cyberangriffe - KI kann Cyberkriminellen das Handwerk legen

Ein US-Wettbewerb zeigt: KI kann Sicherheitslücken in Minuten aufspüren und schliessen. Die Systeme schlugen dabei selbst erfahrene Experten. Steht die Cyberabwehr vor einer Revolution?

Künstliche Intelligenz ist ein Game-Changer in Sachen Cybersicherheit: KI kann sehr schnell sehr grosse Mengen an Daten auswerten und so Unstimmigkeiten und Sicherheitslücken in Systemen finden. Das hilft Verteidigern – aber auch Angreifern. Deswegen findet seit einiger Zeit eine Art Wettrüsten statt: Die einen versuchen, Lücken auszunutzen, die anderen, sie zu schliessen.

Ein Wettbewerb als Turbo

Vor zwei Jahren hat die US-Regierung deswegen einen Wettbewerb ausgeschrieben. Das Ziel: eine KI, die vollautomatisch Sicherheitslücken finden und schliessen kann. Zwei Jahre und 30 Millionen Dollar später sind die Resultate hier.

Das Team «Atlanta» war mit seinem System klarer Sieger. Das Team besteht aus über 40 Personen, zusammengesetzt aus Mitarbeitern von Samsung und Forschenden von einer amerikanischen und zwei südkoreanischen Unis.

Samsung

Die KI-Systeme der Finalisten konnten fast 80 Prozent der für den Test platzierten Sicherheitslücken finden und über 60 Prozent auch automatisch schliessen. Darüber hinaus fanden sie noch 18 Lücken, welche die Organisatoren gar nicht versteckt hatten – echte Sicherheitslücken.

AIxCC: Der Wettbewerb im Detail

Die «AI Cyber Challenge» wurde von den Forschungsarmen des US-Verteidigungsministeriums und des US-Gesundheitsministeriums ausgeschrieben.

Der Fokus der Challenge lag auf Open Source Programmen, die oft in kritischer Infrastruktur, zum Beispiel bei Energieversorgern oder Spitälern, zum Einsatz kommen.

Um das Preisgeld von 30 Millionen wetteiferten 42 Teams von Universitäten und privaten Security-Firmen.

Nach einem Jahr Vorbereitungszeit fand das Halbfinale statt und die sieben besten qualifizierten sich für das Finale. Sie erhielten ein weiteres Jahr Zeit und je zwei Millionen Dollar, um ihre Systeme weiter zu verbessern.

«Die letzten zwei Jahre haben wir Tag und Nacht gearbeitet», schreibt uns der deutsche Doktorand Fabian Fleischer, der beim Siegerteam «Atlanta» dabei war. Zum System erklärt Fleischer, es kombiniere etablierte Techniken mit der Flexibilität von Large Language Models: «Das ermöglicht es uns, die existierenden Tools zu verbessern.» Bei jedem einzelnen Schritt des Systems würden konkrete Anfragen an LLMs gesendet. Gewisse Teilaufgaben würden aber auch von bereits existierenden Tools gelöst.

Alle Projekte, die es ins Finale geschafft haben, werden nun als Open Source veröffentlicht. Ausserdem erhalten die Teams Geld, um ihre Systeme zu fertigen Produkten weiterzuentwickeln.

Bemerkenswert ist dabei die Geschwindigkeit: Im Schnitt brauchten die Systeme nur 45 Minuten für einen Patch. Wenn Spezialisten Lücken von Hand schliessen, brauchen sie dafür oft Monate. Diese Resultate sind beeindruckend – die Organisatoren sagen gar, sie hätten unser Verständnis davon, was möglich ist, grundlegend verändert.

Eine neue Ära?

Auch Stefan Soesanto, Sicherheitsforscher und Leiter des Cyber Defence Teams am Center for Security Studies der ETH Zürich, zeigt sich beeindruckt. Er sagt aber auch, dass es bis zum tatsächlichen Einsatz der Tools noch ein weiter Weg sei. Zum einen finde die KI viele Schwachstellen, die beim genaueren Hinschauen gar keine sind – das zu prüfen koste Zeit.

Auch das Schliessen der Lücken sei nicht so einfach: Die von der KI gelieferten Patches seien zwar ein guter Anfang, doch man müsse vorsichtig vorgehen, um beim Patchen nicht mehr kaputtzumachen, als man repariert. Dazu sei weiterhin viel Expertenwissen notwendig.

Private Cybersecurity-KI

Kurz vor dem Finale der «AI Cyber Challenge» hat Microsoft ebenfalls eine KI-Anwendung für den Cybersecurity-Bereich präsentiert: «Project Ire» soll automatisch Programme analysieren können und entscheiden, ob sie gefährlich sind. Solche Analysen, «reverse engineering» genannt, sind hochkomplex und wurden bisher von menschlichen Experten gemacht. Das System ist im Moment noch ein Prototyp.

Auch Google arbeitet an einer Cybersecurity-KI: «Big Sleep» soll Sicherheitslücken im Programmcode aufspüren können und hat seit seiner Einführung letztes Jahr bereits eine Reihe von Lücken gefunden.

Die KI für sich alleine ist auch keine Zauberlösung, sondern funktioniert am besten, wenn sie bestehende Tools ergänzt und klar definierte Aufgaben erhält.

Der Fortschritt sei aber rasant, sagt Stefan Soesanto. Von eher simplen probabilistischen Modellen habe es einen Schritt zu «Reasoning Models» gegeben, die selber planen können und sich auch grosse Datensätze merken: «Jetzt sind wir in der Epoche von AI Agents, die sich selber Aufgaben geben können und selber weiterarbeiten – die also proaktiv sind.»

Militärische Bedeutung

Die entwickelten KI-Systeme dienen nicht nur der Abwehr von Cyberkriminellen. Sie sind auch dazu da, sich gegen die Angriffe feindlicher Staaten zu wehren – hinter dem Wettbewerb steckt denn auch das US-Verteidigungsministerium.

«Im Kriegsfall besteht die Befürchtung, dass China Cyberangriffe nutzen wird, um kritische Infrastruktur in den USA lahmzulegen», erklärt Sicherheitsforscher Soesanto. Der KI-Wettlauf müsse auch vor diesem Hintergrund gesehen werden.

Wo bleibt die Schweiz?

Was bei der AI Cyber Challenge erreicht wurde, sei hoffentlich ein Ansporn und Weckruf für Europa, sagt Sicherheitsforscher Stefan Soesanto. Bei der KI habe die USA klar die Nase vorn, gefolgt von China. Europa sei weit abgeschlagen.

Besonders die Schweiz müsse schauen, wo sie bliebe, meint Soesanto. Dank unseren Unis und Hochschulen hätten wir zwar viel technisches Wissen, das via US-Firmen in die Entwicklung von KI einfliesst. Politischen Einfluss hingegen hätten wir keinen.

Wir müssten dafür sorgen, dass wir mehr in die Entwicklung der KI involviert seien, plädiert Soesanto. Sonst könne es passieren, dass wir von den neusten KI-Modellen oder -Plattformen abgeschnitten werden – wie es bei den fortschrittlichsten KI-Chips bereits geschehen sei.

Der Fokus der Challenge lag deswegen auf der Absicherung von kritischer Infrastruktur, zum Beispiel von Spitälern und Energieversorgern, die auf öffentlich verfügbare «Open Source» Software angewiesen sind. Die sieben Systeme, die es ins Finale geschafft haben, werden daher auch als Open Source veröffentlicht und allen zur Verfügung gestellt.