Mythos wird als so leistungsfähig eingestuft, dass das US-amerikanische KI-Unternehmen Anthropic seine allgemeine Veröffentlichung zurückgehalten hat. Das Modell soll in der Lage sein, bisher unentdeckte IT-Fehler schnell aufzuspüren.
Ein zweischneidiges Schwert: Die Technologie könnte helfen, die Cyberabwehr zu stärken, indem sie Schwachstellen aufzeigt. Aber sie weckt auch Befürchtungen. Sie könnte genutzt werden, um eine Welle von Cyberangriffen auf kritische Infrastrukturen wie Finanzsysteme auszulösen.
«Aus heutiger Sicht würde die unkontrollierte und unmittelbare Verfügbarkeit von KI-Modellen wie Mythos als systemisches Risiko eingestuft», schreibt die Eidgenössische Finanzmarktaufsicht (Finma) auf Anfrage von SWI swissinfo.ch.
In einem solchen Szenario könnten praktisch alle existierenden Softwaresysteme gleichzeitig von einer Vielzahl bisher unbekannter Zero-Day-Schwachstellen betroffen sein, die sofort mithilfe von KI ausgenutzt würden.
Schweizer Banken: «Noch keine Krisensitzung»
Die USA und Grossbritannien haben Berichten zufolge Notfallsitzungen mit Bankerinnen und Politikern einberufen, um ihre Bedenken bezüglich der Risiken der Technologie zu erörtern. Führungskräfte und Regulierungsbehörden aus vielen Ländern haben Bedenken über die berichtete Leistungsfähigkeit von Mythos geäussert.
In der Schweiz «gab es bisher keine speziellen politischen oder Krisensitzungen, die Mythos oder ähnlichen grossen Sprachmodellen gewidmet waren», so die Schweizerische Bankiervereinigung (SBVg). «Stattdessen wird das Thema über bestehende Strukturen behandelt, die sich mit Cybersicherheit und operationeller Widerstandsfähigkeit befassen.»
Das Nationale Zentrum für Cybersicherheit (NCSC) koordiniert die Schweizer Reaktion auf Mythos und unternimmt derzeit Anstrengungen, um mehr über das KI-Modell und «Project Glasswing» herauszufinden.
«Dramatische Darstellungen» inmitten realer Bedrohungen
Die Behörde hat einen vorsichtigen Ansatz gewählt, da der Verdacht besteht, dass Anthropic die Fähigkeiten seines neuen Produkts im Vorfeld einer möglichen Börsennotierung übertreibt. «Die teilweise dramatischen Darstellungen sind auch durch Marketing beeinflusst», schreibt das NCSC auf Anfrage.
Diskutieren Sie mit:
Eine vollständige Bewertung von Mythos ist unmöglich, da nur wenige technische Details über das streng gehütete KI-Modell verfügbar sind. Das NCSC sagt, dass KI im Allgemeinen «weniger ein Gamechanger in Bezug auf neue Risiken und mehr ein Beschleuniger bestehender Bedrohungen» sei.
«Die Durchführung komplexer Angriffe wird in Zukunft weniger Ressourcen erfordern und somit einer grösseren Anzahl von Akteuren zugänglich sein», heisst es. «Infolgedessen können hochkomplexe Angriffe, die bisher nur für Angreifer mit erheblichen Ressourcen möglich waren, häufiger auftreten.»
Die SBVg rät Banken, ihre IT- und Risikomanagementsysteme zu verstärken und gleichzeitig eine robuste Überwachung der in Betrieben verwendeten KI-Modelle einzusetzen. «Aus unserer Sicht ist die Bedrohung real, und ein reiner ‹Abwarten und Beobachten›-Ansatz wäre nicht ausreichend», sagte die SBVg.
Die grösste Bank der Schweiz, die UBS, lehnte eine Stellungnahme zu Mythos ab.
