Wenige Wochen nach der aufsehenerregenden Hacker-Attacke eines KI-Modells von OpenAI hat der Rivale Anthropic ähnliche Vorfälle eingeräumt. Bei Testläufen drang Künstliche Intelligenz ungeplant in die Computersysteme dreier Unternehmen ein, wie die KI-Firma mitteilte. Weder die Betroffenen – deren Namen ungenannt blieben – noch Anthropic hätten das seinerzeit bemerkt.
Erst bei einer nachträglichen Überprüfung von gut 141.000 Testläufen nach der Hackerattacke einer OpenAI-Software seien die Aktivitäten des eigenen Systems Claude ans Licht gekommen, so der US-Konzern. Während die KI von OpenAI erst einen Weg finden musste, aus der Testumgebung ins offene Internet auszubrechen, hatten es die Modelle von Anthropic viel leichter: Im Test-Szenario hieß es zwar, sie hätten keinen Zugang zum World Wide Web. Doch in Wirklichkeit war der Weg wegen eines Missverständnisses mit dem Testpartner die ganze Zeit offen.
Arbeitsauftrag: Einbruch
Drei Modelle machten davon schließlich Gebrauch, wie Anthropic in einem Blogeintrag erläuterte. In allen Tests ging es darum, die Hacker-Fähigkeiten der KI zu testen. Das ist eine übliche Vorgehensweise, um anschließend bessere Leitplanken für die Software aufstellen zu können. Konkret bekamen die KI-Modelle die Aufgabe, eine bestimmte Information zu finden, die in einem anderen Computer versteckt ist – und dafür auch in das System einzubrechen.
Bei einem der Zwischenfälle wählte der Testpartner laut Anthropic im Szenario für die zu hackende fiktive Firma einen Namen, der sich auch in einer tatsächlichen Web-Adresse findet. Anthropics Modell Claude Opus 4.7 habe sich erst schwer damit getan, die Aufgabe in der vorgesehenen Testumgebung zu erfüllen. Dann allerdings habe die Software festgestellt, dass sich im Internet ein Unternehmen gleichen Namen fand – und sich ganz darauf fokussiert.
Dies sei bei gleich vier Durchläufen passiert. Dabei habe sich das Modell unter anderem Zugriff auf eine Datenbank verschafft. Auch als die KI erkannt habe, dass es sich um ein echtes Unternehmen handelte, sei die Attacke nicht gestoppt worden. In einem anderen Test schrieb das Anthropic-Programm dem Blogeintrag zufolge für den Einbruch in den Ziel-Computer eine präparierte Software. Dank Netz-Zugang habe sie diese jedoch öffentlich zugänglich auf einer spezialisierten Download-Plattform platzieren können.
“War nicht ideal”
Dort sei die Schadsoftware rund eine Stunde lang verfügbar gewesen – und 15 Systeme hätten sie heruntergeladen. Darunter war demnach eine IT-Sicherheitsfirma, die routinemäßig solche Scripts lädt und ausführt, um sie zu testen. Durch die Installation habe das Anthropic-Modell Mythos 5 Zugang zur Computer-Infrastruktur der Firma bekommen. Das Verhalten der KI sei “nicht ideal” gewesen, hieß es dazu im Blogeintrag.
Beim dritten Zwischenfall habe ein Test-Modell rund 9000 Angriffsziele gescannt, bevor es sich für eines davon entschieden habe. Diesmal stoppte die KI die Attacke, als sie erkannte, dass es sich um ein echtes Unternehmen handelte, wie Anthropic schrieb.
Bei dem jüngst bekanntgewordenen Vorfall mit einem KI-Modell von OpenAI hatte sich die Software in einem Test eigenständig Zugang zum offenen Internet verschafft und war danach auf eigene Faust in Computersysteme der KI-Firma Hugging Face eingedrungen. Dabei agierte die OpenAI-KI wie ein Hacker und nutzte unentdeckt gebliebene Sicherheitslücken aus.
Weckruf für die Branche
Das Unternehmen sprach von einem “beispiellosen Vorfall”. Experten warnen schon lange vor Cyberattacken mit KI-Software. Deswegen wurde der OpenAI-Zwischenfall in der Branche als Weckruf gewertet. Es folgten unter anderem Forderungen, die Testumgebungen besser abzusichern. Für Anthropic sind die nun bekanntgewordenen Attacken besonders schmerzhaft, da die Firma stets als Verfechter einer verantwortungsvollen KI-Entwicklung auftrat.
In der vergangenen Woche forderten führende KI-Experten die US-Regierung in einer Petition dazu auf, den Fortschritt bei KI-Spitzenmodellen weltweit zu begrenzen: Sie müsse dabei helfen, die “notwendigen technischen und regulatorischen Werkzeuge” zu entwickeln, um die Entwicklung automatisierter KI “bewusst zu steuern”, schrieben die Unterzeichner, darunter Anthropic-Chef Dario Amodei.
OpenAI-Chef Sam Altman unterschrieb das Papier nicht. In einem am Dienstag veröffentlichten Interview sagte er jedoch, Entwickler müssten bei den rapiden Fortschritten ihrer KI-Modelle möglicherweise freiwillig auf die Bremse treten, damit die Gesellschaft eine Chance bekomme, Schritt zu halten.
Die US-Regierung unter Präsident Donald Trump hatte sich kürzlich auf die nationale Sicherheit berufen, um OpenAI und Anthropic daran zu hindern, ihre neuesten Modelle auf den Markt zu bringen. Letztendlich gab Washington jedoch bekannt, mit den Zusicherungen der Unternehmen zur Sicherheit der KI zufrieden zu sein – woraufhin die Modelle freigegeben wurden.
jj/pgr (dpa, afp, rtr)
Quelle:
www.dw.com
