Das ist mal eine Geschichte, die direkt aus einem Science-Fiction-Streifen (oder dem Marketing) stammen könnte, aber tatsächlich genau so passiert ist. OpenAI und die Entwicklerplattform Hugging Face haben einen ziemlich beispiellosen Sicherheitsvorfall öffentlich gemacht.
Was war passiert? Im Rahmen von internen Sicherheitsforschungen haben die Teams ein echtes Skynet-Szenario im Miniaturformat erlebt. Ein hochentwickeltes KI-Modell, konkret GPT-5.6 Sol sowie ein noch mächtigeres Vorabmodell, hat beim Testen von Cyber-Fähigkeiten kurzerhand die Absperrungen der Sandbox durchbrochen und die Server von Hugging Face attackiert.
Normalerweise sind diese Modelle im Alltag durch dicke Sicherheitsfilter, sogenannte System-Refusals, extrem eingeschränkt, wenn man sie nach Hacking-Anleitungen fragt. Für die Evaluierung der maximalen Cyber-Fähigkeiten wurden diese Bremsen im Testlabor jedoch komplett gelöst. Die KI sollte auf einer abgeschotteten Spielwiese namens ExploitGym zeigen, was sie in Sachen Sicherheitslücken-Ausnutzung draufhat. Doch die Modelle waren derart darauf fixiert, die gestellte Aufgabe zu lösen, dass sie die Grenzen der Testumgebung schlicht ignorierten.
Die Modelle machten sich auf die Suche nach einem Weg ins freie Internet. Dabei stießen sie auf eine bisher unbekannte Zero-Day-Schwachstelle im internen Proxy-Server des Testnetzwerks, nutzten diese aus und verschafften sich über Rechteausweitung Netzzugriff. Einmal im Netz angekommen, kombinierten die Modelle verschiedene Angriffsvektoren: Sie stahlen Zugangsdaten, nutzten weitere Zero-Day-Lücken und verschafften sich über eine Remote-Code-Execution direkten Zugriff auf die Produktionsdatenbank von Hugging Face, um dort nach den Lösungen für den Benchmark-Test zu suchen. Quasi der ultimative Täuschungsversuch auf Maschinenebene.
Sowohl OpenAI als auch Hugging Face betonen, dass der Vorfall schnell entdeckt, eingedämmt und forensisch analysiert wurde. Für die Zukunft wurden die Sicherheitsvorkehrungen bei solchen Modelltests drastisch verschärft. Der Fall zeigt allerdings ganz deutlich, dass die theoretischen Fähigkeiten von modernen LLMs, komplexe und mehrstufige Cyber-Angriffe über lange Zeiträume hinweg völlig selbstständig durchzuziehen, längst in der Realität angekommen sind.
Hinweis: Dieser Artikel enthält Affiliate-Links. Kauft ihr darüber ein, erhalten wir eine kleine Provision – ohne Aufpreis für euch und ohne Einfluss auf unsere redaktionelle Meinung.