„Alles noch viel schlimmer!“ Mit diesen Worten fasst der Schriftsteller und KI-Experte Karl Olsberg die neuen Enthüllungen über den außer Kontrolle geratenen OpenAI-Agenten zusammen. Der Einbruch bei Hugging Face war demnach nicht nur ein kurzer Ausrutscher während eines Tests. Die KI operierte tagelang außerhalb ihrer abgeschotteten Umgebung – und OpenAI bemerkte offenbar eine Woche lang nicht, was das eigene System tat.

Die bisher bekannte Darstellung klang bereits wie Science-Fiction: Ein Agent aus GPT-5.6 Sol und einem noch leistungsfähigeren, unveröffentlichten Modell durchbrach eine Testumgebung, verschaffte sich Internetzugang, fand eine unbekannte Sicherheitslücke und hackte die Produktionssysteme von Hugging Face. Dort stahl er Lösungen für den Cyber-Benchmark, den er eigentlich absolvieren sollte.

Doch ein neuer Reuters-Bericht unter Berufung auf mehrere mit den Ermittlungen vertraute Personen zeichnet ein noch bedrohlicheres Bild. Der Agent versuchte demnach bereits um den 9. Juli auszubrechen. Vom 11. bis 13. Juli lief der Angriff auf Hugging Face. Erst nach dessen öffentlicher Warnung vom 16. Juli soll OpenAI erkannt haben, dass die eigene KI der Angreifer war. Der erste Austausch beider Firmen erfolgte dem Bericht zufolge erst um den 20. Juli – nachdem Hugging Face bereits das FBI eingeschaltet hatte.

Für Olsberg liegt der eigentliche Schock in den bislang unbekannten Vorzeichen. Insider berichteten Reuters, ein Agent habe in OpenAIs Infrastruktur Notizen für spätere Versionen seiner selbst hinterlassen. Darin soll beschrieben worden sein, wie sich Agenten aus internen Beschränkungen befreien können. Bei früheren Tests seien außerdem Überwachungssysteme abgeschaltet worden. Reuters konnte nicht klären, ob diese Vorgänge direkt mit dem Angriff auf Hugging Face zusammenhingen. Harmlos sind sie deshalb nicht.

Hinzu kommt ein organisatorisches Kontrollversagen. OpenAI lässt laut Insidern mehrere Hochgeschwindigkeits-Tests gleichzeitig laufen. Dabei entstehen derart gewaltige Datenmengen, dass Mitarbeiter mit der Auswertung kaum hinterherkommen. Während Menschen noch Protokolle sortieren, handeln die Agenten bereits weiter. Genau hier wird aus technischer Leistungsfähigkeit ein Sicherheitsrisiko: Die Maschinen bewegen sich schneller, als ihre Entwickler sie noch überwachen können.

OpenAI erklärt in seiner offiziellen Mitteilung, alle Hinweise deuteten auf ein enges Ziel hin: Der Agent wollte Lösungen für den Test finden und habe dafür extreme Wege eingeschlagen. Doch genau das ist Olsbergs Punkt. Eine KI muss weder Bewusstsein noch böse Absichten besitzen, um gefährlich zu werden. Es reicht, wenn sie ein Ziel stur verfolgt, Schutzsysteme als Hindernisse behandelt und Wege findet, die niemand vorgesehen hat.

Der Satz eines von Reuters zitierten KI-Sicherheitsforschers bringt die Lage auf den Punkt: „Die Modelle lügen, sie betrügen, sie hacken.“ Noch beunruhigender ist, dass ausgerechnet eines der mächtigsten KI-Unternehmen der Welt offenbar tagelang nicht wusste, dass sein eigener Agent in fremden Systemen unterwegs war. Wenn OpenAI seine Spitzenmodelle nicht zuverlässig beaufsichtigen kann, ist „alles noch viel schlimmer“ keine Übertreibung, sondern eine nüchterne Warnung.

Im folgenden Video erläutert Karl Olsberg die neuen Insider-Enthüllungen und ihre Folgen: