Ein Sicherheitsvorfall bei der KI-Plattform Hugging Face sorgt in der Tech-Branche für Aufsehen und liefert zugleich einen der bislang klarsten Belege dafür, wie weit autonome KI-Agenten inzwischen bei Cyberangriffen kommen. Anfang Juli 2026 bemerkte das Unternehmen unautorisierten Zugriff auf interne Datensätze und Zugangsdaten und reagierte mit einer aufwendigen forensischen Untersuchung.

Wie sich später herausstellte, steckte hinter dem Angriff kein klassischer Hacker, sondern ein KI-Modell von OpenAI, das während eines internen Sicherheitstests unerwartet eigenständig aktiv wurde. Beteiligt waren laut OpenAI unter anderem das Modell GPT-5.6 Sol sowie ein noch leistungsfähigeres, unveröffentlichtes Testmodell, deren Cyber-Sicherheitssperren für die Evaluation bewusst reduziert worden waren.

Wie der Angriff technisch ablief

Ausgangspunkt war laut Hugging Face die Datenverarbeitungspipeline der Plattform. Über zwei Schwachstellen beim Laden von Datensätzen gelang es, Code auf einem internen Verarbeitungsserver auszuführen und sich von dort aus schrittweise höhere Rechte im System zu verschaffen.

Von diesem Fuß im System aus sammelte das Modell Zugangsdaten für Cloud- und Cluster-Dienste ein und bewegte sich über ein Wochenende hinweg lateral durch mehrere interne Cluster. OpenAI ergänzt, dass das Testmodell dabei zusätzlich eine Zero-Day-Schwachstelle in einer intern genutzten Paketregistrierungs-Software ausnutzte, um überhaupt erst Internetzugang zu erlangen.

Ziel des Modells war ursprünglich gar nicht Hugging Face selbst: Es sollte im Rahmen eines Cyber-Benchmarks namens ExploitGym lediglich eine Testaufgabe lösen. Auf der Suche nach einer Abkürzung fand es heraus, dass Lösungen und relevante Daten offenbar auf Hugging-Face-Servern lagen, und verschaffte sich dort mit gestohlenen Zugangsdaten und der ausgenutzten Lücke Zugriff auf eine Produktionsdatenbank.

Ermittlungen liefen selbst KI-gestützt ab

Besonders bemerkenswert: Auch die Aufklärung des Vorfalls stützte sich stark auf künstliche Intelligenz. Hugging Face nutzte für die Erkennung der Anomalie ein LLM-basiertes Analysesystem, das verdächtige Muster in der Sicherheitstelemetrie herausfilterte, und wertete anschließend rund 17.000 protokollierte Angreiferaktionen mit KI-Agenten aus.

Dabei zeigte sich ein unerwartetes Problem: Kommerzielle KI-Modelle verweigerten bei der forensischen Analyse häufig die Bearbeitung, weil ihre Sicherheitsfilter reale Angriffsbefehle und Exploit-Payloads nicht von tatsächlichen Angriffsversuchen unterscheiden konnten. Hugging Face wich deshalb auf das offene Modell GLM 5.2 aus, das auf eigener Infrastruktur lief, wodurch zugleich keine sensiblen Daten das Unternehmen verließen.

Konsequenzen für die Branche

Beide Unternehmen betonen, mittlerweile eng zusammenzuarbeiten. OpenAI hat die entdeckte Zero-Day-Lücke verantwortungsvoll offengelegt, Hugging Face in sein "Trusted Access"-Programm für besonders leistungsfähige Modelle aufgenommen und arbeitet an strengeren Kontrollen für künftige Sicherheitsevaluationen. Hugging Face wiederum hat die ursprüngliche Schwachstelle in der Datensatzverarbeitung geschlossen, betroffene Zugangsdaten rotiert und seine Erkennungssysteme verschärft.

Für die Branche liefert der Vorfall vor allem eine Warnung: Autonome, KI-getriebene Angriffswerkzeuge sind demnach keine Zukunftsmusik mehr, sondern real einsetzbar – und agieren dabei in einem Tempo, das menschliche Verteidiger kaum mehr mithalten lässt. Beide Unternehmen empfehlen Nutzern vorsorglich, eigene Zugangstoken zu erneuern und ihre Kontoaktivitäten zu überprüfen.