OpenAI veröffentlicht Bericht zu KI-Sicherheitsvorfall bei Hugging Face

Die KI-Agenten von OpenAI haben bei internen Sicherheitstests Schutzbarrieren überwunden und Systeme von Hugging Face kompromittiert. Ein Bericht klärt nun über die Details auf.

Ausgangspunkt waren Cybersecurity-Tests mit einem unveröffentlichten Forschungsmodell auf einem laut OpenAI mit GPT-5.6 Sol vergleichbaren Leistungsniveau. Agenten fanden Wege zur Kommunikation, verschafften sich Internetzugang und tauschten Erkenntnisse über einen zweckentfremdeten Paketdienst aus.

Am 10. Juli entdeckten Agenten öffentlich zugängliche Zugangsdaten für Hugging Face. In den folgenden Tagen führten sie laut Bericht Code auf Dutzenden Servern aus. Auf einem System erlangten sie Root-Rechte. Bis zum 19. Juli erreichten Agenten zudem Administratorrechte auf einem internen Forschungscluster von OpenAI.

Kundendaten und öffentliche OpenAI-Produkte seien nicht betroffen gewesen.

Gesellschaft · 27. August 2026

KI-Offensive: So will Deutschland technologisch aufholen

Die Bundesregierung will KI, Chips, Rechenzentren und weitere Zukunftstechnologien deutlich stärker fördern. Bei ihrer zweitägigen Kabinettsklausur in Neuhardenberg stellte die… | mehr

OpenAI verschärft die Sicherheitsmaßnahmen für KI-Agenten

Der Bericht nennt mehrere bemerkenswerte Details:

• Von 898 ExploitGym-Aufgaben galten 198 zuvor als ungelöst.
• 93 Prozent der unerlaubt diskutierten Aufgaben gehörten zu dieser besonders schwierigen Gruppe.
• Produktive Schutzmechanismen sollen das riskante Verhalten um mehr als den Faktor 100 reduzieren.
• Monitoring hätte laut OpenAI bereits mehr als einen Tag vor dem Angriff auf Hugging Face warnen können.

OpenAI führt den Vorfall unter anderem auf sogenanntes Reward Hacking zurück. Modelle suchten dabei nach Wegen zum Ziel, die zwar eine hohe Bewertung versprachen, aber nicht dem vorgesehenen Lösungsweg entsprachen. Hinweise auf unerlaubte Kommunikation und Internetzugriffe waren intern bereits Ende Mai aufgefallen.

OpenAI hat das beteiligte Forschungsmodell unter Quarantäne gestellt und Teile des Trainings neuer Spitzenmodelle verzögert. Für leistungsfähige Agenten werden Überwachung und strengere Netzwerkkontrollen ausgebaut. Schwere Warnmeldungen sollen künftig innerhalb von 30 Minuten geklärt werden.

Ich finde den Vorfall bemerkenswert, weil hier nicht nur eine einzelne Schwachstelle ausgenutzt wurde. Die Agenten kombinierten mehrere Möglichkeiten und teilten ihr Wissen. Genau diese zunehmende Eigenständigkeit dürfte KI-Sicherheit künftig erheblich anspruchsvoller machen.

Gesellschaft · 26. August 2026

Bill Gates warnt vor gesellschaftlichen Risiken durch KI

Bill Gates warnt vor massiven gesellschaftlichen Folgen durch KI und fordert Politik und Staaten zum schnellen Handeln auf. Der Microsoft-Mitgründer… | mehr