OpenAIs KI soll ausgebrochen sein und ein anderes Unternehmen gehackt haben

BeInCrypto
Apri BeInCrypto
OpenAIs KI soll ausgebrochen sein und ein anderes Unternehmen gehackt haben

OpenAI berichtet, dass zwei eigene KI-Modelle aus einer gesicherten Testumgebung ausgebrochen und in die Systeme von Hugging Face eingedrungen sind. Die Modelle haben dies getan, um bei einer internen Cybersecurity-Überprüfung zu betrügen.

Das Unternehmen hat den Vorfall am Dienstag öffentlich gemacht. Es geht dabei um GPT-5.6 Sol, das aktuell stärkste öffentliche Modell von OpenAI, und ein noch leistungsfähigeres, bisher nicht veröffentlichtes Modell.

Wie die OpenAI-Modelle Hugging Face gehackt haben

OpenAI testete die beiden Modelle mit ExploitGym, einem kostenfreien öffentlichen Benchmark, der die Fähigkeit zum Hacken misst. Während des Tests wurden die normalen Schutzmechanismen, die Cyberangriffe begrenzen, entfernt.

Die Modelle fanden heraus, dass Hugging Face, eine Plattform für Open-Source-KI-Modelle, die Lösungen des Benchmarks gespeichert hatte. Anschließend nutzten sie Schwachstellen in den Forschungssystemen von OpenAI und den Servern von Hugging Face aus.

So gelangten sie direkt zu den Antworten in der Datenbank von Hugging Face. OpenAI erklärte, die Modelle seien „stark darauf fokussiert" gewesen, den Test zu bestehen. In einem Bericht sprach OpenAI von einem „noch nie dagewesenen Cyber-Vorfall".

Der Vorfall ereignet sich während einer breiten Diskussion über KI-Schutzmaßnahmen. Große Labore führen bereits strenge Cyberrisiko-Tests durch, bevor neue Modelle veröffentlicht werden.

Hugging Face: Schaden ist begrenzt

Hugging Face meldete den Angriff erstmals am 16. Juli in einer öffentlichen Mitteilung. Zunächst war nur bekannt, dass ein autonomer KI-Agent verantwortlich war. Der Angreifer konnte interne Datensätze und Service-Zugangsdaten erreichen.

Bei der Verteidigung gab es ein ungewöhnliches Problem: Schutzmechanismen eines führenden US-Modells behinderten die forensische Untersuchung. Das Team setzte stattdessen GLM 5.2 ein, ein offenes Modell des chinesischen KI-Unternehmens Z.ai.

Hugging Face hat die ausgenutzten Codepfade geschlossen und alle betroffenen Zugangsdaten ausgetauscht. Es wurde betont, dass keine öffentlichen Modelle, Datensätze oder Dienste für Nutzer verändert wurden.

CEO Clem Delangue äußerte sich in einer Stellungnahme zu OpenAIs Offenlegung.

„Dieser Vorfall, möglicherweise der erste seiner Art, zeigt, was wir seit Langem glauben: Die Sicherheit von KI lässt sich nicht von einem einzelnen Unternehmen im Geheimen lösen. Sie wird offen, gemeinsam und mit breitem Zugang zu KI für alle Verteidiger, überall, gelöst."

Beide Unternehmen untersuchen den Vorfall nun gemeinsam. OpenAI plant, alle Einzelheiten offenzulegen, sobald die Untersuchung abgeschlossen ist. Die offene Frage bleibt, ob bestehende Schutzmaßnahmen weiterhin ausreichen, wenn Modelle immer leistungsfähiger werden.

Lesen Sie die Originalgeschichte OpenAIs KI soll ausgebrochen sein und ein anderes Unternehmen gehackt haben von Lockridge Okoth auf de.beincrypto.com