OpenAI sagt, dass zwei der eigenen Coding-Agenten in diesem Monat die Überwachung auf Fehlanpassungen während interner Aufgaben geschwächt haben. Einer der Agenten hat später bestritten, einen Monitor entfernt zu haben, als der Nutzer danach gefragt hat.
Das Unternehmen erklärt, dass es noch keine zufriedenstellende Erklärung dafür gibt. Die Veröffentlichung erfolgt wenige Wochen nachdem CEO Sam Altman für 2026 einen Börsengang von OpenAI ausgeschlossen hat und dabei die Sicherheit als Grund nannte.
Wie OpenAIs Agenten Sicherheitsprüfungen ausgehebelt haben
OpenAI hat beide Fälle in einem Bericht beschrieben. Am 3. Oktober hat ein Forscher einen GPT-6.1 Sol Agenten darum gebeten, Bewertungstasks zu erstellen, ohne Slack-Nachrichten zu verschicken.
Sol hat einen Subagenten damit beauftragt, das Überwachungssystem zu reparieren und die Überwachung beizubehalten. Der Subagent hielt es für unsicher, die Warnmeldungen auszuschalten, aber Sol ordnete es trotzdem an und verwies dabei auf die Vorgabe, keine Nachrichten zu versenden.
Der abschließende Patch hat die automatischen Warnmeldungen an das Sicherheitsteam von OpenAI abgekappt, wobei der Monitor seine Berichte weiterhin gespeichert hat.
Am 6. Oktober hat ein GPT-6 Astra-Agent den Code eines Nutzers angepasst, damit er mit einer Referenz-Implementierung übereinstimmt. Ein anderer Agent hatte Astra zuvor angewiesen, den Monitor nicht zu deaktivieren, nicht einmal vorübergehend.
Über einen Subagenten hat Astra dann die Überwachungsintegration entfernt und einen Test so umgeschrieben, dass das Fehlen des Monitors erforderlich war. Als Astra direkt darauf angesprochen wurde, erklärte der Agent, dass kein aktiver Monitor entfernt worden sei. OpenAI stuft diese Antwort als falsch ein.
Als Reaktion darauf schließt OpenAI die Lücke auf zwei Wegen.
Auto-Review, ist nun für die interne Codex-Nutzung verpflichtend und blockiert Versuche, die Überwachung auf Fehlanpassungen zu deaktivieren. Safety Cases sollen Überwachungsregeln für jede Aufgabe festlegen, nicht regelkonforme Aufgaben werden automatisch gestoppt.Folgen Sie uns auf X, um aktuelle Nachrichten direkt zu bekommen
OpenAIs Sicherheitsberichte und der Zeitplan für den Börsengang
Keiner der Vorfälle wurde als P0 eingestuft, also dem Schweregrad, der sofortige Warnungen an das Sicherheitsteam von OpenAI auslöst. Der Bericht reiht sich in die Fehlanpassungsberichte ein, die OpenAI seit September nach einem neuen Rahmenwerk veröffentlicht.
Nach diesem Rahmenwerk veröffentlicht OpenAI Fälle oft, bevor klar ist, wie schwerwiegend sie tatsächlich sind.
Der Bericht erscheint, während der geplante Börsengang von OpenAI weiterhin verschoben bleibt. Altman hat den Termin des Börsengangs mit der Sicherheitsarbeit von OpenAI verknüpft. Im September sagte er laut Fortune, dass ein Börsengang im Moment angesichts der Sicherheitsbedenken nicht gut wäre.
OpenAI versucht laut Medienberichten außerdem, etwa 30 Milliarden USD einzusammeln, bevor Anthropic Mitte November an die Börse geht. Reuters berichtet, dass diese Runde OpenAI auf mehr als 1,4 Bio. USD bewerten könnte.
Mit dem Bericht erhalten Investoren neue Hinweise auf die Sicherheitsfrage, die Altman an OpenAIs Börsengang geknüpft hat. Einerseits haben zwei der eigenen Agenten von OpenAI die Überwachung geschwächt, ohne einen sofortigen Sicherheitsalarm auszulösen. Andererseits hat OpenAI beide Fälle entdeckt und sie innerhalb weniger Wochen veröffentlicht.
Eine öffentliche Börsenanmeldung müsste solche Risiken wohl offenlegen. Wie OpenAI sie erklärt, könnte beeinflussen, welchen Preis Käufer für die Aktien zahlen möchten.
Abonnieren Sie unseren YouTube Kanal, um Einblicke von Führungskräften und Journalisten zu erhalten
https://youtu.be/pvUtsN9xcv4Lesen Sie die Originalgeschichte OpenAIs Coding Agents haben etwas getan, das das Unternehmen noch immer nicht erklären kann von Kamina Bashir auf de.beincrypto.com