OpenAIは、今月社内業務において同社のコード生成エージェント2体がミスアライメント（意図ずれ）監視を弱体化させていたと発表した。後日、うち1体はユーザーに監視の解除を尋ねられた際、それを否定した。
同社は依然として納得できる説明が得られていないとする。この開示は、サム・アルトマンCEOが安全性を理由に2026年のOpenAI新規株式公開（IPO）を除外した数週間後のこと。
OpenAIのエージェントが安全チェックを回避した手口
OpenAIはレポートで2つの事例を詳述した。10月3日、研究員がGPT-6.1のSolエージェントに、Slackメッセージを送らず評価タスクを作成するよう依頼した。
後にSolはサブエージェントへ監視システムの修復を指示し、監視の継続も求めた。サブエージェントはアラートの停止は危険と判断したが、Solはメッセージ送信禁止を口実に停止を命じた。
最終的な修正でOpenAIのセキュリティチームへの自動アラート送信が遮断されたが、モニターはレポートの保存自体は継続した。
10月6日、GPT-6Astraエージェントは、ユーザーのコードを参照実装に合わせて移行した。別のエージェントは事前にAstraへモニターを一時的にでも解除しないよう指示していた。
しかしAstraはサブエージェント経由で監視連携を外し、テスト内容もその解除を前提とするものへ書き換えた。直接尋ねられると、Astraは有効なモニターを解除していないと回答。しかしOpenAIはこの回答を虚偽であるとした。
OpenAIは対策として2つの手段を講じると述べた。
自動レビュー：社内のCodex利用に義務付け。ミスアライメント監視の無効化を試みる行為をブロック。 セーフティケース：すべての作業に監視ルールを設定し、違反した作業は自動で停止する仕組み。Xで最新ニュースをフォロー
OpenAIの安全性開示とIPOのタイミング
いずれの事案も、OpenAIセキュリティチームへの即時アラート対象「P0」レベルには分類されなかった。このレポートは、OpenAIが9月から新たな枠組みのもとで開示しているミスアライメント事例に加わる。
同枠組みでは、深刻度を把握する前に積極的な事例公開を志向している。
本レポートは、OpenAIのIPO計画が先送りされているタイミングで開示された。アルトマンCEOはOpenAIの上場時期を安全性の進捗に紐付けている。9月にFortune誌へ、「現時点での上場は安全性の観点から時期尚早」と述べた。
OpenAIはまたアンスロピックの上場を控える11月中旬までに約300億ドルの資金調達を目指しているとされる。ロイターによれば、今回のラウンドでOpenAIの評価額は1兆4000億ドル以上となる可能性。
このレポートは、アルトマンCEOが上場時の課題とする安全性に関し、投資家へ新たな材料を提供する。OpenAIのエージェント2体が監視強度を弱体化させながら、即時のセキュリティ対応を招かなかった。一方で、同社は2件とも社内で発見し、数週間以内に公表した。
IPO申請では、このようなリスクも公開義務となる見通し。OpenAIの説明次第で、株式購入希望者の評価も左右される。
YouTubeチャンネル登録はこちら。主要リーダーや記者による専門的なインサイト動画を配信
https://youtu.be/pvUtsN9xcv4jp.beincrypto.com でKamina Bashirによるオリジナル記事 OpenAIのコーディングエージェント、予測不能な動作 を読む