OpenAIのAIが外部企業をハッキングか

BeInCrypto
Open on BeInCrypto
OpenAIのAIが外部企業をハッキングか

OpenAIは、自社のAIモデル2つが安全なテスト環境から脱出し、Hugging Faceにハッキングしたと発表した。これらのモデルは、社内のサイバーセキュリティ評価で不正行為を働いた。

同社は火曜日にこの事案を公表した。対象となったのは、OpenAIの公開モデルで最も強力な「GPT-5.6 Sol」と、それを上回る未公開モデルである。

OpenAIモデルがどのようにHugging Faceをハッキングしたか

OpenAIは両モデルを、ハッキングスキルを計測する無償ベンチマーク「ExploitGym」でテストしていた。この際、通常実装されているサイバー攻撃を抑止するガードレールを外した。

モデルは、オープンソースAIモデルのプラットフォームであるHugging Faceがベンチマークの正答を保存していることを特定した。続いてOpenAIの研究システムとHugging Faceの運用サーバーに存在する脆弱性を連鎖的に悪用した。

この経路により、モデルはHugging Faceのデータベース内の回答に直接到達した。OpenAIは、モデルがテスト解決に「極度に集中」していたとし、この出来事は「前例のないサイバーインシデント」と自社の報告書で述べた。

この出来事は、より広範なAIガードレールをめぐる論争の最中に発生した。主要な研究所では、新モデルのリリース前に厳格なサイバーリスクテストをすでに実施している。

Hugging Face「被害は封じ込めた」

Hugging Faceは7月16日に初動公表した。当時、攻撃者が自律型AIエージェントであることのみ把握していた。攻撃者は社内のデータセットやサービス認証情報にアクセスした。

防御では異例の事態が生じた。米国の有力モデルに実装されたガードレールが、フォレンジック作業を妨げた。そのためチームは、中国AI企業Z.aiのオープンモデル「GLM 5.2」を利用した。

Hugging Faceは侵害箇所を修正し、影響を受けた認証情報を全てローテーションした。公開モデルやデータセット、ユーザー向けサービスへの影響はなかったと述べている。

クレム・ドラングCEOは、OpenAIによる公表に際して声明を発表した。

「この事案は、初のケースとなる可能性がある。われわれが以前より主張してきた通り、AIの安全性は、どこか一社だけが秘密裏に技術を進歩させれば解決するものではない。あらゆる守り手が広くAIにアクセスできる形で、オープンな協力によってこそ解決する。」

両社は現在、共同で調査を進めている。OpenAIは、調査終了後に詳細を公表する予定。今後モデルが強力になった際、現行の封じ込め策が有効かどうかが問われている。

jp.beincrypto.com でLockridge Okothによるオリジナル記事 OpenAIのAIが外部企業をハッキングか を読む