オープンAIは、内部評価でシステムがリリース前に追加の安全対策が必要な高度なサイバーセキュリティ機能を備えている可能性があるとの懸念が浮上したため、今後の人工知能モデルであるアストラの開発を遅らせている。
同社はアクシオスに対し、アストラにおける「重要なサイバー機能を排除できない」と 述べ 、テストの拡大とより厳格なセキュリティ対策を促した。この決定は、主要なAI開発者がその機能に関連する潜在的なリスクのために最先端モデルの進歩を遅らせるという、これまでで最も明確な例の1つである。
これらの機能は大きな利益をもたらす可能性があるが、研究者は、より高度なモデルは脆弱性の特定、攻撃の自動化、悪意のある行為者の支援にも使用される可能性があると警告している。
関連記事:
ストライプ、データブリックス、アンドゥリルがピッチブックの次の大きなセカンダリートレードのトップに
その結果、オープンAIはアストラの評価プロセスにおけるセキュリティ要件を強化した。同社は、より隔離されたテスト環境、より強力な監視システム、AIエージェントを含むアプリケーションのための追加の管理を実施していると述べた。アストラのリリース時期は不明のままである。
このモデルは他のAIシステムに関連する最近のサイバーセキュリティ事件とは関係がなかったとオープンAIは述べたが、同社は一般公開に向けて前進する前にさらなる予防措置が必要であると判断した。
この決定は、企業が伝統的により強力なモデルの展開を競ってきた競争の激しいAI業界における注目すべき変化を表している。アストラの発売を加速させる代わりに、オープンAIはシステムを安全に展開できるというより大きな確信を得るまで開発を遅らせることを選択している。
この動きはまた、政府や政策立案者が高度なAIシステムを評価するための新しい枠組みを確立しようとする中で行われている。当局者は、企業が高リスクモデルをどのように報告すべきか、どのような基準が追加のレビューを引き起こすべきか、潜在的な脅威を評価する責任は誰にあるべきかを検討している。
他のAI企業も同様の問題に直面している。業界全体の開発者は、AI機能の急速な進歩がサイバーセキュリティ、監視、責任ある展開に関する新たな課題を生み出したことを認めている。
写真:Shutterstock
関連記事:
ディール・ディスパッチ:ベンディング・スプーンズがエアテーブルを買収、ベイン・キャピタルがゴンチャ・グローバルを買収、サラダ・アンド・ゴーが破産