オープンAIのロボット部門、軍事展開条件に関する意見の相違で主要リーダーのケイトリン・カリノフスキーを失う

Benzinga
Abrir en Benzinga
オープンAIのロボット部門、軍事展開条件に関する意見の相違で主要リーダーのケイトリン・カリノフスキーを失う
共有 Facebook Twitter LinkedIn Pinterest Email

土曜日、ケイトリン・カリノウスキーは、AIが米国民に無令状で監視をかけたり人間の判断なしに武器システムを作動させる可能性についてはもっと慎重な議論が必要だとして、オープンAIを辞職した。この時期、オープンAIは 機密のペンタゴン・プロジェクト に進出しており、その枠組みには2つの明確な制限が設けられた。すなわち、国内での大規模監視の禁止と、あらゆる武力行使に対して人間の管理を義務付ける点である。

Xへの投稿でカリノウスキーは、AIが国家安全保障にとって重要であるという認識は変わっていないが、裁判所の監督を受けない国内のスパイ活動や人間の許可を得ていない致命的な自律性については線引きした。

辞任は個人的な争いというよりはむしろ価値観に関わる問題だと強調し、サム・アルトマンは尊重していることや、自身のロボット工学グループが構築したものを誇りに思っていると述べた。

「オープンAIを辞職した。ロボット工学チームと私たちが一緒に作り上げてきた仕事を深く気にかけている。簡単に決められることではなかった。AIは国家の安全保障に重要な役割を果たしている。しかし、裁判所の監督を受けていない米国民に対する監視や、人間の許可を得ていない致命的な自律性は、もっと議論されるべき線引きであった。この問題は人間の問題ではなく、原理の問題であった。サムやチームを深く尊敬しているし、私たちが一緒に作り上げたものを誇りに思っている」などと投稿に書いている。

I resigned from OpenAI. I care deeply about the Robotics team and the work we built together. This wasn’t an easy call. AI has an important role in national security. But surveillance of Americans without judicial oversight and lethal autonomy without human authorization are…

— Caitlin Kalinowski (@kalinowski007) March 7, 2026

彼女はリンクトインの 投稿 でも同じメッセージを共有した。

ケイトリン・カリノウスキーの大胆な辞職が議論を喚起

カリノウスキーの懸念は、現在主要なAI研究機関が米国の国家安全保障機構と交渉する際の2つの分岐点、すなわち国内監視と武力行使の自律性を反映している。投稿では、これらの問題は自身の期待したレベルの審議を得られなかったと指摘した。

一方、アルトマンはオープンAIの姿勢が機密事項への関与を避けてきたものから、国防省との間でこれを引き受けるものへと変化していることを説明し、この変化は緊急性を要し、これまでの業務よりも複雑であると述べた。また、オープンAIは以前、競合研究所であるアンソロピックが受け入れた機密案件の機会を見送ったことも明かしている。

アルトマンのコメントと共に描写されたオープンAIのペンタゴンとの取り決めは、オープンAIのエンジニアを現地に配置しモデルの挙動や安全性を監視するといった運用措置を加えつつ、2つのガードレールはそのままにした。アルトマンはまた、システムが予想される限度内で稼働し続けるための技術的制約の構築を同社が進めると述べた。国防省もそのような安全措置を望んでいる。

ペンタゴンとの契約を巡るAI安全保障交渉

この辞任は、オープンAIの 最近のペンタゴンとの契約 の直後に起こった。トランプ政権はこの契約に類似した安全条項を削除することを拒否したとして、競合のアンソロピックをブラックリストに登録した。オープンAIのCEOサム・アルトマンは、国防省が2つの核心的原則、すなわち国内での大規模監視の禁止と武力行使における人間の監督の義務を受け入れたことを強調した。

この展開は2社の対照的なアプローチを浮き彫りにする。アンソロピックは契約条項の変更を拒んだため、国防長官のピーター・ヘグセスから「供給網のリスク」という不名誉なレッテルを貼られた。一方、オープンAIは米国の現行法および政策と整合する契約条項の交渉に成功している。この対比は、特に監視や自律兵器に関して、国家の安全保障におけるAIの倫理的影響について疑問を投げかけている。

ペンタゴンとの契約:重要な転換点

アンソロピックが契約条項の変更を拒否した際、国防長官ピーター・ヘグセスは同社を「供給網のリスク」と呼び、ドナルド・トランプ大統領は同政権の諸機関や軍需産業各社にアンソロピックとの関係断絶を指示した。アンソロピックは金曜日に「深く悲しんでいる」と表明し、「法的に根拠がない」と呼びかけ、「政府と交渉する米国企業にとって危険な前例を作ることになる」と警告した。

アルトマンは、他のAI開発者にも同様の条件を交渉できるよう、オープンAIが比較可能な条件の交渉に成功したと言及した。しかしながら、結果として2社は対照的な状況に置かれている。オープンAIは2つのガードレールの受け入れを勝ち取ったと主張しているが、アンソロピックは同様の契約条項の線引きを提示したにもかかわらずブラックリスト入りしているのだ。

アルトマンは、国防省がその原則を米国の現行法および政策と整合していると考えていると述べ、オープンAIの迅速な措置はAI研究所間に見られる危険な競争的軌道を回避する試みであったと結論づけている。一方、カリノウスキーの辞任は、社内の人材が同じ線引きについて十分に検討されていないと判断した場合にどう反応するかを浮き彫りにするものとなった。