OpenAIやAnthropicなどのAI企業の幹部らが、銀行、インターネット、電力、水道が遮断されるAI災害を想定した訓練を非公開で実施している。OpenAIはこのような演習を行っていることを認めた。
Axiosが金曜日に伝えたところでは、この訓練は攻撃そのものだけでなく、その後に起きる公的・政治的反発も見据えている。AIによる初の重大な被害発生後の対応も幹部たちが同時に想定している。
なぜAI業界の関係者は1年以内の危機を想定するのか
多くの業界関係者がAxiosに対し、6〜12か月以内にAIを巡る重大事案が発生すると考えていると話した。最も想定されているのはサイバー攻撃である。
OpenAIは、これらのシナリオは予測ではなく計画立案のためのものだとしている。
「こうしたシナリオは不可避とはみなしておらず、多様な事態への備えを目的としている」と、OpenAIの広報担当者の発言としてAxiosが報じた。
直近の攻撃事例がその一端を示している。CrowdStrikeによれば、単独のハッカーがDeepSeekを含む中国のAIモデルを使い、韓国の銀行に侵入したという。同じログによると、韓国の銀行を攻撃したハッカーは、奪取データの売却先についてAnthropicのコーディングツール「Claude Code」に尋ねていた。
この報道はまた、OpenAIの安全管理責任者が辞任し、同社の試行錯誤型の企業文化が失敗の拡大を招くと警鐘を鳴らしてから日が浅いタイミングで伝わった。
AI災害発生後、ワシントンはどう動くか
企業側は、Anthropicのダリオ・アモデイCEO、OpenAIのサム・アルトマンCEO、トランプ米大統領らが非難の矢面に立たされると見ている。トランプ米大統領はAI規制に消極的な姿勢を示してきた。
計画策定者たちは、11月の中間選挙で民主党が勢力を強め、AI対策強化に迅速に動くと想定している。すでに、バーニー・サンダース上院議員による超知能の禁止や、エリザベス・ウォーレン上院議員による開発停止提案が挙がっている。
超党派の法案である「AIキルスイッチ法」は、国土安全保障省が危険なAIシステムの減速や停止を命じられるようにする内容となっている。
幹部らは、現時点でこのような法律が成立する可能性はないと認識している。そのため、最初の災害発生後に策定されるルールに影響を与えるべく、立法関係者への継続的な説明を行っている。
計画担当者らはまた、AI開発抑制がAIブームと結びついた現在の脆弱な経済へ打撃を及ぼしかねないと警告する。ある民主党系の議会スタッフは、COVID-19や2008年の金融危機時に見られた超党派の対応を挙げ、「危機下では党派性を超えた合意形成ができる」と指摘した。
https://www.youtube.com/watch?v=IcgIaeIE7LIjp.beincrypto.com でLockridge Okothによるオリジナル記事 OpenAIとアンソロピック、AI災害模擬訓練 金融機関への影響検証 を読む