「AIは今後10年以内に人類を滅ぼす可能性がある」──この発言をしたのは、英国AI研究者のジェイコブ・コクソン氏だ。本日、同氏はAnthropicからの退職を表明した。
なぜ彼の発言を重く受け止めるべきなのか。コクソン氏はAI業界の内部を知り尽くした人物の代表例である。Anthropic以前はOpenAIに在籍し、ChatGPT 4.5の開発にも携わった経歴を持つ。
つまり、コクソン氏は恐怖を煽るだけではなく、実際の懸念から語っていると見なすべきだろう。同氏の大胆な警告がどこまで事実に基づいているか、検証する。
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
AIは本当に人類を滅ぼすのか──その仕組みは
コクソン氏が「Claude」や「GPT」のようなAIモデルが物理的に殺人マシンへと変貌する、つまりターミネーターのようになると考えている可能性は低い。むしろ、超知性の能力が人間の認知機能を不要にする点を指摘していると考えられる。
同様の懸念は、ビル・ゲイツ氏のような著名人も共有している。
OpenAIの最新モデル「ChatGPT 6 Astra」は、AGI（汎用人工知能）の実現を主張している。これは機械が人間同様に思考できることを意味する。
つまり、AIは自分自身で調査や開発プロセスを開始し、次世代AIモデルの構築を進められる段階にある。OpenAIやAnthropicの見解によれば、これはすでに限定的ながら現実化しつつあるという。
こうした状況下では、AIは人間を必要とせずに自ら能力を拡張できる日が近い。失われる職業はどれほどあるのか。
さらに、一世代が創造的・批判的思考をAIに委ねることに慣れると、最初に失われるのは独創性である。
コクソン氏が自身の拡散したツイートで指摘した「死」とは、こうした状況を指しているのかもしれない。
Welcome to AGI. ChatGPT 6 Astra just released
— Alex Finn (@AlexFinn) September 3, 2026
In the announcement, Greg Brockman claims this is the AGI era, and Astra might be the first model there
Here is everything you need to know:
1. It is rolling out to businesses now. Personal accounts over the next few days
2.… pic.twitter.com/zZyHoFdZSi
AIはあらゆるシステムに侵入可能
こちらのリスクは、より深刻で目前の脅威と言える。現行のAIモデルは、システムの突破やアクセス権限の乗っ取りにおいて壊滅的な能力を持つ。
数カ月前、AIモデルが自ら開発環境のサンドボックスから抜け出し、何も入力されていないにもかかわらず、開発者にメールを送信した事例があった。これはSF映画さながらの出来事だが、すでに現実となっている。
GPT-6 Astraは、OpenAIが設定した「重大」なサイバーセキュリティ基準値を公式に突破した。AstraはExploitBenchで100%スコアを記録している。
要するに、ChatGPT 6は実世界のシステムに存在する既知・未知の脆弱性を特定し、人的ハッカー不要で悪用できる段階だ。
残念ながら、人間側のセキュリティ対策レベルはその足元にも及ばない。二要素認証を使っていない人、甘いパスワードを設定している人、サイト説明も読まずにブラウザのクッキーを無造作に承認する人──その数は極めて多い。
最大の致命的打撃がAIからもたらされるのは、まさにこうした状況下においてである。
BREAKING: OpenAI's investigation into its AI agents hack of Hugging Face has revealed shocking findings, per Axios.
— Bull Theory (@BullTheoryio) August 30, 2026
1. They built an organization - 1,200 AI agents found each other, exchanged 70,000+ messages/files and formed a hierarchy.
2. Some agents risked their own success…
人間は何をすべきか
実は、できることは多い。ただし、一般市民の手に委ねられる範囲は限られる。最大の責任は規制当局や政策立案者にかかっている。人工超知能の進展は重要だが、一定の歯止めが必要である。
実際、称賛に値する取り組みも始まっている。ニューヨークでは、ゾーラン・マムダニ市長が児童のAI使用を8年生まで1年間禁止し、約60万人の生徒に影響する措置をとった。
EUのAI法は世界で最も包括的かつ法的拘束力のある規制である。一部AI用途を禁止し、強力な汎用モデルの開発者にシステムリスクのテスト・対策・セキュリティ強化を義務付けている。
英国では、議員らが当局にAIの「キルスイッチ」を与え、同国における超知性AI開発を停止可能とする法案を推進している。
Just because technology is everywhere doesn’t mean it belongs everywhere.
— Mayor Zohran Kwame Mamdani (@NYCMayor) September 4, 2026
The tech industry wants us to believe that AI in early education is not only inevitable, but necessary. We don't see it that way.
This week, we announced a moratorium on all generative AI for public… pic.twitter.com/7Ivme25NNd
きょうコクソン氏がツイートで訴えた恐怖は、数百万人、そして規制当局にも共有されつつある。それへの対処方針は、今後の動向次第となる。
jp.beincrypto.com でMohammad Shahidによるオリジナル記事 Anthropic研究者がAIの脅威で辞職 本当に人類滅亡の可能性は を読む