アントロピックのAI安全責任者が辞任:「世界は危機に瀕している」

Benzinga
Benzingaで開く
アントロピックのAI安全責任者が辞任:「世界は危機に瀕している」
共有 Facebook Twitter LinkedIn Pinterest Email

アントロピックのAI安全責任者ムリナンク・シャルマが退職し、Xに投稿した書簡によると同社での最終勤務日は月曜日だった。書簡でシャルマは、人工知能のスタートアップ企業での仕事と辞任した理由を振り返った。

シャルマは「世界は危機に瀕している」と書いている。人工知能や生物兵器だけでなく、「一連の相互に関連した複合危機」からであるというのだ。シャルマは「前進する」時が来たと言い、自分の価値観や倫理観に沿った仕事を追求する意向を示した。

Today is my last day at Anthropic. I resigned.

Here is the letter I shared with my colleagues, explaining my decision. pic.twitter.com/Qe4QyAFmxL

— mrinank (@MrinankSharma) February 9, 2026

元オープンAIの研究者によって設立されたアントロピックは、クロードチャットボットで知られている。同社は安全性に重点を置いたAI開発企業とし自称しており、 業界の競争が激化する中 、アマゾン・ドット・コム(NASDAQ: AMZN )やアルファベット(NASDAQ: GOOGL )などの投資家から数十億ドルを調達している。

この辞職は、AI企業がより強力なモデルの安全性、透明性、社会的リスクについて規制当局や研究者からの監視が厳しくなっている時期に発表された。

AI安全の仕事に関する考察

シャルマは博士号を取得した後、AIの安全性に貢献することを目的にアントロピックに入社したと言っている。氏は、AIの追従現象の理解、AI支援の生物テロに対する防御の開発、内部透明性メカニズムの構築支援について強調した。

「ここでやりたいことはやり遂げた」とシャルマは書いている。また、同社の初期のAI安全性確保に貢献できたことは幸運だったと付け加えた。

この動きは、CEOのダリオ・アモデイが「技術の思春期」と題されたエッセイの中で AIの潜在的な危険性について厳しい警告を発した 後のことだ。

書簡でシャルマは、組織内だけでなくより広い社会の中でも、「価値観に沿って行動することの難しさを何度も見てきた」と述べている。この緊張感が氏の辞任の決断につながった。

「私にとって自分のいる場所を変えることを意味する」とシャルマは書いている。また、「本当に重要なこと」を探求したい意向だ。

「我々は、英知が世界に影響を及ぼす能力と同等に高まらなければならないという臨界点に近づいているようだ。その能力がなければ結果として悪いことが起きる」とシャルマは書いている。

オックスフォード大学で機械学習の博士号を取得したシャルマはリンクトインのプロフィールによると、2023年8月にアントロピックでの勤務を開始した。氏はイギリスに戻り、執筆、詩、コミュニティ志向の仕事に注力する意向だ。

シャッターストック経由の画像