アンソロピックは、AIが間もなくより優れた自己バージョンを構築する可能性があると警告し、業界全体での一時停止を呼びかける

Benzinga
Apri Benzinga
共有 Facebook Twitter LinkedIn Pinterest Email

人工知能(AI)企業のアンソロピックは、AI開発の業界全体での一時停止を提案し、ますます能力の高いシステムがまもなく人間の監督のペースを超えて自らの開発を加速させ始める可能性があると主張した。

クロードの製造元である同社は木曜日の報告書で、AIは最終的に自らのより良いバージョンの構築を支援できるようになり、潜在的に安全対策やガバナンスの枠組みが適応できるペースを超えて進歩を加速させる可能性があると警告した。

AIはすでにAIの構築を支援している

アンソロピックは、従業員がコードの記述、研究の実施、技術的なタスクの完了にクロードをますます頼るようになっていると述べた。これらのタスクは、そうでなければ完了するのにかなりの時間がかかるだろう。

「私は約1年前からクロード化に傾倒し始めた。それはクレイジーな冒険だったが、私が最後に自分でコードを書いてから約5ヶ月が経過した」とアンソロピックの従業員は語った。

完全に自律的な自己改善型AIシステムはまだ登場していないが、同社はコーディング、研究、自動化の能力の進歩により、将来のモデル開発のペースが大幅に加速される可能性があると述べた。

「2025年末のアンソロピックにおけるクロードが書いたコードは、人間が書いたコードよりもやや劣っていたが、現在はほぼ同等であり、今年中には確実に優れたものになると予想している」と同社は付け加えた。

ソフトウェア開発におけるAIの貢献の高まりの証拠として、アンソロピックはクロードが最近800以上の修正を出荷し、あるエンジニアが人間なら4年かかると推定した作業でAPIエラーのカテゴリを1000倍に削減したと述べた。

一時停止の呼びかけ

アンソロピックは、再帰的な自己改善によりAI開発のペースが劇的に加速され、数年分の進歩がはるかに短い期間に圧縮される可能性があると警告した。

同社は、このような進歩により、技術の進化に伴い、政府、規制当局、さらにはAI開発者でさえも、ますます能力の高いシステムを理解し評価するのに苦労する可能性があると述べた。

このリスクに対処するために、アンソロピックは、最先端のAI研究所は調整された一時停止の枠組みを事前に確立し、開発が安全対策のペースを超え始めた場合に研究者が新たなリスクを評価する時間を確保すべきだと主張した。


関連記事:

トップエコノミスト、米経済は見た目よりも脆弱と警告:「状況は不安定」

AI競争は減速を困難にする可能性がある

アンソロピックの警告は、米国と中国が人工知能のリーダーシップを競い合い、チップ、データセンター、AIモデルに数十億ドルを注ぎ込んでいる中で出された。

同社は、将来の減速には主要な開発者の幅広い参加が必要であり、単独の企業による一方的な行動は効果がない可能性があると主張した。

「しかし、減速が単に最も慎重でない関係者に技術的に追いつかせるだけなら、全員の安全性が低下する可能性がある」とアンソロピックは書いている。

アンソロピックはリスク以上のものを見ている

アンソロピックは、再帰的な自己改善は本質的に否定的なものではなく、医学、エネルギー、ソフトウェア工学、科学研究などの分野における進歩を加速させ、重要な科学的および経済的利益を解き放つ可能性があると述べた。

しかし、これらの利益を実現するには、ますます能力の高いAIシステムが人間の利益と一致し続けることを保証するために、効果的な安全対策、ガバナンスの枠組み、国際協力が必要であると警告した。


関連記事:

マーリン株が時間外取引で30%超急騰した理由

免責事項 :このコンテンツはAIツールの助けを借りて部分的に作成され、Benzingaの編集者によってレビューおよび公開された。

写真提供:Shutterstock