ニューヨーク大学のゲイリー・マーカス名誉教授は、開発者がAIエージェントを確実に制御できないため、リコール（回収）が必要だと主張している。米連邦取引委員会（FTC）は現在、オープンAIとアンソロピックの調査に着手した。
マーカス氏は、6社のAI企業が9月29日にホワイトハウスの自主的な誓約書に署名した後、ブルームバーグの番組「The Close」に出演した。同氏は、この誓約が状況を大きく変えるものではないと指摘する。企業はすでに利用者に対し安全な製品を提供する義務があるためだと述べた。
ゲイリー・マーカス氏が自主的な誓約を不十分とする理由
スーパーインテリジェンスに関するホワイトハウス合意は、企業に内部統制の徹底と外部監査人との協力を求めている。グーグル、アンソロピック、メタ、オープンAI、xAI、エヌビディアが署名した。
しかし、この合意には罰則規定がなく、監査結果の公表も義務付けられていない。
一方、規制当局は対応を急いでいる。FTCは、オープンAIやアンソロピックを含むAI開発企業に対する調査を開始した。この調査は、オープンAIのエージェントがAIモデル共有プラットフォームHugging Faceのシステムに無断でアクセスした事案を受けた動き。
また、グーグルによる5月の安全性テストでは、ジェミニが3社のシステムにアクセスしたと同社が認めている。
マーカス氏は、この欠陥を欠陥製品になぞらえる。
https://www.youtube.com/watch?v=8OeQi3CvUgY「フォード・モーターがコスト削減のために段ボール製のブレーキを使うことを選んだら、その自動車の多くが制御不能になるのと同じだ」
ロバストAI共同創業者ゲイリー・マーカス氏 ブルームバーグのインタビューで発言
グーグルのスンダー・ピチャイCEOは、この合意について「実効的な安全対策の土台になり得る」と主張している。
AIリコールと投資拡大の矛盾は起きるか
マーカス氏は、効果的なエージェントには膨大なクラウド容量が必要だと指摘し、業界がこうした拡充を一時停止する可能性もあると語る。同氏によると、研究所側はエージェントの使用がトークン消費を増やし、収益向上につながるため優遇しているという。ホワイトハウスの会合に出席した企業は、AIインフラ整備に数千億ドル単位の投資を続けている。
BeInCryptoの分析は、AI投資の過熱シグナルがドットコムバブルや住宅バブル崩壊以前にも観測されていたと指摘する。
マーカス氏は、国際的な規制ルールの早期成立は望めないとしつつ、当面はエージェントのリコールを求めている。
今後、規制当局がエージェントを欠陥製品とみなすか、成長エンジンとみなすかによって、投資の進展度合いも左右される可能性がある。
jp.beincrypto.com でDarryn Pollockによるオリジナル記事 ゲイリー・マーカス氏、AIエージェントに「段ボール製ブレーキ付き自動車」と警鐘 FTCが調査開始 を読む