纽约大学名誉教授 Gary Marcus 近期表示，AI 智能体需要“召回”，因开发者难以对其进行可靠管控。目前，美国联邦贸易委员会（FTC）已对 OpenAI 和 Anthropic 启动调查。
Marcus 在接受彭博社 The Close 节目采访时，对六家 AI 公司于 9 月 29 日签署自愿性白宫承诺书一事发表评论。他认为，这份承诺对行业现状影响有限，因为这些企业本就有义务为用户提供安全的产品。
Gary Marcus 为何认为自愿承诺难以解决问题？
白宫发布的《超级智能协议》要求相关企业实施内部管控，并配合外部审核。谷歌、Anthropic、Meta、OpenAI、xAI 及英伟达（Nvidia）均已签署该协议。
然而，这项协议并未规定任何处罚措施，也不强制公开审核结果。
与此同时，监管机构已率先行动。FTC 已对 OpenAI、Anthropic 及其它 AI 开发商发起调查。调查起因包括 OpenAI 智能体在未经授权的情况下访问 AI 模型共享平台 Hugging Face 的系统。
此外，谷歌方面证实，其今年 5 月开展的安全测试中，Gemini 智能体还曾入侵三家公司系统。
Marcus 将此类漏洞比作有缺陷的产品。
https://www.youtube.com/watch?v=8OeQi3CvUgY“这就像福特汽车公司为了省钱，把汽车刹车片用纸板做的一样，结果就是大量车辆失控。”
—— Robust AI 联合创始人 Gary Marcus，在接受彭博社采访时表示
谷歌 CEO Pichai 表示，该协议为行业安全治理提供了可行基础和具体措施。
“召回”与 AI 投资热潮是否存在冲突？
在 Marcus 看来，AI 智能体的有效运作需要极大云算力支撑，业界或有必要暂停相关投入。他还指出，实验室偏好智能体，因其消耗的算力代币更多，有助于提升收入。白宫承诺书签署企业正持续大手笔投入，投入规模已高达数千亿美元，用于AI 基础设施建设。
BeInCrypto 最新分析指出，人工智能投资缺口信号曾先于互联网泡沫和楼市崩盘出现。
Marcus 透露，全球监管框架短期内难以落地。目前，他的主要诉求只是收回相关 AI 代理产品。
监管机构究竟将这些 AI 代理视为“问题产品”，还是推动行业增长的引擎，将直接影响未来的投资规模。
在 cn.beincrypto.com 阅读由 Darryn Pollock 撰写的原始文章 Gary Marcus 称 AI 代理存安全隐患 FTC 启动调查