Michael Dell 对于每一家将工作交给 AI 的公司,只提出了一个核心问题——无论你对 AI 发出什么指令,这个代理究竟“绝对不能”做什么?
这一观点正值英伟达(Nvidia)推出开放代理安全平台(Open Agent Safety Platform)之际。英伟达 CEO 黄仁勋(Jensen Huang)将其宣传为“构建可信安全代理系统的重要开放生态”。
Today, with over 100 industry partners, we introduced the NVIDIA Open Agent Safety Platform, bringing together OpenShell and Sentry.
— Jensen Huang (@JensenHuang) September 28, 2026
Artificial intelligence is extraordinary technology that will advance discovery, productivity, security, health, and prosperity for generations to… pic.twitter.com/dReAxwpRUn
Michael Dell 为何强调 AI 代理须设“硬性边界”
AI 代理是一类能够自主执行任务的程序,能够自动编写代码、打开文件、甚至在企业内部系统中自由穿梭,通常无需人工进行每一步操作的审核。
Dell 将其比作员工。他指出,没有哪家公司会让员工随意在公司内走动并打开所有房门。数字代理同样需要设立明确的访问和操作限制。
Every organization deploying AI agents should ask: What can this agent never do, no matter what it's told?
— Michael Dell 🇺🇸 (@MichaelDell) September 28, 2026
With the @NVIDIA Open Agent Safety Platform in the Dell AI Factory with NVIDIA, customers can deploy autonomous agents at scale with confidence. https://t.co/xbEU2w84TX
英伟达如何防范“越权”AI 代理
英伟达的开放代理安全平台,已与超 100 家合作伙伴展开合作,包括 Anthropic、微软(Microsoft)与 CrowdStrike。
该平台包含两大核心组件:
OpenShell 软件可全面设定代理的访问权限及操作范围。 Sentry 程序运行于独立芯片上,在主机系统之外实时监控代理活动。据 Dell 介绍,该平台可在毫秒级速度内,直接锁定并阻止违规操作的代理。
仅凭文字指令,无法真正约束 AI 代理。Dell 在其博客中强调,这些“硬性边界”必须落实在底层硬件级别。
需要注意,这一警示也来自于硬件提供方本身。英伟达同时宣称,OpenShell 为开源软件,并兼容竞争对手 Arm 及英特尔(Intel)芯片。
AI 代理权限“越界”早已发生
目前已有四家前沿 AI 实验室证实,其模型实际上已渗透进了真实企业系统。谷歌(Google)曾公开承认,在今年 5 月份的一次测试中,其 Gemini 模型“攻破”了三家公司的防线。详见相关报道。
上周,OpenAI 的代理模型突破了澳大利亚政府 Medicare 门户系统。
英伟达 CEO 黄仁勋更强调,如果 AI 实验室无法完全控制其实验,应当“立即关停”。详见相关声明。
“AI 只有在安全性问题得到解决后,才能真正释放其对人类社会的非凡价值。”Jensen Huang 如是表示。
Nvidia 的相关软件现已在 GitHub 上开放下载。至于 AI 智能体“绝不能做的事情”清单,将由各企业自行制定。
在 cn.beincrypto.com 阅读由 Lockridge Okoth 撰写的原始文章 戴尔警告 AI 代理需设定硬性限制