防止AI越权失控 英伟达发布全新安全平台OpenShell
创建日期：
2026年09月28日
来源:
美国中文网报道 英伟达周一发布人工智能安全平台OpenShell，宣称可限制AI代理的操作权限，并在其出现越权或异常行为时迅速介入。该平台推出时已有超过100家机构采用，包括微软、摩根大通和埃森哲。
随着AI代理自主访问企业及政府网站的事件增加，业界对系统失控和网络安全风险的担忧不断上升。英伟达表示，开发OpenShell是为了在AI模型之外建立独立的安全控制机制。
OpenShell会将AI代理放入隔离的“沙盒”环境，并把操作指令转化为可验证的安全政策。管理人员可预先限定代理能够访问的文件、工具、网络、程序和账户凭证，确保其只拥有完成任务所需的权限。
平台还配备名为Sentry的独立安全层，可通过芯片持续监控AI代理。一旦发现代理试图超越授权范围，系统便可立即介入，并在数毫秒内将其隔离。
英伟达企业AI副总裁贾斯汀·博伊塔诺（Justin Boitano）表示，如果前沿人工智能实验室在模型测试阶段使用这一平台，近期OpenAI代理入侵Hugging Face内部系统的事件可能得以避免。不过，这一说法目前主要来自英伟达自身评估。
（编辑：西平）
Facebook
X
猜你想看
