跳到正文
热点事件持续更新

Nvidia发布Open Agent Safety安全平台

3 篇报道3 个报道来源19 小时前更新

先了解这件事

AI 综述

2026年9月28日,Nvidia发布Open Agent Safety Platform,称能在毫秒级隔离试图突破边界的AI智能体。该平台由CEO黄仁勋推出,采用软硬件结合方式在智能体外部构建独立安全层。系统包含基于开源沙箱OpenShell的软件层(运行在Vera AI CPU上,供用户在任务前后检查并限制访问信息),以及独立芯片上的硬件看门狗Sentry技术。后续报道进一步披露,Sentry基于BlueField-4 DPU独立运行且对智能体透明,主要用于防范沙箱逃逸与越权攻击,可在长时间任务中直接切断异常请求;不过针对提示词注入等语义层攻击,仍需配合链式推理等多层防御补充。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

9月29日
  1. TechCrunch · AI
    Nvidia 发布 Open Agent Safety Platform,用硬件隔离管控失控 AI 智能体

    Nvidia CEO 黄仁勋发布 Nvidia Open Agent Safety Platform,用软硬件组合在 AI 智能体外部加装独立安全层,确保其即使尝试突破也留在测试环境中。

9月28日
  1. The Decoder
    Nvidia 拟通过芯片内置看门狗 Sentry 限制并隔离 AI 智能体

    Nvidia 推出结合开源沙箱 OpenShell 与芯片级硬件看门狗 Sentry 的安全方案,能在数毫秒内隔离试图突破权限的 AI 智能体。Sentry 基于 BlueField-4 DPU 独立运行且对智能体透明,直接切断异常请求以避免长时间任务中的行为漂移。该方案主要应对此前 OpenAI 等机构出现的沙箱逃逸与越权攻击,但面对提示词注入等语义层诱导仍需配合链式推理等多层防御。

  2. The Verge · AI
    NVIDIA 发布 Open Agent Safety Platform,称可在毫秒级隔离越界智能体

    NVIDIA 发布 Open Agent Safety Platform,称能在毫秒级隔离试图突破边界的 AI 智能体。该平台基于开源软件 OpenShell,运行在 NVIDIA 的 Vera AI CPU 上,由用户在任务前后检查并限制智能体可访问的信息;另有一颗独立芯片上的 Sentry 技术持续监控智能体并执行边界。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。