
当 AI Agent 进入企业工作流执行更多的任务,智能体 AI 安全成为企业落地的关键。矩阵起源 (MatrixOrigin) 将 OpenShell 集成到其对话驱动的数据分析流程中,为每段对话分配独立沙箱,以最小必要权限约束 Agent 的文件读写与网络连接,在保留检索、分析和自动化能力的同时,降低数据越权访问与误操作的风险,构建更安全的企业数据 Agent 执行环境。
当 AI Agent 开始为企业查询数据、运行分析脚本、生成业务文档,它所需要的已不只是理解问题的能力,还有访问文件、执行代码和连接服务的权限。这些能力让 Agent 能够完成更多实际工作,也带来了新的挑战:如何在赋予 Agent 行动能力的同时,保护企业数据,并控制错误操作带来的风险和影响。
NVIDIA 近期发布的开放智能体安全平台为企业 AI Agent 提供从测试到部署全流程的安全保障。作为一个开放软件平台与参考系统设计,该平台旨在从智能体测试到部署的各个环节强化 AI 安全,并针对运行智能体的软件、硬件、计算和机器人系统,实施全栈治理与管控。
NVIDIA 开放智能体安全平台 (NVIDIA Open Agent Safety Platform) 由 NVIDIA OpenShell 开源软件和 NVIDIA Sentry 参考系统设计组成。NVIDIA OpenShell 是面向 AI Agent 的开源、安全运行时,为需要执行代码、读写文件和访问网络的 Agent 提供受策略约束的沙箱环境。它通过文件系统隔离、网络访问控制等机制,在运行时落实权限边界,让安全约束独立于模型的任务决策生效。对于企业应用,这意味着可以在保留 Agent 必要执行能力的同时,限制其可访问的资源和可连接的目标,降低错误操作或越权访问带来的风险。
企业数据 Agent 面临的落地挑战
MatrixOne Intelligence (MOl) 是一体化企业级 AI 基础设施平台,将企业数据、AI 服务、业 务上下文、智能体运行、长期记忆与持续学习统一在一个平台中,为企业构建可信、可控、可审计并持续演进的生产级智能体。
以数据分析类任务为例,Agent 可能需要查询数据库、运行脚本处理结果,再生成可下载的报告。随着任务从“回答问题”延伸到“执行操作”,平台需要同时解决三个问题:
1
如何保护任务之外的数据和环境?
Agent 需要必要的工作空间,但不应因此获得对其他文件和系统工具的任意读写权限。
2
如何控制数据流向?
安装依赖、获取代码和调用内部服务都可能需要网络连接,但完成任务所需的连接,不应演变为不受限制的对外访问。
3
如何兼顾隔离与使用体验?
不同对话需要独立的执行环境,同时,用户也不应为每次任务手动创建、维护和清理沙箱。
这些问题需要执行环境提供强制约束。即使 Agent 生成了超出授权范围的命令,平台也需要在实际操作发生时阻止它。
在 MatrixOne Intelligence 平台的实践中,矩阵起源团队将 NVIDIA OpenShell 引入 Agent 执行环境,通过独立沙箱、文件访问控制和网络访问策略,为对话驱动的数据任务建立运行时安全边界。这让企业能够在明确的权限约束下使用 Agent 开展检索、分析和自动化工作,降低数据被越界访问、意外修改或发送至未授权目标的风险。

图 1:MOI 与 OpenShell 协作架构 (任务成果同步保存回平台)
*图片由矩阵起源提供,如果您有任何疑问或需要使用图片,请联系矩阵起源。
为企业 Agent 建立可复用的安全执行基础
随着 Agent 承担更多企业工作,运行时安全将成为应用落地的重要基础。MOI 的实践展示了 NVIDIA OpenShell 在企业数据场景中的一种集成路径:将 Agent 的任务执行能力与明确的权限边界结合,让检索、分析和自动化任务在更安全、更易管理的环境中运行。
以上为案例摘要内容,请点击“阅读原文”或扫描下方二维码阅读完整内容:

扫描下方海报二维码,观看 NVIDIA CEO 黄仁勋在 GTC 柏林主题演讲,一同见证 AI 的未来走向。
