AI Agent进入企业核心业务之后， 安全边界正在发生改变——专访启云方科技有限公司安全业务部总裁 周榆

《半导体行业观察》：

企业过去已经建立了网络安全、身份权限管理、数据安全等体系。为什么到了AI Agent阶段，还需要进一步提出“智能体安全”？与过去相比，企业真正需要面对的新问题是什么？

周榆：

我们认为，最核心的变化，是AI正在从“回答问题”走向“执行任务”。过去企业使用大模型，很多场景集中在知识问答、内容生成和辅助分析。这个阶段，大家比较关注模型输出是否准确、内容是否合规，以及企业数据是否安全。

但Agent进一步进入企业以后，情况开始发生变化。它可能不仅回答一个问题，还会访问数据、调用工具、连接业务系统，甚至进一步执行任务。

所以企业需要关注的问题，也从过去的“AI说了什么”，进一步变成“AI做了什么”。

这两者之间有很大的区别。一个模型回答错误，首先影响的可能是信息质量；但如果一个Agent发生越权访问、错误调用工具，或者执行了超出授权范围的动作，就可能直接影响企业真实业务。

因此到了Agent阶段，企业需要进一步回答几个很具体的问题：这个Agent代表了谁？它是否拥有这些权限？它能够访问哪些资源？可以调用哪些能力？最终执行了哪些行为？整个过程能不能被管理和追溯？

从这个角度来看，我们认为智能体正在成为企业安全体系中的一种新的治理对象。

这并不意味着传统安全体系失效了。身份安全、主机安全、网络安全、应用安全和数据安全依然是基础。真正发生变化的是，企业需要在原有安全体系之上，进一步建立针对智能体身份、权限和行为的治理能力。

基于这一判断，启云方提出“用AI对抗AI，打造AI原生网络免疫系统”。

我们的出发点不是简单增加一个安全工具，而是希望利用AI进一步提升企业安全体系的感知、分析和响应能力，让安全能力能够适应AI时代新的业务形态。

“小笼虾™”智能体安全解决方案，就是这一思路面向Agent场景的具体实践。

安全的目的不是把AI智能体关进笼子，而是为它划清企业治理边界，让AI智能体在治理边界内安全运行、自由飞翔。

《半导体行业观察》：

启云方将“小笼虾™”智能体安全解决方案的核心价值概括为“可信、可控、可审计”。如果不用复杂的技术语言解释，这三个词对于一家真正准备规模化使用AI Agent的企业来说，分别意味着什么？

周榆：

如果把复杂问题简单化，我们认为企业最需要知道一个Agent的三件事情：它是谁？它能做什么？它做过什么？

这三个问题，实际上就对应我们所说的可信、可控、可审计。

首先是可信。未来一家企业内部可能会出现越来越多不同类型的Agent。企业首先需要知道这些Agent从哪里来、承担什么任务、代表什么角色，以及能够接触哪些业务资源。只有身份和责任边界足够清楚，后续的安全治理才有基础。

第二是可控。Agent真正创造价值，就一定会连接企业的数据、工具和业务系统。所以安全不能简单理解为“什么都不让它做”。真正重要的是，明确什么可以做、什么不能做，以及应在什么权限范围内完成任务。

用权限的确定性，约束智能体行为的不确定性。

AI能力可以持续演进，但是企业自己的业务规则、权限规则和治理边界必须清晰。边界不是为了束缚AI，而是为了让企业有信心给AI更大的应用空间。边界越清楚，企业越敢让AI进入真实业务；治理能力越成熟，AI才越有可能释放更大的生产力。

第三是可审计。当Agent真正参与业务以后，它不能成为一个完全不可观察的黑盒。企业需要能够知道它做过什么，在发生异常时能够回看关键过程。所以我们说的“可审计”，本质上就是让智能体的关键行为能够被看到、被追踪。

围绕这三个目标，“小笼虾™”提出了“三层网关、六层围栏”的整体思路。

如果不展开技术细节，可以简单理解为：三层网关主要围绕Agent从身份准入、AI交互到实际执行过程中的关键环节建立安全控制；六层围栏则围绕身份、主机、网络、应用、数据和模型建立纵深治理边界。

最终希望帮助企业做到：AI应用风险可观测、智能体行为可管理、关键操作可追溯。

在具体产品层面，启云方“小笼虾™”智能体安全方案，当前围绕智能体检测与响应、智能体安全管理、智能渗透测试以及安全运营智能体形成相应能力。

• 智能体检测与响应系统：关注智能体运行过程中的风险检测与响应处置。

• 智能体安全管理平台：主要解决智能体及相关AI资产的统一管理、安全态势感知。

• 智能渗透测试平台：基于AI能力主动开展安全验证活动，7x24小时发现企业IT系统薄弱点。

• 安全运营智能体：沿安全运营生命周期，基于AI持续开展安全运营和事件处置，以AI对抗AI。

最终是让AI智能体能够在企业明确的治理边界内，既保持安全和可控，又充分发挥自身能力。

《半导体行业观察》：

对于半导体和工业企业而言，AI Agent未来可能进一步进入研发、制造、生产数据以及企业核心IT系统。相比普通办公和内容生成场景，这类企业为什么更需关注智能体安全？您如何看待这个领域未来发展方向？

周榆：

我们认为，一个越来越明确的趋势是：发展和安全不是二选一。

AI能力越强，进入企业业务越深，安全就越不能等到最后再补强。尤其到了Agent阶段，AI已经不只是生成内容，而是开始具备访问数据、调用工具和执行任务的能力。

对于半导体和工业企业而言，这一点尤其重要。这类企业通常拥有大量长期积累的研发数据、技术知识、生产相关数据以及核心业务系统。

在普通内容场景里，如果AI出现问题，可能首先表现为“它说错了”。但当Agent进一步进入研发、制造或者企业核心IT流程以后，企业需要关注的是“它有没有做错事情”。

所以我们认为，未来企业AI安全治理的对象，会从传统的系统、账号、设备和数据，进一步延伸到智能体行为本身。未来企业不仅需要知道一个账号有没有权限，还需要进一步知道：为什么一个Agent拥有这个权限，它利用这个权限做了什么，这些行为是不是符合企业的业务规则。

从这个意义上讲，安全治理正在进一步向智能体行为治理延伸。

第二，我们认为安全应该成为AI规模化落地的重要支撑，而不应该只是一个限制条件。企业真正使用AI，最终一定要进入研发、制造、经营和核心业务。但越接近核心业务，企业越需要足够的安全信心。

因此成熟的安全体系真正应该解决的是：让企业敢于把AI用得更深。

从这个意义上讲，我们理解的安全和创新并不是对立关系。相反，只有企业建立起清晰的身份、权限和行为边界，才更有可能把更重要、更复杂的任务交给AI。

治理划定边界，安全守住边界，AI在边界之内释放能力。

不是把AI智能体关在笼子里，而是给它一片安全的天空，让它在企业治理边界内自由飞翔。

这也是“小笼虾™”希望发挥作用的地方。通过提升智能体的可见、可控和可审计能力，帮助企业降低Agent进入核心业务过程中的不确定性，让安全成为企业使用AI的重要基础支撑。

第三，我们也希望把中国复杂产业场景中的实践持续沉淀成产品和工程能力。半导体、制造等产业业务流程复杂、IT环境复杂，对可靠性和业务连续性的要求也很高，这些真实场景会不断推动智能体安全能力走向成熟。

我们的目标并不是宣称一套方案能够解决所有AI安全问题。更现实的目标是，帮助企业逐步建立一套能够支撑Agent安全进入真实业务的基础能力。

最终还是回到三个最基本的问题：知道它是谁，管住它能做什么，看清它做过什么。也就是可信、可控、可审计。

推荐阅读