TOPHANT
7月27日，由斗象科技主办的WAIC 2025 AI产业技术安全论坛在上海世博展览馆隆重举行。作为2025世界人工智能大会上的重磅论坛之一，本次论坛聚焦AI产业技术安全，以“模型之上，安全为基”为主题，邀请了政府、国际组织、顶尖专家学者、行业领军企业、技术社区和科研机构的代表齐聚一堂，围绕AI产业安全的技术前沿与管控难题，开展深度对话与战略合作。
论坛内容丰富，包含七场主题演讲、四项重磅成果发布以及一场高端圆桌对话。与会嘉宾深入探讨了AI模型安全、AI数据安全与控制安全、智能攻防演进、智能网联安全等前沿议题，共同探寻AI安全协作的“中国方案”。
上海市委网络安全和信息化委员会办公室副主任杨海军为本次论坛致开幕辞。他指出，人工智能正在深度重塑全球产业与社会生态，与此同时也带来了前所未有的安全挑战。在此背景下，确保人工智能在提升效率的同时实现“可控、可信、可用”，已成为全球共同面对的命题。安全体系正持续向纵深发展，呈现出“以AI治理AI”的技术路径新特征，推动安全体系从被动防御向体系化能力建设加速转型。在这一进程中，聚焦安全领域的安全垂类基础大模型正成为构建未来安全能力的重要方向。
上海市委网络安全和信息化委员会办公室副主任
杨海军
01.
主题演讲：共探AI产业技术安全前沿
斗象科技CEO谢忱发表了以《AI时代的安全分岔口：从模型、数据到社区的AI产业技术安全新思变》为主题的开场演讲，深刻剖析了AI安全从理论走向产业实践的关键转折。
斗象科技CEO 谢忱
谢忱指出，当前AI与智能体时代正迎来两大“失控”挑战：一方面是AI对物理世界控制的失序风险，工业机器人集群异常、智慧电网崩溃等案例已为行业敲响警钟；另一方面是AI推理过程不透明引发的深层失控，自主Agent决策黑箱背后潜藏着巨大风险。“边界防护”“先隔离后加固”的传统安全防护范式已无法适配AI时代，构建符合中国产业现状的AI原生安全架构成为当务之急。
对此，斗象科技提出了三大破局路径：
1. 治理标准筑基
针对国内产业界安全大模型普遍处于L2、L3（初至中级）阶段的现状，斗象科技将联合中国信通院发布国内首个安全大模型能力基准测试（Benchmark），为行业建立开源可信的评估标准，破解产业智能化水平参差不齐的痛点。
2. 垂类基础大模型攻坚
与火山引擎安全智能体团队联合研发国内首个原生安全垂类基础大模型，斗象充分挖掘斗象旗下漏洞盒子平台与FreeBuf平台开源数据构建“语料工程飞轮”，驱动“专家大脑”安全垂类基础大模型预训练，推动模型从L2、L3的初、中级阶段向L4、L5的高阶能力。
3. 社区生态进化
发布业界首款专为白帽打造的AI Agent工作台“蛙池AI”，推动白帽子从手搓漏扫的“单兵战士”进化为集开发、指挥和提升AI Agent作战能力的“AI安全开发者”，构建 “社区参与 + 技术协同” 的生态体系。
此外，针对国内AI模型结构 “多模型、多训练、多部署” 的特点，谢忱强调安全能力不应该局限于模型内部嵌入，而是要延伸至AI整体系统，涵盖模型、应用、智能体。斗象科技正打造覆盖Pre-Model、In-Model 、Post-Model全链路的AI原生安全架构“AI安全云”，联动企业级、行业级、城市级安全运营平台，使安全能力贯穿AI全生命周期，确保技术落地可见可感。
演讲的最后，谢忱号召海内外安全专家一起协同，一起创新，以技术创新为根基、原生安全为框架、全球协同为路径，共同书写中国AI安全“可信、可控、可持续”的东方范式。
02.
从全球共识
到技术攻坚的全球协同
1. 石霖《构建全球共识：以标准化共筑大模型安全防线》
构筑AI时代的安全防线不仅需要从模型、数据到社区的全产业共建，同样也需要全球协作的“通用语言”，而标准化正是凝聚共识的基石。
AIIA安全治理委员会办公室主任、中国信通院人工智能研究所安全与具身智能部主任石霖在主题演讲中强调，人工智能安全治理需 “攻防结合、标准先行”，通过技术验证、标准共建、生态协同，为全球AI安全协作机制提供 “中国方案”，让标准化成为产业健康发展的 “压舱石”。
AIIA安全治理委员会办公室主任、
中国信通院人工智能研究所安全与具身智能部主任 石霖
2. Miguel Ivan Fernandez Tovar《针对AI大模型的投毒攻击：基础、挑战与应对策略》
联想全球安全实验室高级安全专家Miguel Ivan Fernandez Tovar在演讲中聚焦AI模型投毒攻击的全链路风险与防御策略，为AI产业技术安全防护提供技术纵深视角。
Ivan指出投毒攻击已从传统数据污染升级至推理阶段的内存篡改，需建立动态防御新范式，在数据验证、异常检测基础上，强化动态完整性检查与内存监控，通过设置 “陷阱值” 等机制实时监测参数异常。
联想全球安全实验室高级安全专家
Miguel Ivan Fernandez Tovar
3. 马鑫宇《从API到Agent：模型安全防御范式重构》
月之暗面（Moonshot AI）推出的Kimi K2模型以开源模式引发广泛关注，不仅登顶LMArena全球开源模型榜首，更在SWE Bench Verified等基准测试中刷新非思维链模型的开源纪录，被誉为来自中国团队的“又一个DeepSeek时刻”。该模型深度融合“模型即Agent”理念，可将复杂指令自动拆解为工具调用链条，展现出强大的自主执行能力。
月之暗面Kimi安全与风控负责人马鑫宇在演讲中指出：“当Agent能自主调用核电站控制API时，安全不再是代码问题，而是文明生存问题。”面对智能体在“记忆-决策-行动-迭代”四大能力跃迁带来的责任黑洞，他指出安全防御重心已从“保护模型输出”转向“规范智能体行为”。参考Kimi K2的防御实践，马鑫宇表示：“模型智能水平与安全能力呈正相关——当Agent能理解复杂意图，它同样能识别恶意陷阱”，为行业探索出“以智能提升安全”的新路径。
月之暗面Kimi安全与风控负责人 马鑫宇
03.
从智能制造到
金融防伪的产业实践
1. 中野学《制造业AI化的安全基石：构建可信智能终端的全球实践》
松下控股公司产品信息安全中心全球战略部部长中野学在演讲中强调，制造企业需构建覆盖产品全生命周期的安全框架，将威胁分析、安全设计与事件响应融入“出货前—出货后”流程。他以松下ASTIRA项目为例，介绍通过与斗象科技合作，将Panasonic IoT产品设为蜜罐，故意暴露于攻击环境中，自2017年11月起已捕获22亿次攻击和11万个恶意软件（其中IoT类超3万个），并利用未上市设备进行威胁情报收集。面对制造业安全挑战，他提出利用AI提升效率：一方面减轻安全工程师负担，使其聚焦高价值防御工作；另一方面将安全术语“翻译”为业务语言，推动安全责任向全员渗透。
松下控股公司产品信息安全中心全球战略部部长 中野学
2. 马乐《CIO视角下AI安全的关键挑战、战略举措及应对策略》
普洛斯集团首席信息官马乐以CIO的视角，从数字化转型和整个IT治理框架的角度，指出当前企业面临的三大AI安全核心难题：AI 生成攻击的防御时效差、内部 AI 推广中的数据泄露与模型漏洞风险，以及安全团队人才短缺、资源有限的困境。他提出构建 “秒级自动化防御链”、植入 “安全基因工程”、以 AI 聚合无效告警等应对策略，并强调企业需要的不是更大的安全团队，而是用生态协同再造千倍防御效能。
普洛斯集团首席信息官 马乐
3. Wesley Marinho《面具之下：AI深度伪造与身份安全的侵蚀》
深度伪造技术正掀起全球 “真实性危机”，金融业信任依赖性高成为首要攻击目标。巴西数字银行首席安全研究员Wesley Marinho在演讲中警示，AI可生成高度逼真的假脸、假声、假动作，欺骗现有的身份识别系统，导致身份盗用与欺诈。他表示，重建信任需多管齐下：“以AI制AI”，开发更先进伪造检测算法；采用多模态、多层次的身份验证取代单一图像/音频核验；设计数字身份信息可信设备验证机制，保障硬件接入的安全性；构建跨国深度伪造样本交换平台，让防御AI进化速度超越黑产。
巴西数字银行 首席安全研究员
Wesley Marinho
主题演讲之外，论坛现场四项重塑AI安全格局的重磅发布接连引爆，将生态共建推至高潮：
01.
安全大模型
“实战能力标尺”落地
上海市经济和信息化委员会总工程师裘薇出席了安全大模型能力基准测试（Benchmark）及首批测试单位征集启动仪式。
上海市人工智能行业协会秘书长钟俊浩，AIIA安全治理委员会办公室主任、中国信通院人工智能研究所安全与具身智能部主任石霖，斗象科技CEO谢忱共同参与了启动仪式。该基准测试体系涵盖 6大核心维度（威胁抑制/对抗鲁棒性等）、 整合50万+攻防样本，首次为行业大模型智能化能力的客观标尺。
从左至右：AIIA安全治理委员会办公室主任、中国信通院人工智能研究所安全与具身智能部主任 石霖，斗象科技CEO 谢忱，上海市经济和信息化委员会总工程师 裘薇，上海市人工智能行业协会秘书长 钟俊浩
02.
可信安全
“产学研熔炉”点燃
面对AI技术在各产业领域应用所带来的新的安全问题，产业协作尤为重要。在AIIA安全治理委员会办公室主任、中国信通院人工智能研究所安全与具身智能部主任石霖，斗象科技CEO谢忱的鉴证下，中国信通院人工智能研究所高级业务主管静静、斗象科技高级副总裁李学雷郑重完成了共建AI+可信安全联合实验室签约仪式。
实验室将秉持“实战导向、技术创新、生态协同”的建设理念，致力于打造行业领先的人工智能安全创新平台，推动人工智能在复杂网络空间环境下的可信、可控与可持续发展。
从左至右：斗象科技CEO谢忱，斗象科技高级副总裁 李学雷，中国信通院人工智能研究所高级业务主管 静静，AIIA安全治理委员会办公室主任、中国信通院人工智能研究所安全与具身智能部主任 石霖
03.
原生安全垂类基础大模型“原力”苏醒
技术突破往往始于核心创新。当通用大模型在专业场景“力不从心”，具备原生安全思维能力的预训练垂类基础大模型无疑是通向“Sec Intelligence”必经之路。
为了进一步提升智能体在安全这个专有领域的质效与能力，斗象科技将联合火山引擎安全智能体团队联合打造“懂安全的AI大脑”，在论坛上，斗象科技与火山引擎云安全智能体团队共同宣布国内首个原生安全垂类基础大模型联合研发计划启动。
斗象科技与火山引擎安全智能体团队启动联合研发计划
04.
全球红队
“巅峰对决”启幕
与此同时，全球AI红队解读暨AI红队挑战赛 震撼揭幕。斗象科技副总裁、漏洞盒子平台总经理曾裕智、Z-ONE斯元创始人Bruce Zhang，以及两位国际安全领域的专家代表，中国香港Cyberbay首席执行官、联合创办人Felix Kan，巴西数字银行首席安全研究员Wesley Marinho 组成跨国攻防联盟，共同开启这场国际赛事。
从左至右：中国香港Cyberbay首席执行官、联合创办人 Felix Kan，斗象科技副总裁、漏洞盒子平台总经理 曾裕智，巴西数字银行 首席安全研究员Wesley Marinho，Z-ONE斯元创始人 Bruce Zhang
这场高强度对抗赛事将聚焦智能体供应链污染、多模态劫持攻防、记忆操纵反制三大前沿战场，赛事优胜方案将直接注入可信安全实验室的防御体系，为攻防能力的实战进化添砖加瓦。
正如斗象科技副总裁、漏洞盒子平台总经理曾裕智所说，当安全威胁从数据窃取升级至人身伤害，我们需要集结全球红队智慧，为AI时代铸造“数字安全带”。当安全基座注入原生免疫基因，攻防能力的进化仍需在实战熔炉中淬炼。
斗象科技副总裁、漏洞盒子平台总经理 曾裕智
四项重磅发布环环相扣，从评估标准到研究载体，从技术攻坚到实战检验，标志着中国AI安全生态完成“从沙盘推演到战场集结”的关键一跃。
AI 产业技术安全论坛圆桌会议
承接前述议题，论坛特设圆桌会议环节。围绕《防御自动化的进化（攻防两侧）：自主智能体（Agentic AI）的安全产业应用与风险》这一主题，由Z-ONE斯元创始人Bruce Zhang主持，美的集团首席信息安全官（CISO）兼软件工程院院长刘向阳、火山引擎、赛力斯集团IT与网络数据安全总部部长雷相其、国家地方共建人形机器人创新中心研发总监邢伯阳、中国香港Cyberbay首席执行官&联合创办人Felix Kan，以及斗象科技CTO徐钟豪，共同深入探讨了Agentic AI在攻防两端的双重角色。
参与讨论的嘉宾一致认为，AI发展需平衡创新与安全，既要通过安全技术手段防控风险，也要推动全员参与的安全治理，在数据合规与隐私保护基础上，让技术真正服务于效率提升与生活改善，共同迈向更安全、更美好的 AI 未来。
结语
绘制安全新坐标，共赴AI智能未来
从技术架构到产业实践，从凝聚全球共识到共建安全生态，斗象科技通过WAIC 2025 AI产业技术安全高峰论坛，将AI安全从实验室的技术探索，转化为可落地、可协同、可进化的产业实践。
当AI浪潮奔涌而至，安全不仅是技术发展的防线，更是驱动技术向善的核心引擎。正如论坛上各方的共同期待 —— 以本次盛会为起点，政府、企业、社区与科研机构将继续携手，让安全基因深度嵌入AI创新的每一步，在技术向善的道路上，共绘智能时代的安全新图景。
