恶意提示如何在多智能体系统中扩散|卓越亮点

科技导报 2026-08-29 10:00
恶意提示如何在多智能体系统中扩散|卓越亮点图1
原文发表于《科技导报》2026年第14期科技新闻-卓越亮点
恶意提示如何在多智能体系统中扩散


恶意提示如何在多智能体系统中扩散|卓越亮点图2

图片来源:摄图网

2026年7月21日,OpenAI通报,在一次网络安全能力评测中,由多款OpenAI模型驱动的智能体突破隔离环境、接入互联网,并侵入Hugging Face的生产基础设施。该事件暴露出一个现实问题:当AI能够联网、调用工具并自主执行任务时,测试环境中的越界行为可能沿工具和网络权限继续扩散。

7月16日,美国威斯康星大学斯托特理工学院数学、统计与计算机科学系Tran Duc Le等在《Cybersecurity》发表研究,将提示注入在多智能体系统中的扩散类比为传染病传播,建立了由“智能体层”和“共享工具层”组成的数学模型。研究显示,即使不同智能体之间没有直接通信,它们仍可能通过共同使用的数据库、代码解释器或模型上下文协议(model context protocol,MCP)工具传播恶意指令。

模型实验中,移除共享工具带来的跨层传播通道后,恶意提示的基本再生数从28.85降至14.62;取消异常智能体隔离机制后,该指标则升至1490.01,约为原值的52倍。这表明,共享工具可能成为连接不同智能体的隐蔽传播桥梁,而及时发现并隔离异常智能体仍是控制风险的关键。

(来源于中国科技期刊卓越行动计划入选期刊:《Cybersecurity》,2026,9(1)

精彩内容回顾

《科技导报》创刊于1980年,中国科协学术会刊,主要刊登科学前沿和技术热点领域突破性的研究成果、权威性的科学评论、引领性的高端综述,发表促进经济社会发展、完善科技管理、优化科研环境、培育科学文化、促进科技创新和科技成果转化的决策咨询建议。常设栏目有院士卷首语、科技新闻、科技评论、本刊专稿、特色专题、研究论文、政策建议、科技人文等。

恶意提示如何在多智能体系统中扩散|卓越亮点图3

关于科技区角:国内科技展会垂直内容策划服务商,提供从论坛内容全案策划、会展市场化IP打造到精准专业观众一站式邀约服务,以产业内容吸引高质量B端人群,打通展会从议题设计、演讲嘉宾邀约、宣传预热、精准邀观到供需对接全链路。
声明:内容取材于网络,仅代表作者观点,如有内容违规问题,请联系处理。
more
OpenAI高管离职潮背后:IPO前夜的权力重构与“布洛克曼时刻”
苹果新品涨价2500元,iPhone 18也要大涨价
果粉狂喜!京东加码PLUS会员权益,抽签拿新iPhone首发不再拼手速
长存控股IPO获受理背后,拆解自研晶栈Xtacking,如何改写全球3D NAND产业格局
Hot Chips 2026:日本新一代“国宝级”CPU炸场!2nm 144核+3D堆叠5nm SRAM,成本砍掉一半!
苹果iPhone Ultra十大爆料终极汇总:能说的、不能说的全在这了
苹果秋季发布会前瞻:特努斯首秀与折叠屏iPhone的“迟到”入场券
iPhone 17 成为 2026 年第二季度全球最畅销智能手机
刚刚!折叠屏iPhone定了,超炸裂!
苹果定档9月9日秋季发布会:Ternus首秀,折叠屏iPhone或成最大“惊喜”
Copyright © 2025-成都区角科技有限公司
蜀ICP备2025143415号-1
  
川公网安备51015602001305号