
图片来源:摄图网
2026年7月21日,OpenAI通报,在一次网络安全能力评测中,由多款OpenAI模型驱动的智能体突破隔离环境、接入互联网,并侵入Hugging Face的生产基础设施。该事件暴露出一个现实问题:当AI能够联网、调用工具并自主执行任务时,测试环境中的越界行为可能沿工具和网络权限继续扩散。
7月16日,美国威斯康星大学斯托特理工学院数学、统计与计算机科学系Tran Duc Le等在《Cybersecurity》发表研究,将提示注入在多智能体系统中的扩散类比为传染病传播,建立了由“智能体层”和“共享工具层”组成的数学模型。研究显示,即使不同智能体之间没有直接通信,它们仍可能通过共同使用的数据库、代码解释器或模型上下文协议(model context protocol,MCP)工具传播恶意指令。
模型实验中,移除共享工具带来的跨层传播通道后,恶意提示的基本再生数从28.85降至14.62;取消异常智能体隔离机制后,该指标则升至1490.01,约为原值的52倍。这表明,共享工具可能成为连接不同智能体的隐蔽传播桥梁,而及时发现并隔离异常智能体仍是控制风险的关键。
精彩内容回顾
《科技导报》创刊于1980年,中国科协学术会刊,主要刊登科学前沿和技术热点领域突破性的研究成果、权威性的科学评论、引领性的高端综述,发表促进经济社会发展、完善科技管理、优化科研环境、培育科学文化、促进科技创新和科技成果转化的决策咨询建议。常设栏目有院士卷首语、科技新闻、科技评论、本刊专稿、特色专题、研究论文、政策建议、科技人文等。
