点击上方蓝色字，关注我们
详细解读：
AI蛋白质设计的“双刃剑”效应
AI辅助蛋白质设计是一项突破性技术，它允许科学家修改现有蛋白质，甚至从头创造具有全新结构和功能的蛋白质，这在疫苗开发、新药研制等领域潜力巨大。然而，技术的另一面是，它也可能被用来设计制造有害的蛋白质。
基因合成的“安检门”及其漏洞
在实验室制造蛋白质，首先需要合成其对应的DNA序列。全球的基因合成公司都设有“安检门”——即使用生物安全筛查软件来检查客户订单，拦截那些编码有害蛋白质的基因。
但问题在于：现在的AI非常聪明，它可以生成功能不变、但氨基酸序列与已知有害蛋白质差异很大的新变体。这就好比给一个通缉犯换了身衣服、变了发型，让他能大摇大摆地通过人脸识别系统。一项历时数月的新研究证实，现有的筛查软件在面对这些AI生成的“变装”危险蛋白时，识别率参差不齐，存在明显的安全漏洞。
“用AI测试AI”：主动发现并修复漏洞
在这项研究中，作者Bruce Wittmann和研究团队的同事们扮演了“白帽黑客”的角色。他们使用开源的AI蛋白质设计软件，生成了超过7.5万个危险蛋白质的变体，然后用它们去测试四家主流的筛查软件。
结果发现：
所有软件对“原版”危险蛋白的识别率几乎完美。
但对AI改造过的变体，检测能力就不稳定了，很多“漏网之鱼”得以逃脱。
在发现漏洞后，研究人员与软件提供商合作，共同开发了“安全补丁”。其中三家提供商在更新系统后，对这些AI变体的检测率显著提升，且没有产生大量误报。不过，研究也指出，即使打了补丁，仍有约3%最可能保留功能的危险变体能够逃脱所有软件的检测，这说明安全防护仍需持续迭代。
责任与前瞻：建立安全研究新范式
该研究的资深作者、微软首席科学官Eric Horvitz强调：“AI的进步正推动生物学和医学的突破，但新的力量也带来了保持警惕和进行深思熟虑的风险管理的责任。我们的目标不仅是修补这个具体漏洞，更是要建立一个有效的合作流程：组建跨领域团队，应用严谨的科学方法，创建一个既能推动科学进步又能管理潜在风险的敏感数据共享框架。”
谨慎的数据共享机制
由于研究中使用的数据和代码本身可能存在被滥用的风险，作者没有将其完全公开。他们与国际生物安全科学倡议组织合作，设计了一个分级数据访问方案。需要这些数据进行研究的人员，必须向该组织提交申请，说明身份、所属机构和用途，经委员会审核批准并签署数据使用协议后，才能获得与其研究需求相匹配层级的数据。这种安排旨在平衡科学研究的开放性与生物安全的风险管控。（https://ibbis.bio）
