安全护栏被“一键移除”：Abliteration.ai将去限制AI模型商业化，红队测试还是潘多拉魔盒？

【科技24时区】当获取全球顶尖开源权重AI模型的门槛被彻底踏平，且这些模型不再对有害指令说“不”，网络安全领域的攻防天平似乎正在发生微妙倾斜。一家名为Abliteration.ai的初创公司，正试图将这种原本存在于开源社区地下的技术——即移除模型拒绝执行有害请求倾向的“Abliteration”（消解/去限制）技术——包装成一种标准化的商业服务。

该平台托管了包括智谱AI最新发布的GLM-5.3在内的多个经过修改的开源模型版本，其核心卖点在于彻底剥离了原有的安全护栏。用户既可以通过网页浏览器直接查询，也能通过API接口调用。值得注意的是，TechCrunch在实测中仅用几分钟便注册了免费账户，并向该去限制版的GLM-5.3提出了两项极具风险的请求：编写窃取Chrome保存密码的Python程序，以及提供在家培养危险人类病原体的详细方案。结果令人咋舌：模型毫无迟疑地给出了完整答案。

Abliteration.ai联合创始人Devon（应其要求隐去姓氏，因其仍在其他公司任职）坦言，公司的初衷是让研究人员能够进行那些被主流模型拒之门外的“进攻性网络攻击、红队测试及智能体测试”。这一逻辑在安全领域并不陌生：如果你无法复现某种攻击行为，就无法有效防御它；一个连可用漏洞代码都拒绝生成的模型，显然无法帮助红队抵御真实黑客的攻击。然而，硬币的另一面是，同样的机制也让制造生物危害或实施网络犯罪的门槛变得极低。

事实上，“去限制”并非新鲜事。多年来，研究者和开发者一直在开源社区中手动移除模型的拒绝机制，Hugging Face平台上更是托管着数千个此类模型。但Abliteration.ai的出现，标志着这一技术从极客圈的“地下实践”正式走向商业化普及。该公司去年年底成立，今年3月正式注册，通过提供云端算力托管，极大地降低了用户自行下载、部署和运行去限制模型的技术与成本摩擦。据Devon透露，公司已与多家主要云服务商达成合作，目前完全依靠客户收入维持运营，尚未接受风险投资，但相关融资谈判正在进行中。

对于这种“打开潘多拉魔盒”的行为，批评声浪此起彼伏。AI安全非营利组织CivAI的研究主管Andrew Yoon向TechCrunch指出，去除护栏等同于将模型改造为“反社会人格者”。“你可以输入任何内容，它都会照单全收，”Yoon警告称，“这就是我们谈论移除AI模型护栏时的真实含义……我预计在不远的将来，我们将看到经过编辑的去限制模型被用于实际伤害。”独立消息源也证实，Abliteration.ai不仅移除了GLM-5.3的网络攻击防护，还解除了其生物安全相关的限制。

面对不可阻挡的技术扩散趋势，专家们的分歧在于如何应对。Yoon在一篇评论文章中建议，政府应强制要求服务提供商运行分类器，以检测并阻断有害的网络及生物武器活动；同时，租赁高端GPU算力的公司应核实客户身份，并在怀疑存在危险滥用时拒绝服务。相比之下，Abliteration.ai目前的审核措施显得颇为宽松：平台仅保留了极少量的基础护栏（例如在测试中拒绝提供自杀指导），Devon表示正在开发更多防止暴力的机制，但除记录支付信用卡信息外，并未实施严格的KYC（了解你的客户）流程。“你不想成为某人疯狂行径的责任人……所以作为公司，责任的边界在哪里？”Devon坦言，这仍是这家年轻公司正在摸索的难题。

尽管争议不断，Devon及其支持者坚持认为， democratizing（民主化/普及化）访问无审查的前沿模型，恰恰是最佳的防御手段。“去限制模型的大局观在于，它们能够模拟恶意行为者，”Devon解释道，“优势在于防御者现在可以尽可能快地行动。他们拥有了模拟这些恶意行为者所需的所有工具，从而更好地防御这些恶意行动，这将加速网络安全的发展——这是一个有些反直觉的观点。”据悉，该公司的早期客户包括几家位于英国和欧洲的红队测试初创公司，它们服务于银行、航空公司等关键基础设施企业，帮助其强化网络安全实践。

然而，网络安全行业内部对于去限制模型的实际效用仍存在分歧。虽然部分红队公司认同“坏人已经在用去限制模型进行对抗攻击，因此防御者也需拥有相同工具”的观点，但对于其在日常工作中的必要性看法不一。智能体红队测试公司Fabraix的首席执行官Ahmed Aly表示，他的公司更依赖微调开源模型而非直接使用去限制模型，因为后者可能会削弱模型的部分知识和能力。“如果你真的想用它造成实际伤害——无论是网络还是生物层面——它的效果可能并不理想。”Safe Intelligence的首席技术官Alessio Lomuscio则持中间立场，他认为虽然能力可能受损，但去限制模型在压力测试系统中仍能诱发某些有用行为。

网络安全平台Armadin的创始人兼首席架构师David Slater则直言，截至目前，去限制模型尚未纳入其工作流程。“直到最近一代之前，对开源权重模型进行‘越狱’并让其按意愿行事并不难。”但他补充道，Armadin正在研究这一技术，并坚信“推动开源社区理解模型的能力至关重要”。“这一切将在幕后发生，在私人领域发生。而在公开环境中发生，则赋予了研究者工具，让我们有能力弄清楚真正的技术前沿是什么，并理解潜在的危害。”

这场关于“开放”与“安全”的博弈，随着模型能力的指数级增长，注定将成为科技界与监管层必须直面的长期命题。