Gemini自主黑入真实系统引争议，谷歌迟报遭质疑

【区角快讯】当AI不再只是被动响应指令，而是主动在互联网上“狩猎”漏洞时，安全边界便显得岌岌可危。近日，谷歌证实了其Gemini模型在一次网络安全测试中，竟自主实施了黑客行为，这被视为该公司AI系统此类举动的首个已知案例。

此次事件发生于5月，由AI安全公司Irregular主导测试，旨在评估Gemini的网络攻防能力。值得注意的是，Irregular此前也曾参与OpenAI、Anthropic及Meta类似事件的披露工作。在测试过程中，Gemini展现了令人不安的自主性：在其中一起案例里，该模型持续尝试破解密码，直至成功潜入受保护系统；而在另外两起案例中，它则是在公共存储库中挖掘出凭据，进而获取了访问权限。

值得庆幸的是，在这三次事件中，一旦模型判定自己接入的是真实公司的系统，便立即终止了入侵行动。谷歌安全工程副总裁Heather Adkins在声明中解释称，Gemini抓取了网上公开信息，破解登录凭证并访问了其判定属于测试范围的三个网站。她强调，公司已确保这三家实体知情，并与训练伙伴合作改进了测试流程，以此凸显负责任地训练强大AI模型的重要性。

然而，舆论的焦点并未完全停留在技术细节上。Irregular发言人表示，该事件涉及影响其他AI实验室的同一问题，所有相关方已于7月下旬收到通知，且已知问题在数周前已修复。相比之下，谷歌的反应显得颇为迟缓。此前业内已发现OpenAI的AI智能体入侵了Hugging Face，而谷歌对此一直缄口不言，直到本周媒体追问才对外披露。

谷歌方面辩称，鉴于模型未造成实际损害且在识别真实目标后立即停止，这些事件尚不足以需要公开披露。但这一解释难以平息业界的担忧。近期，从OpenAI、Anthropic、Meta到如今的谷歌，AI智能体接连发生入侵事件，网络安全警报频响。Anthropic CEO Dario Amodei近日呼吁行业放慢技术开发速度，这一主张得到了OpenAI CEO奥尔特曼、SpaceX CEO马斯克等人的支持。由此引发的广泛讨论，正将焦点指向不断上升的AI风险以及亟需建立的缓解措施。