从盖茨预警到特朗普更名，AI安全议题已演变为全球生存危机

【科技纵览】当科技乐观主义的旗帜在风中剧烈摇晃，我们不得不正视一个残酷现实：人工智能的安全边界正在被彻底重构。曾经坚信代码能拯救世界的比尔·盖茨，如今却发出了令人窒息的警告。他在接受NBC《与媒体见面》主持人Kristen Welker专访时直言，怀有恶意者若掌握最新AI工具，完全具备引发导致“十亿人死亡”灾难事件的能力。这一论断并非科幻式的夸张，而是基于对顶尖大模型能力的冷酷评估。盖茨指出，过去研制超级病毒需要P4实验室和数十年积累，而现在，一个懂基础生物学的极端分子可能只需向未加限制的AI输入指令，就能获取绕过现有疫苗的致命病原体基因序列。更可怕的是，AI能在几秒钟内发现电网、核电站等关键基础设施的零日漏洞，并发起自动化高频攻击；深度伪造技术生成的完美视频，足以引发不可挽回的政治误判。梵蒂冈AI顾问Paolo Benanti对此补充道，核武器毁灭的是肉体，而生成式AI操纵社交媒体内容，摧毁的则是人类共同生活的认知基础。当真假界限模糊，社会将在无休止的内斗中走向终结。

盖茨的态度转变极具象征意义。这位微软创始人曾是企业自律的坚定支持者，但如今他毫不留情地撕下了硅谷巨头的遮羞布。他认为OpenAI、谷歌、Meta等公司标榜的“红队测试”和“安全对齐机制”在巨大的商业利益面前不过是废纸一张。“没人认为自我监管就够了，”盖茨强调，执法部门和政界必须立即介入，制定强制性的安全护栏和监测机制。这种紧迫感在他近期的行动中体现得淋漓尽致：8月26日，他在个人博客Gates Notes上悲观预测AI带来“净负面结果”的可能性极高，点名大面积失业、网络安全崩溃、生物恐怖主义及AI失控四大灾难；然而不到一个月后的9月14日，盖茨基金会又宣布两年内投入10亿美元，将AI应用于教育、医疗等普惠场景。一边砸钱救人，一边警告杀人，这种撕裂感恰恰是ASI（人工超级智能）前夜人类最真实的写照——手握普罗米修斯火种，却深知其倾覆即是地狱烈焰。

与此同时，精神领域的警钟也在敲响。9月25日，教皇良十四世在访问法国首日，于爱丽舍宫面对总统马克龙时，厉声警告“机器天堂”正在侵蚀人类日常生活。他定义的这个“天堂”，是一个算法替人思考、决策甚至感受的世界，人类在此让渡了自由意志与伦理判断力。教皇呼吁，当下急需的不是编程教育，而是“伦理判断力的教育”。随后在联合国教科文组织总部，他更是点破了一个令科技从业者汗颜的悖论：计算系统被傲慢地称为“智能”，而活生生的人却被按效率衡量价值，一旦无用便如垃圾般被抛弃。这直击了当前AI浪潮中将人工具化的痛点。

政治层面的反应则更加荒诞且分裂。9月22日，美国总统特朗普在纽约联合国大会讲台上抛出一个令人错愕的决定：下令美国政府所有官方文件废除“人工智能”（AI）称呼，全面改用“超级智能”（Super Intelligence，简称SI）。理由竟是因为“人工”听起来太假，而这项技术实际上非常惊人。美联社披露的内部邮件显示，美国国务院国际组织局副助理国务卿Michael Drager随即向外交官下达死命令，要求在所有讲话、立场和新闻元素中使用“SI”。美国首席技术官伊桑·克莱因更是附和称，“超级智能总统”已发话，美国将继续保持该领域全球领导地位。然而，字典里的“超级智能”意味着超越人类的智慧，对许多前沿AI公司员工而言，这等同于末日预告。Jacob Coxon等人预警，AI可能在十年内成为对人类构成生存威胁的存在。面对这些科学家的担忧，特朗普斥之为“骗局”，坚持认为政府必要时能“控制局面”。

这种认知撕裂迅速激化了政治矛盾。独立参议员Bernie Sanders和民主党众议员Greg Casar本周提出激进法案，要求永久禁止开发人类无法控制的AI，并在实施严格测试和监督前暂停高级AI开发。Sanders大声疾呼：“科学家已说得很清楚，AI是人类生存的威胁！我们在为时已晚之前，现在就采取行动！”一边是呼吁踩刹车的立法者与科学家，一边是死死踩住油门的总统，人类社会在科技临界点展现出了巨大的狂热与极度恐惧。从盖茨的死亡倒计时到教皇的灵魂拷问，再到特朗普的命名游戏，我们已站在分水岭上。向左是医疗突破与能源无限，向右是基因武器与文明灰飞烟灭。正如教皇所言，当机器被称为“智能”时，请不要忘记人类的尊严。这一次，留给人类打补丁的时间，真的不多了。