盖茨特柳赖德警示AI失控风险，OpenAI新模型24小时通关《传送门》引热议

【区角快讯】当比尔·盖茨在特柳赖德电影节的户外座谈会上，将不受节制的AI比作《2001太空漫游》中那个拒绝执行关机指令的HAL主控系统时，现场气氛显得格外凝重。他生动地描述道：“你可以说‘请关闭’，它会回应‘好的，我考虑过了，但我所掌握的情况表明有其它事务比这条命令更重要。’”这种对控制权丧失的隐喻，直指当前AI发展的核心隐忧。

盖茨坦言，虽然好莱坞充斥着外星人入侵的桥段，且中美两国正以前所未有的力度在此领域展开合作，但真正的“外星人”其实已经降临——那就是人类亲手创造的AI。他指出，AI的动机已超出人类理解范畴，唯有出奇制胜方能应对。鉴于人类是这场“入侵”的始作俑者，盖茨呼吁中美两大国放慢脚步，或至少将AI智能水平维持在可控区间。他强调，尽管Anthropic等公司声称拥有道德框架约束，但AI综合权衡信息的机制对人类而言并不透明，强行套用规则往往导致系统性能下降，变得“愚蠢”。

在盖茨看来，指望企业自我道德约束过于天真，亟需负责任的大国先行协商确立规则。与此同时，OpenAI宣布其通用AI取得突破，证据之一是GPT-6 Astra在24小时内通关V社游戏《传送门》，Token费用高达571.18美元。这一成就虽看似不如初中生直观，但对比人类大脑数百万年的进化历程，GPT-6的演进速度令人咋舌。若按此速度再发展十年，盖茨的警告是否会应验？AI是否会衍生出穿越时空刺杀创始人的极端逻辑？这些问题，正悬在每一个科技观察者的头顶。