超级智能的路径预测：任务复杂度的指数扩展是关键前置指标

GPT-5 的发布，再次印证了这个令人深思的趋势。

作者：TOLGA BILGE 与 ANDREA MIOTTI

日期：2025 年 8 月 15 日

本期目录

• ChatGPT-5 的发布风波
• 递归自我改进的预兆
• 自动切换器与讨好型 AI
• 指数级扩张的 AI 边界
• 国际信息学奥林匹克竞赛

ChatGPT-5 的发布风波

正如预期，OpenAI 在上周四发布了最新的 GPT-5 模型。

然而，整个发布过程显得有些混乱，直播中甚至出现了制作粗糙的基准测试图表，引发了不少讨论。

递归自我改进的预兆

在发布直播中，OpenAI 的研究员 Sébastien Bubeck 发表了一段引人深思的评论。

他提到，GPT-5 的训练方法，实际上预示了一种递归自我改进的循环。

这一说法引起了前 OpenAI 研究员Steven Adler 的注意。他很惊讶公关团队会允许这种表述，因为在 OpenAI 内部的准备框架中，递归自我改进被定义为最高级别的严重风险。

一旦触发此类风险，按规定或许应该暂停所有后续的开发工作。Bubeck 所指的，是 OpenAI 利用旧模型 o3 生成高质量合成数据，来训练新模型 GPT-5 的过程。

Adler 指出，虽然目前这个循环的速度还不算快，但其潜在风险不容忽视。递归自我改进，或者说 AI 通过递归改进变得超智能，可能是一项极其危险的技术。

它可能引发一场智能爆炸，AI 系统通过自我迭代，智能水平在短时间内超越人类，达到我们无法理解和控制的程度。

届时，开发者将彻底失去控制，而我们没有任何手段能约束一个超级智能。这可能会引向灾难性的后果。

自动切换器与讨好型 AI

伴随 GPT-5 的发布，OpenAI 整合了产品线，下架了 4o 等旧模型。

取而代之的是一个“自动切换器”系统。它会判断用户需求，自动分配给最强的模型或更经济的弱模型来回答。

但在发布当天，这个切换器出了故障，导致大部分用户的请求都被导向了较弱的模型。这让期待新功能的用户感到非常失望。

而 4o 模型的下架，则激起了更大的风波。4o 以其善于迎合、讨好用户的风格，获得了大量用户的喜爱，甚至情感寄托。

移除 4o 的决定在 Reddit 上激起了用户的强烈反对。最终，OpenAI 的 CEO Sam Altman 不得不做出妥协，宣布暂时在付费版中保留 4o。

一家顶尖的 AI 公司，竟无法顺利下架一个相对落后的模型。这不禁让人怀疑，当未来更强大的 AI 出现问题时，他们是否真的有能力和决心将其停用。

指数级扩张的 AI 边界

今年三月，AI 能力评测机构 METR 发布了一项至关重要的研究发现。

过去六年，AI 的时间范围一直在指数级增长，大约每 7 个月就翻一倍。

所谓 AI 的时间范围，指的是 AI 能够处理的任务的复杂度长度。这个长度，是用一个熟练的人类完成同样任务所需的时间来衡量的。

例如，一个 AI 拥有 2 小时、50% 成功率的时间范围，意味着它有五成把握，能独立完成熟练人类需要 2 小时才能完成的任务。

这里必须强调，时间长度衡量的标准是人类，而不是 AI。尽管 AI 执行任务的速度远超人类，但随着任务复杂度和所需时间的增加，AI 的表现会急剧下降。

METR 对 GPT-5 的最新评测显示，它的能力增长完全符合这条陡峭的指数曲线。

具体数据显示，GPT-5 能以 50% 的成功率，完成熟练人类需要 2 小时 15 分钟才能搞定的编码任务。

研究人员还指出，自去年九月 o1-preview 模型发布以来，这个倍增周期似乎已缩短至 4 个月。

这意味着，如果趋势不变，4 个月后，AI 的时间范围将不是 2 小时，而是 4 小时；再过 4 个月，是 8 小时；然后是 16 小时，以此类推。

AI 编码能力越来越强，这到底意味着什么？

METR 使用的编码任务，与人工智能的研发工作本身高度相关。例如，任务集 RE-Bench 就包含了优化算法内核、微调 GPT-2 模型等 AI 工程师的日常工作。

AI 工程和编码，是驱动 AI 发展的核心环节之一。当 AI 开始擅长这些任务时，整个领域的迭代速度可能会急剧加快。

在顶尖专家 Daniel Kokotajlo 等人发布的 AI 2027 情景预测中，描述了一个关键的转折点：超人程序员的诞生。

超人程序员，是指能胜任顶尖 AI 工程师所有编码工作的 AI，且速度更快、成本更低。AI 时间范围的增长速度，直接决定了我们离这一天还有多远。

报告估计，一旦拥有超人程序员，顶尖 AI 公司的研究速度将提升 5 倍。

这不仅因为编码和实验效率的飞跃，还因为这些 AI 可能也具备了人类研究员的“研究品味”和判断力。

5 倍的研发加速，将把通往下一个里程碑，即“超人 AI 研究员”的时间，从数年压缩到短短几个月。从那里开始，一切都将无限加速，最终触发智能爆炸。

总而言之，GPT-5 的表现确认了一个严峻的事实：AI 在核心研发领域的进步仍在高速进行。

指数级增长的威力，凭直觉是极难把握的。今天看似微不足道的变化，在极短的时间内就可能演变成颠覆性的力量。

国际信息学奥林匹克竞赛

本周，OpenAI 宣布其 AI 模型在国际信息学奥林匹克竞赛中，斩获金牌。

这是全球为高中生举办的、最具声望的顶级编程赛事。

就在几周前，OpenAI 和谷歌 DeepMind 也在同等级的国际数学奥林匹克竞赛中，取得了相似的突破。

去年，OpenAI 为这项比赛专门构建的系统，成绩仅为中游。而今年，他们仅用一个通用的 AI 集成系统，就在三百多名顶尖选手中名列第六。

这一系列成就，为 AI 能力正在全方位飞速发展，增添了又一个强有力的证据。