出品｜搜狐科技
作者｜李保铭
10月22日，科大讯飞全球1024全球开发者节在北京举办，科大讯飞董事长刘庆峰与媒体进行了一场对话。
刘庆峰对AI时代的社会治理表达了自己的担忧。他认为，AI时代带来了整个社会的变革，一方面，人们开始担心模型失控；另一方面，人们担心AI是否具备自我意识。
刘庆峰认为，人工智能快速提效后，社会保障体系是更值得关注的话题。
他预测，未来5-10年，“现在我们所需要的所有的生产和生活资料，可能真的只需要10%到20%的人干就行了”。
这将在客观上带来一次劳动力的分流和新价值创造的重塑。但是当10%的人就可以创造比过去多好几倍的财富时，剩余90%的人需要做什么？
以下是刘庆峰与媒体的对话节选，经编辑
媒体：近期，从科学家到硅谷的CEO、一线研究人员，都在密集发布AI治理的预警。您怎么看待AI技术革新带来的风险治理问题？我们在AI转型的过程中应该怎么最大化收益，最小化风险？
刘庆峰：AI 治理还是要做持续研究的课题，因为AI现在确实变化太快，大家看到的最近700 多个数学问题（被AI攻克），之前应该大家没有预判会这么快。
过去一年中的模型训练方法并没有大的突破，但是规模变大，数据更多，高质量数据也越来越多，在哪个领域高质量数据多，它在哪个领域表现就好，是大力出奇迹。
在这个过程中，它会带来整个社会的变革，这是具备颠覆性的技术革命和产业革命。
这个时候社会治理需要同步跟上。
第一是担心模型失控，比如把一个超强的模型放出去，又没有应用场景的限制，被拿来做黑客攻击、窃取银行商业机密、攻破银行去转账，会出现很多问题。
客观来说，现在模型在找bug、修复bug，在攻破各种各样的系统中的能力是超强的，这方面要有一些社会治理必须要跟上，防止出现重大的社会体系管理和运行中的一些风险。
第二是大家现在担心的AI是不是具备自我意识、是不是彻底失控、自己改代码。
从现在来看，其实还不具备，那些自己改代码的AI，其实是人给它指令，是在特定环境中，实际上是被人定义出来的。
目前还没有真正自我意识的算法支撑。但是，不好说它将来会不会出现，或者人们把这种“大力出奇迹”的方法滥用以后，是否会出现了所谓的自我意识。
因为现在是可以做情感计算，可以让机器人模拟像真人一样，但它并不是具备自我意识，而是学出来，是完成特定领域任务。今天模型的天花板确实还有不确定性，但是大概率从现在的方法中具备自我意识并不完全是这样。
现在最要关注的社会治理，是今天人工智能快速的多岗位提效之后，这个社会的保障体系。很多岗位被替代，或者不再需要更多的岗位，也有很多原来高端的工作岗位，具备多年的专业知识积累被快速替代掉了。
整个社会，首先要有社会兜底保障体系，这其实是我自己在今年两会的“一号建议”，没有兜底保障线，很多人真没饭吃，社会就会出问题。
第二是要重新定义社会的管理逻辑，比如说除了社保之外，人们是不是5天工作日变成3天，8小时变成4小时，让大家都有工作，都有成就感来源。
第三是不是能够真的快速定义出工作的社会价值和新的工作类型。实际上这是可以变动的，假定说每个人每天健身都可以拿工资，每个人每天都唱歌，唱的好就可以拿钱等等。
今天为什么社会压力大？从人工智能的进展，尤其软硬件化的发展，未来几年之内，我估计也许5年，最多10年，现在我们所需要的所有的生产和生活资料，可能真的只需要10%到20%的人干就行了，剩下的不需要干了，这客观上就面临着一次劳动力的分流和新价值创造的重塑，这件事情比模型具备自我意识、未来会不会出现失控更迫切。
所以，我今天说这是“一场凝心聚力的长跑”，前面是关于在自主可控的基座平台上，我们要有信念，要勇于持续的探索，然后要相信一定从追赶到追平到超越，会有时间周期。
同时是凝心聚力，就一定是基于人工智能建设美好世界，比如教育，绝不仅仅是帮学生刷高分、做题，一定是帮助批改、指出短板、提高学习兴趣、自信心，同时能提高综合素养和幸福能力，否则就没意思，一定要有理念支撑。
所以整个社会伦理和人文的牵引还是非常关键的事。所以我觉得今天面对未来5到10年整个社会在这一场工业革命中的重塑，实际上是现在最需要关注的问题。
媒体：Anthropic联合创始人Jack Clark认为AI奇点已经到来，如果AI在2030年前全面接管知识型工作，美国GDP将被推上44万亿美元，你怎么看？
刘庆峰：要看这个“奇点”怎么定义。如果奇点的定义是解决了费尔兹奖的数学问题，下一个可能又会颠覆物理，这个是有可能的。但是如果是把奇点定义成具备自我意识、完全失控，今天的失控很可能是“大力出奇迹”，即模型变大、训练数更多的时候，人们使用的失控。
但是刚才提到的失控，是将来是不是变成真正硅基生命的自我意识的失控，这件事情我觉得现在看起来还不用太大担心。
至于产生GDP，我相信一定会的，因为它的生产效率极大的提升，组织提效，一定是创造出极大的社会财富。但是这个时候怎么确保10%的人就可以创造比过去多好几倍的财富，那（剩余）90%的人干嘛呢？就需要整个社会治理，用人工智能建设美好世界，这个基本初心不能变。
到了这个时候，中国可能是在全世界最有可能有机会解决这个问题的，因为我们的社会治理有可能能够有机会把这事做得比别人更好。
媒体：模型迭代一直都非常激烈，需要很大的资本开支和投入，投资人特别担心行业里持续高昂资本开支带来债务攀升、风险，是否有必要进行这种担忧？
刘庆峰：算力投资，我的感觉是，对于模型的“摸高”还是需要有人去做，但在这个过程中，中国和美国比最大的优势，也许还是应该更好的发挥举国体制优势。这才是避免没必要的重复投入，避免在“摸高”上动辄花几十亿、几百亿做无效的沉没成本（的方法）。
因为现在国产算力本身也有限，所以我们定位是云端结合，云端模型我们也不会做太大，同时我们要把端侧模型做透，用云端一体化来解决大模型既安全又省 token成本的落地问题。
媒体：怎么看待和定义全栈自主可控对于这种国产 AI 的战略价值？
刘庆峰：全栈自主可控，第一是算力要用国产的，不仅用国产算力做推理，还用国产算力做训练。第二是算法一定要自己全栈掌握，而且具备在这基础上的持续创新能力。第三是数据，要具备自主的获取数据和清洗数据，甚至把数据作为一个科学能力，而不仅仅是简单去蒸馏。第四是针对场景的软硬一体化创新能力，即从底层硬件到模型的算法，再到数据、场景、软硬一体化的落地，要具备全栈能力，我觉得这才是真正的自主可控。
其中最大的一条就是真正的训练。
但是其他各家都是用 N 卡、美国的算力，虽然比我们生态更好，但如果大家都不在国产算力上做，全栈自主可控这一步永远跨不出去，我觉得这是最重要的，就是只有在国产算力上训练出模型，才是真正的出口，才真的可以对全球输出，才真的可以模型协同、共同发展，使我们将来真正摆脱卡脖子的风险，我觉得这是关键。
运营编辑 | 曹倩
