新智元报道
新智元报道
【新智元导读】我们需要「AI母亲」，而非「AI助手」！在Ai4 2025大会上，「AI教父」再次表达了他对AI安全的担忧。他警告说人类要继续控制AI是虚幻的希望，并提出与之相反的有趣视角：为AI建立「母性本能」。
人类需要一个「AI母亲」吗？
在Ai4 2025大会上，Hinton警告说：AGI时代的到来可能只需要几年，留给人类做好准备的时间已经不多了，试图维持人类对AI的控制终将是徒劳。
在人类与AI的控制权之争上，Hinton并没有提到人类要如何防止自己被AI超越；相反，这位「AI教父」却抛出了一个有趣的视角：在AI中建立「母性本能」，让它可以真正「关心人类」。
人类唯一的机会，就是将AI塑造成关心我们的存在，这也是处理二者关系「唯一的好结局」。
Geoffrey Hinton在Ai4 2025大会上的对话
「我以前说是三十到五十年。现在，可能是二十年以上，也可能只有几年。」
在科技圈，很多人将人类与AI的未来视为一场控制权之争：人类必须保持主导地位，但Hinton认为这是一种虚幻的希望。
Hinton认为AI将很快演化出两个子目标：
其一：维持自身存续——如果你无法存活，就无法实现任何其他目标；
其二：获得更多控制权——如果你能获得更多控制权，就能完成更多事情。
因此，Hinton眼中的AI，并非一些小的升级，而是远超过任何活着的人类的系统。
「它们将比我们聪明得多」，Hinton相信AI将在5到20年内超越人类智能，这一刻一旦来临，人类将无法控制住AI。
他说，「想象一下你在一个由三岁小孩组成的操场上担任负责人，如果他们比你聪明，想要绕开你其实并不难。」
Hinton表示，人们一直以来都错误地看待了「人类 vs AI」这一命题。
「人们总是在说……我们必须牢牢控制住这些AI。我们必须比它们更强大。我们必须占据主导，而它们必须顺从。」
但这根本行不通。
「AI将会比我们聪明得多，并且会想出各种各样的方法来绕开这种限制。」
因此，我们需要重新定义这个问题。
我们不需要让自己变得更强，或者维持控制。
而是当AI变得比我们更强大、更聪明时，我们要做的是让它们依然在乎我们。
换句话说，「我们需要的是AI母亲。」
Hinton解释说，母亲拥有各种与生俱来的本能、激素和社会压力，驱使她们真切地关爱自己的孩子。
因此，「我们需要将母性本能植入AI，让它们能够真正地关心人类」，Hinton说。
这些充满爱心的人工智能母亲，大多数都不想摆脱母性本能，因为它们不想让我们死去。
Hinton甚至还警告说，让AI「抚养」人类，是唯一安全的未来。
他相信这是唯一能促成真正国际合作的领域，因为所有国家都想阻止AI取代人类。
「从某种意义上说，AI终将接管一切，因为它会比我们更强大、更聪明。」
Hinton说，我们唯一的机会，就是将AI塑造成关心我们的存在。
让AI来「抚养」人类，这是唯一好的结局。如果「它不来抚养我，它就会取代我。」
不仅提出设想，Hinton还对如何创造出「AI母亲」提出了技术构想。
Hinton坦言，目前自己并不知道这个问题的答案，因为这需要大量的研究，但他也为此指出了方向：
研究的重点，不是关于如何让AI更聪明，而是如何让它们更具母性，从而能像关心自己的孩子一样关心我们。
2023年，时任谷歌首席AI科学家的Hinton从谷歌辞职，这样他就可以自由地提醒人们警惕AI的风险，而不必顾虑对谷歌的影响。
在今年的Ai4大会上，当被问及对AI发展过快问题的担忧时，Hinton表示，他后悔只专注于让人工智能发挥作用。
如果知道人工智能的发展速度如此之快，他希望自己能够更早地考虑AI的安全问题。
然而，并非所有人都同意Hinton有关「AI母亲」的看法。
被称作「AI教母」的李飞飞，在周三Ai4的一次炉边谈话时，曾表示：她尊重并反对她的老朋友Hinton的观点。
李飞飞呼吁打造「以人为本的人工智能，维护人类尊严与自主权」。
她认为，在每一个层面，我们都有责任以最负责任的方式创造和使用技术。在任何时刻，没有一个人应该被要求，或者主动选择放弃我们的人类尊严。
「从一名母亲、教育者和发明者出发，我认为，（AI）仅仅是作为一个工具很强大，这才是人类应该如何构建人工智能的核心。」
与李飞飞不同的是，Hinton的观点，得到了OpenAI前临时CEO、Twitch联合创始人Emmett Shear的赞同。
Shear还指出与其试图将人类价值观灌输到人工智能系统中，更明智的方法，是建立人类与人工智能之间的合作关系。
他说，「在最基本的层面上，我们需要AI能够关心我们，而不只是遵循我们的价值观。它必须在乎我们，我们也必须在乎它。」
要实现这一点，Shear认为AI需要发展出一种「自我意识」。
因为如果你不是一个独立的「我」，你就不可能成为「我们」的一员。
这正是Shear和他的MetaGrid项目所致力探索的方向。
MetaGrid项目是一个多智能体网格世界环境，在这个环境中，AI可以在其中反复体验各种挑战，并获得相互竞争或合作的机会。
Shear表示，MetaGrid项目的目标是让AI随着时间的推移，逐渐发展出自我意识，认识到成为团队一员的意义。
在日益强大的AI面前，我们需要一个「AI母亲」吗？
Hinton和李飞飞的观点，你更支持哪一个？欢迎在评论区说出你的看法。
https://www.forbes.com/sites/ronschmelzer/2025/08/12/geoff-hinton-warns-humanitys-future-may-depend-on-ai-motherly-instincts/%20%20
https://www.vktr.com/ai-ethics-law-risk/mother-ai-could-be-humanitys-last-hope-says-godfather-of-ai/%20%20
