一款芯片带来的启示

蜜蜂的榜样很难被超越。

它能在混乱的环境中穿梭，识别模式，对移动物体做出即时反应，并在飞行过程中做出决策——所有这些都只需极低的能耗。相比之下，如今的无人机仍然是相当笨重的机器：它们当然功能强大，但与它们试图模仿的微小生物系统相比，它们的智能和效率却相形见绌。

对于imec位于霍尔斯特中心的硬件与高效人工智能研发设计工程师保罗·德特勒来说，这种对比不仅仅是一个优美的比喻，更是未来计算的设计纲要。

随着传统芯片尺寸缩小技术接近极限，未来的性能提升不能仅仅依靠缩小晶体管尺寸或提高处理器速度。能源和带宽正面临越来越大的压力：需要传输多少数据，传输频率如何，以及在内存和处理单元之间来回传输信息会消耗多少电力。

而生物学则提供了一种不同的模型。

生物神经元并不持续交换海量数据流。它们通过稀疏的、事件驱动的信号——脉冲——进行通信，并在实际发生某些事情时做出反应。记忆是分布式的，而不是集中在一个独立的模块中。而且，没有一个中央时钟来同步所有动作。然而，尽管生物神经元中的信号传递速度远慢于硅芯片中的信号，该系统仍然保持着惊人的响应速度。

“这似乎是事件驱动的，”德特勒说。“只有当外部发生某些事情时，系统才会做出反应。”

这一原则在边缘计算领域尤为重要：例如可穿戴设备、智能相机、机器人、无人机和自动驾驶汽车。这些系统不能总是将数据发送到远端数据中心，等待响应后再采取行动。它们需要在本地实时处理信息，并且功耗也要受到限制。

imec多年来一直致力于通过神经形态计算探索这一领域：这种硬件的设计灵感来源于生物神经系统的运作方式。研究从算法和模型入手，一直延伸到芯片架构和硅片实现。

该团队已经完成了多个芯片的流片，其中包括最近刚从晶圆厂返回并正在进行测试的第二代芯片。早期的器件与脉冲神经网络的设计非常相似，在脉冲神经网络中，人工神经元通过离散事件而非连续信号进行通信。

这带来了令人印象深刻的效率。但德特勒也承认，在尖端技术开发中存在一个常见的问题：技术上精妙的解决方案并不一定具有广泛的实用性。

第一代芯片效率很高，但应用范围有限。因此，下一步并非放弃神经形态原理，而是将其与更通用的AI形式相结合。

最终形成了一种异构架构：芯片的某些部分足够灵活，可以运行不同的算法和模型，而其他部分则更加专业化，并针对效率进行了硬编码。这是在人工智能硬件领域寻求解决一个关键权衡问题的尝试。

灵活性需要消耗资源，而效率也可能牺牲灵活性。真正的挑战不在于二选一，而在于如何权衡二者。

在关于内存计算的争论中，这种权衡取舍变得更加尖锐。在传统的计算系统中，数据频繁地在内存和处理器之间移动。这种移动会消耗能量并造成延迟。内存计算有望通过在更靠近内存（或内存内部）的地方执行计算来减少这种开销。

但这里有个问题。Detterer 表示，imec 多年前就已探索过内存计算。当时的技术效率很高，但却是围绕特定应用设计的，难以重新利用。因此，团队转而研究近内存计算：这种技术比传统架构效率更高，而且更灵活、更具可扩展性。

现在问题又摆在了眼前：计算应该在内存中发展到什么程度？专业化在哪些方面能创造真正的优势，又在哪些方面会成为一种制约？

“这就是我们试图找到的平衡，”德特勒说：在近内存计算和内存计算之间，在低功耗和高性能之间，以及在针对单一任务优化的芯片和能够随着人工智能应用的发展而发展的平台之间。

这个问题的影响远远超出单个处理器本身。人工智能的需求正在加速增长，但业界无法承受算法、模型、软件和硬件逐层设计的开发周期，每一层都需等待前一层完成。

德特勒将传统路径描述为一个漫长的过程：从算法到人工智能模型，从训练到软件映射，从硬件设计到最终应用。他认为，未来需要这些层面以更加并行的方式进行开发。

这使得协同设计至关重要。硬件工程师需要了解哪些模型将在他们的芯片上运行。算法设计人员需要知道硬件方面有哪些权衡取舍。而人工智能本身也可能越来越多地帮助探索设计方案的早期阶段，从而缩短从最初概念到最终芯片的开发路径。

德特勒的演讲不仅仅是关于一款新芯片，而是关于人工智能领域对进步定义方式的更深层次的转变。

多年来，进步意味着更多的计算、更大的模型和更大的规模。下一阶段将需要一个更难的问题：真正需要哪些计算？这些计算应该在哪里进行？以及如何在不使能源消耗成为限制因素的情况下实现这些计算？