光芯片计算商用，最新进展！

得益于Q.ANT GmbH本周发布的全新软件开发工具包（SDK）及其相关API，程序员现在可以使用Python和C/C++为光子计算机创建软件。Q.ANT创始人兼首席执行官Michael Förtsch告诉HPCwire，该SDK展示了将光子计算集成到现有高性能计算（HPC）技术栈中所取得的进展，并为未来在光子系统上运行更强大的非线性算法铺平了道路。

Q. ANT是全球领先的光子计算供应商之一，其光子计算技术利用光子（即光束）而非电子元件（即电流）来处理数据。这家总部位于德国斯图加特的公司目前正在出货第二代光子芯片，称为原生处理单元（NPU），并将其嵌入PCIe卡中，作为名为原生处理服务器（NPS）的完整服务器进行销售。

尽管该领域仍处于起步阶段，但Förtsch表示，Q.ANT是唯一一家拥有实际商用产品并已投入实际应用的光子计算供应商。这家成立八年的公司研发的计算机目前正在德国的两个超级计算中心进行测试，分别是于利希超级计算中心（JSC）和莱布尼茨超级计算中心（LRZ）。

Förtsch认为，在不久的将来，NPU不会取代CPU或GPU。他表示，基于互补金属氧化物半导体（CMOS）技术的传统处理器在运行许多线性算法的核心——向量矩阵乘法方面表现出色。

“我们并不直接与GPU和CPU竞争，”Förtsch说道。“我们把那些系统已经优化过的工作负载留给它们去处理。这很好。我们不必包揽一切，对吧？”

Förtsch 表示，NPU 将开始与 GPU 和 CPU 竞争的地方在于非线性算法，因为基于 CMOS 的技术的复杂性增加（尤其是涉及的大量数据传输）开始引入显著的开销，因此有必要考虑其他方法。

光子计算机能够原生运行非线性算法，这赋予了它显著的优势。据Q.ANT称，对于同等功能，这种优势可节省高达30倍的功耗。关键在于将光子计算机与合适的功能相匹配。光子计算机擅长的非线性算法之一就是压缩。

“如果我们现在考虑使用非线性函数进行压缩，这或许能为延长Transformer算法的聊天窗口接触时间打开一扇门，”Förtsch说道。“你只需要一个处理器，它能够高效地在解密缓存和加密缓存之间切换，而不会显著降低上下文窗口的质量，并且几乎可以零成本地执行这些操作。”

Förtsch表示，Q.ANT项目正在开发或在社区内流传着许多关于非线性算法的新思路。正因如此，将开源SDK引入社区才显得意义重大。

今天发布的SDK为开发者提供了通过Python和C/C++ API访问Q.ANT系统的途径。开发者只需调用光子资源（无论是在笔记本电脑上模拟运行，还是在云端运行的实际Q.ANT系统上运行），即可开始进行光子计算实验。

“人们会问，‘嘿，我可以开始建模吗？我可以开始试用你们的新功能吗？’”Förtsch说道。“这就是为什么对我们来说，SDK是通往开源社区的最后一公里。”

除了开发环境之外，SDK 还包含文档和安装指南，帮助开发者快速上手。它还包含示例代码和参考应用程序，帮助初涉光子计算领域的开发者快速启动代码创建过程。

目前，Q.ANT SDK 支持余弦运算、逐元素乘法、矩阵乘法、卷积以及其他 AI 操作，例如批归一化和 ReLU 激活函数。未来，Q.ANT 还将在 SDK 中支持更多功能，包括线性函数、正弦函数、傅里叶变换和基于状态的模型。

支持新兴的非线性人工智能工作负载是 Q.ANT 目前的工作重点。Förtsch 表示，一些新兴的人工智能实验室正在投入资源探索其他非线性模型，并且他们密切关注着 Q.ANT。“他们非常关注我们目前的工作，”他说。他们感兴趣的是“我们可以提供哪些基本功能”。

Förtsch 表示，虽然 Q.ANT 的重点是人工智能，但它也有潜力用于传统的 HPC 工作负载，例如建模和仿真。

“我们认为，物理模拟是运用这项技术的绝佳领域，”他说道。“如何模拟物理现象，或者说如何模拟自然？其实，你需要运用物理学原理，而支撑这些原理的模型通常是谐振子。谐振子顾名思义，就是由正弦激励驱动的振荡器……这正是这些处理器的优势所在。”

但需要注意的是，Q.ANT 的芯片目前不支持 FP64 精度。Förtsch 表示，现有硬件支持 FP16，最终将支持 FP32。他还补充道，当然，通过 Ozaki 方案，可以通过仿真实现更高精度的计算。

“这些处理器之所以能与所有人工智能相关的应用完美配合，是因为人工智能模型会返回一个概率值，而这个概率值永远不会是100%。”他说道，“一旦概率值达到99%，你就可以接受16位浮点精度，因为此时模型精度低于处理器精度，不会对结果产生负面影响，因此速度更快。”

Förtsch表示，目前第二代NPU支持正弦、余弦以及任何基于正弦和余弦的函数。“你可以将这些函数作为基本单元集成到芯片上。”

随着新的 SDK 作为开源软件发布，以及光子硬件在云端运行，Q.ANT 现在希望开发者社区能够开始探索如何利用光子计算的优势，尤其是在非线性算法方面。

（来源：编译自hpcwired）