Credo Technology Group Holding Ltd(简称Credo)是一家致力于通过快速、可靠和节能的系统解决方案实现大规模连接的创新企业,宣布计划在开放计算项目(OCP)社区内制定互连标准,以应对内存墙挑战。内存墙是指处理器计算速度与内存提供数据速度之间的差距,导致昂贵的计算资源闲置等待数据。在现代人工智能推理环境中,内存带宽和容量(而非计算能力)通常是制约系统性能的主要因素。
Credo 已成立 OCP 开放芯片经济 (OCE) 轻量级串行互连 (LSI) 工作组,旨在开发互连解决方案,以克服限制数据基础设施中 AI 推理可扩展性的内存瓶颈。除了成立 OCE LSI 工作组外,Credo 还计划将其 OmniConnect 轻量级 AXI 帧器规范贡献给 OCP,目标是推进 Credo 和第三方 OmniConnect 产品的开放生态系统,从而实现内存解耦和芯片间通信。
高带宽内存 (HBM) 存在成本高昂、可用性有限和密度不足等问题。轻量级、高效串行互连方案的标准化,有助于灵活构建基于芯片和模块化的 AI 系统,并降低对 HBM 的依赖。AI 系统设计人员可以灵活地构建针对不同领域和不断发展的 AI 模型、数据流和工作负载特性进行优化的特定领域架构,与 HBM4 相比,内存密度最多可提升 25 倍,带宽最多可提升 5%。此举支持整个行业向可组合基础设施转型——计算、内存和存储可以实现最佳组合——从而帮助大规模 AI 实现更高的性能、更好的资源利用率和更高的成本效益。
Credo产品副总裁Vishal Shah表示:“我们成立OCP LSI工作组,旨在满足业界对创新互连解决方案的迫切需求,这些解决方案既能解决内存墙问题,又能为人工智能系统打造新一代高带宽、低功耗模块化架构。推进轻量级封装和串行互连的开放式方法,对于实现灵活的芯片集成(包括近封装可插拔配置)至关重要,而这正是下一代人工智能推理技术的关键所在。”
“我们欢迎 Credo 在 OCP LSI 工作组中发挥领导作用,帮助定义能够加速整个生态系统创新和扩展的开放框架和标准,”OCP 开放芯片经济子项目联合负责人 Anu Ramamurthy 表示。“Credo 计划向 OCP 贡献轻量级 AXI 帧器规范,这是朝着使业界围绕 AI 互连架构达成一致迈出的重要一步,这些架构能够实现互操作性、降低复杂性并支持下一代 AI 基础设施的高性能需求。”
轻量级串行互连 (LSI) 工作组隶属于 OCP 开放芯片经济子项目,是服务器项目的一部分。有关 LSI 工作组的更多信息。
Credo 对其 OmniConnect 轻量级 AXI 帧处理器规范的 OmniConnect 贡献,是 Credo 多功能 AXI over VSR(超短距离)SerDes 总线的一部分。该总线通过外部芯片连接多个计算引擎,从而实现芯片间互连和可扩展网络。
点这里👆加关注,锁定更多原创内容
*免责声明:文章内容系作者个人观点,半导体芯闻转载仅为了传达一种不同的观点,不代表半导体芯闻对该观点赞同或支持,如果有任何异议,欢迎联系我们。
推荐阅读

喜欢我们的内容就点“在看”分享给小伙伴哦~![]()
