
AMD宣布,已完成对AI芯片初创公司Taalas的收购。这家专注于专用AI推理芯片的公司,试图将AI模型的权重和数据流直接融入硅芯片设计,以减少传统AI计算中模型与硬件之间的数据传输环节。
AMD表示,Taalas的加入将进一步强化其全栈AI产品组合,并为公司长期AI推理发展路线提供新的技术支持。
随着AI推理需求不断增长,AMD认为,客户需要针对不同工作负载进行优化的计算解决方案。此次收购完成后,AMD将进一步扩展其面向AI推理的技术能力。
Taalas的技术路线与传统GPU有所不同。其采用模型专用芯片设计思路,将模型的权重及数据流直接映射到芯片晶体管中,而不是依赖传统方式在高带宽存储器与计算单元之间不断传输数据。
Taalas此前推出的首款测试芯片HC1,采用台积电6nm工艺,针对Meta的Llama 3.1 8B模型进行运行。据SiliconANGLE报道,Taalas此前披露,该芯片能够以接近每秒17,000个Token的速度运行Llama 3.1 8B,并宣称其性能达到英伟达H200的73倍,而功耗仅为后者的十分之一。上述数据为Taalas公布的结果。
这种设计也意味着芯片与模型之间的绑定程度更高。与GPU能够运行不同模型和工作负载不同,Taalas的专用芯片主要运行其设计所对应的模型。如果模型发生变化,可能需要重新设计芯片。
Taalas表示,尽管采用模型专用设计,但芯片迭代并不意味着每次都要从头开始。其芯片设计包含100多层,针对不同模型进行调整的部分约为两层,并通过内部工具将流片周期缩短至约两个月。该公司此前的HC2则瞄准约200亿参数规模的模型。
对于AMD而言,Taalas的技术将进入其加速器产品路线。AMD计划将Taalas技术与Instinct GPU结合,进一步开发系统级解决方案,并与EPYC处理器、ROCm软件以及Helios机架级系统形成配合。
AMD人工智能事业部高级副总裁Vamsi Boppana表示,AI推理正在快速发展,客户需要针对不同工作负载选择合适的计算方案。Taalas的加入,将帮助AMD进一步提供差异化的推理性能和能效表现。
此次收购还将扩大AMD在加拿大的工程研发力量。Taalas团队的加入,也将成为AMD推进AI技术创新和人才建设的一部分。
AMD并未披露此次收购的具体金额。
从此次交易来看,AMD获得的不仅是Taalas现有的专用AI芯片技术,也包括其围绕模型进行芯片设计的技术思路。至于这套技术未来能够在AMD的AI加速器体系中发挥多大作用,仍有待后续产品和系统落地。
点这里👆加关注,锁定更多原创内容
*免责声明:文章内容系作者个人观点,半导体芯闻转载仅为了传达一种不同的观点,不代表半导体芯闻对该观点赞同或支持,如果有任何异议,欢迎联系我们。
推荐阅读

喜欢我们的内容就点“在看”分享给小伙伴哦~![]()
