

本期聚焦
苏州亿铸智能科技有限公司的产品及其应用

/ PART 01 /
公司简介
RISC-V

苏州亿铸智能科技有限公司2022年正式运营,是一家专注于通用存算一体AI大算力芯片研发与产业化的高科技企业。企业立足人工智能和集成电路两大国家战略性新兴产业,响应多项国家战略部署,面向大模型推理、轻量训练与精调、智算中心、行业私有算力及智能体等应用需求,致力于建设安全、高效、普惠、自主可控的国产AI算力底座。
企业坚持“通用存算一体”创新技术路线,以存储为中心重构传统计算架构,从底层架构层面缓解传统芯片的“存储墙”“功耗墙”和算力利用率不足等问题,兼顾芯片通用性、软件生态兼容性与规模化扩展能力,搭建适配多模型、多精度、多场景的通用AI算力平台。公司搭建覆盖芯片架构、各类IP、指令集、软件工具链到硬件系统的全栈技术体系,推动产业链上下游协同创新,推动全产业链国产化替代,提升国内AI算力产业链供应链自主保障能力。企业目标成为通用存算一体计算领域的技术引领者和国产AI算力生态的重要建设者,降低全社会智能算力使用成本,支撑自主安全的国家算力体系构建。
/ PART 02 /
产品介绍
RISC-V
01
产品定位
通用存算一体AI大算力芯片定位为面向大模型推理及轻量训练/精调的通用AI算力产品,核心服务于云端智算中心、运营商与互联网算力平台、行业私有云、AI一体机和中小型工作站。当前以通用存算一体AI大算力芯片的产品化与系统验证为重点,通过存算一体架构提升权重和KV Cache访问效率,并以GPGPU通用计算能力、RISC-V控制能力和完整软件栈覆盖复杂算子、任务调度及系统管理。
02
产品功能
存算一体计算模块:采用全数字存算一体技术,将高频矩阵计算靠近存储侧执行,显著减少数据在多级缓存和计算单元之间的搬运;同时保留GPGPU通用计算模块,支持非矩阵算子与复杂控制逻辑。
高带宽存储与封装模块:结合Chiplet与3D DRAM技术,提升单卡存储容量、有效带宽与带宽利用率。当前方案面向最高32TB/s超大有效内存带宽,重点优化大模型权重、激活值和KV Cache读写。
RISC-V控制与扩展模块:RISC-V CPU IP主要作为高性能控制核,用于系统控制、任务调度及软硬件协同,并通过开放扩展指令为编译器和原子操作等能力提供接口;AI主计算由存算一体单元与GPGPU通用计算单元承担。平台层面支持RISC-V CPU指令集与本土GPGPU指令集等多指令集协同,并兼容x86/ARM主机环境。
高速互联与集群模块:配置PCIe、RoCE/RDMA等高速互联能力,配套自研通信库YZCCL,面向多卡、多机扩展、PD分离和KV Cache池化共享等集群场景。
软件与工具链模块:构建YICA软件栈,覆盖驱动、运行时、编译器、算子库和模型迁移工具;通过Torch、Triton与自研Auto-SOP实现算子生成、融合与自动优化,面向CUDA Compatible和PyTorch生态降低应用迁移成本。
产品核心价值可概括为“大吞吐、低功耗、通用性、生态兼容”。通过减少数据搬运、提高有效带宽和算力利用率,在相同Token产出目标下,可降低单卡数量、供电与散热压力以及整体TCO,为高并发推理和Token工厂提供更具效费比的算力底座。

/ PART 03 /
技术优势
RISC-V
亿铸的核心技术可概括为“通用存算一体”。其基本原理是将适合矩阵运算的存算一体单元与GPGPU、RISC-V控制核等通用模块进行异构融合:专用单元负责高密度矩阵计算,通用单元负责复杂算子、控制与系统任务,通过统一指令与数据流调度实现协同。相较于依赖多级缓存搬运数据的传统架构,该方案在矩阵计算路径中显著减少数据搬运次数和距离,提高带宽有效利用率。
01
全数字存算一体
采用数字电路实现计算与存储融合,兼顾高精度、可验证性、规模扩展和工程可生产性。
02
异构计算与统一ISA
将存算一体IP、通用计算IP和控制核进行深度融合,支持多类型算子和多指令集协同,避免单一专用加速器适用范围受限。
03
3D DRAM与Chiplet
通过多层DRAM堆叠和逻辑/存储垂直集成增加容量、缩短物理距离,为大参数模型和长上下文KV Cache提供高带宽存储基础。
04
软硬件协同优化
自研编译器、运行时、算子库、Auto-SOP和模型迁移工具,可针对Transformer、Attention、MoE、量化/反量化及小算子融合进行快速适配。
05
多卡互联与系统集成
以PCIe、RoCE/RDMA和通信库支撑多卡扩展,在板卡、服务器、一体机及集群层面进行软硬件联合优化。
/ PART 04 /
应用场景
RISC-V
01
核心应用领域
• 智算中心与数据中心:面向云端智算中心、全国一体化算力网节点、人工智能公共服务平台和运营商数据中心,支撑大模型分布式推理、轻量训练、精调和模型评测。
• 行业私有算力与一体机:面向政务、金融、制造、科研、医疗、教育等数据敏感行业,以服务器或多卡一体机提供本地化模型部署、知识库问答、智能分析和行业Agent能力。
• 生成式AI与Agent:面向长程任务、记忆增强推理、多智能体协作和树搜索等Memory-Bound场景,降低Attention及KV Cache检索延迟,提高并发吞吐和响应稳定性。
• 工作站与分布式部署:以PCIe板卡和小型工作站支持AI云桌面、模型开发验证、视觉/多模态应用及中小规模私有化部署,并可按业务增长扩展至服务器和集群。
02
场景适配优势
• 模型适配:面向1M长上下文、KV Cache混合精度、MoE专家模型、PD分离及多模态模型进行软硬件协同优化,可快速跟进前沿模型的新算子与融合需求。
• 精度适配:覆盖FP16、FP8等主流推理精度,并面向FP4等低精度计算持续演进,在精度、吞吐、能效和模型兼容性之间进行平衡。
• 形态适配:形成适配不同功耗、容量和部署需求的PCIe板卡形态,并可集成为工作站、服务器、一体机和高性能推理集群,适配不同机房条件、预算和交付规模。
• 生态适配:通过驱动、编译器、Torch/Triton、Auto-SOP、算子库和模型迁移工具衔接主流框架,支持从单机验证到多卡集群部署。
• 规模适配:板卡侧集成高速网络能力,结合RDMA和YZCCL支持多卡通信、KV Cache共享与集群扩展,提升Scale Up与Scale Out场景下的持续算力利用率。
03
合作市场与量产情况
公司围绕通用存算一体AI大算力芯片的研发与应用,已与中移(苏州)软件技术有限公司、中国移动江苏公司等产业伙伴开展合作,并与上海交通大学、复旦大学等高校科研机构推进联合技术攻关。
目前,公司正有序推进通用存算一体AI大算力芯片的产品化验证、软件生态适配和产业化落地。

-END-

点赞、分享、在看
↓ ↓ ↓
