【区角快讯】当大模型从概念走向产业深水区,AI Agent正逐渐取代单一对话,成为业务落地的核心引擎。在此背景下,海光信息于8月27日正式抛出“Agent to Token开放计算架构”,试图通过CPU与DCU的双芯联动,为日益膨胀的词元(Token)经济构建一套从底层芯片到上层应用的完整算力框架。
值得注意的是,词元已不再仅仅是文本单位,而是连接业务需求、算力消耗与服务产出的关键计量载体。其生成效率与成本控制,直接决定了Agent在真实场景中的渗透深度。海光的这套新架构,巧妙地将Agent调度与词元生成纳入同一体系:CPU扮演系统枢纽,负责数据预处理、任务编排、记忆体分级及向量检索;DCU则专攻并行计算,处理批量解码、KV缓存优化及长序列支撑。这种动态资源调配机制,旨在将算力精准转化为实际生产力。
该架构的开放性体现在四个维度:算力上支持双芯原生组合,互连上依靠自研HSL协议突破带宽瓶颈,安全上依托芯片级内生信任,软件栈则适配百余种AI框架以降低门槛。这不仅是海光对国产算力体系的升级,更是推动不同加速卡在统一标准下协同作业的关键一步,标志着国产芯片在应对复杂AI工作负载时,正从单点突破迈向系统化整合。
海光首发Agent to Token架构,双芯协同重塑词元经济算力底座
科技区角
2026-08-28 12:01
关于科技区角:国内科技展会垂直内容策划服务商,提供从论坛内容全案策划、会展市场化IP打造到精准专业观众一站式邀约服务,以产业内容吸引高质量B端人群,打通展会从议题设计、演讲嘉宾邀约、宣传预热、精准邀观到供需对接全链路。
声明:内容取材于网络,仅代表作者观点,如有内容违规问题,请联系处理。