AI Agent的工作方式,正在改变企业对数据的消耗模式。过去两年,大模型应用以单轮问答为主,用户提出问题,模型给出一次回答。如今,Agent的工作方式开始转向多步骤循环,一次复杂任务可能触发数百次数据访问,多个Agent并发运行时,数据处理需求会出现数量级增长。“Agent会反复试,先推理、分解任务,再调数据库和工具,检查结果是否正确,发现不对就修改。”孙元浩告诉智东西,“这种计算方式的变化,对底层架构产生了很深的影响。”问题首先出在CPU的并行度和内存带宽上。单颗CPU通常只有百级通用核心,内存带宽约为400GB/s;GPU拥有万级并行计算单元,显存带宽可达数TB/s。面对大规模扫描、复杂聚合、向量检索和图计算,双方的硬件能力已经拉开明显差距。更棘手的是,数据搬运进一步拉长了整条链路。模型推理通常运行在GPU侧,数据库查询和知识检索仍在CPU侧。数据需要在CPU内存与GPU显存之间反复搬运,存储墙的存在使得数据传输慢,延迟高,调用次数越多,等待时间就越容易被放大。“用户把任务交给AI,它要像去图书馆一样查资料,资料太多、处理太慢,最后出的结果就慢。”孙元浩告诉智东西,“它就是在干等,等着数据处理完。”这种等待直接侵蚀昂贵算力的利用率。“数据处理一慢,GPU就闲置了,GPU利用率可能降到百分之三四十。”孙元浩说。模型本身仍有未发挥的能力,整条推理链路却被数据查询、解析、检索和传输卡住。何解?继续堆CPU节点很难从根本上解决问题。CPU数量增加后,企业还要同步扩容内存、交换机、电力和散热系统,系统间通信也会带来新的开销。“功耗会增加,耗电和散热都会增加,还要买更多交换机把机器连起来,总成本增长得更快。”孙元浩告诉智东西。因此,Agent时代的数据瓶颈也很难被简化为存储容量问题。模型权重、KV Cache和上下文需要更快的显存、内存与存储介质,数据准备、关联分析和知识检索又需要更强的计算核心。它是计算、带宽、存储和数据组织方式共同形成的系统性瓶颈。“数据处理是一个综合问题,需要高速存储、更大容量的内存和显存,也需要更强劲的计算核心。”孙元浩说,“CPU已经跟不上,就要用GPU来算。” 02.把数据库“户口”迁到GPU上AI Agent推理不再干等
正是这种认知,驱动星环科技做出了一个在外界看来颇为激进的决策:将数据库的计算链路迁移到GPU体系内。相比于市面上已有的“GPU加速数据库”,星环科技强调的“GPU原生数据库”的本质差异在哪?孙元浩做了一个形象的比喻:“如果只是部分数据库功能放到GPU上面的话,那就会导致部分我是坐飞机然后再步行走一段,再坐飞机再步行走一段。所以说就整个数据分析的时间就会被明显拖慢。”星环要做的是把存储层、计算层、编译层和执行引擎全部围绕GPU重写,让SQL分析、向量检索、图计算等操作尽可能留在同一套GPU计算和显存体系内完成。技术层面,星环科技实现了GIDS(GPU-Initiated Direct Storage),由GPU直接发起存储访问,完全绕过CPU和主机内存,实现真正意义上的GPU直连存储。 这种架构带来了三个价值:消除CPU瓶颈、降低数据传输延迟和最大化GPU利用率。只有全流程加速,GPU较高的硬件投入才可能转化为经济性。如果GPU仅将查询速度提高一两倍,其较高的硬件价格很难被摊薄;当性能提升达到数十倍甚至上百倍,企业完成相同任务所需的机器数量和运行时间都会明显下降,单位任务成本才可能出现拐点。根据星环科技提供的测试结果,在TPC-DS SF1000基准测试中,该数据库完成完整99项查询测试,相较主流开源数据库DuckDB获得了70倍加速。在与全球头部云数据仓库的对比中,其性能更是展现出了代际优势。孙元浩告诉智东西,当性能提升达到几十倍甚至上百倍时,即使GPU成本高于CPU,经济性拐点也已经到来。“Agent时代,数据库有两个大的变化。”孙元浩告诉智东西,“一个是数据处理速度要跟上GPU,另一个就是是要理解语义。”在星环科技的GPU原生架构中,数据库不再仅仅是存储和查询数据的容器。它进化成了一个能够理解语义、管理长期记忆、并主动为Agent供给上下文的认知基础设施。孙元浩认为,AI Agent需要的不是一堆数据的简单堆砌,而是完整、可信且可持续调用的业务上下文。他告诉智东西,在AI时代,数据库必须变成AI的“真相所在”:“数据是真相所在。模型给的是概率答案,数据库给的是精准答案。”为了支持这一点,数据库需要统一承载关系型、向量、图、全文和文档等多模型数据,并将数据分析、知识检索、上下文供给和记忆管理融合在同一底座中,以减少多个数据库拼接产生的数据复制和系统割裂。 03.全球首个完整GPU原生数据库为什么是星环先做到?
AI Agent进入业务深处后,模型、工具与数据之间的调用频率持续上升。企业能否让Agent快速获得可信数据、精准上下文和连续记忆,开始决定AI应用的响应速度、准确率和单位成本。GPU原生认知数据库仍处于产业化早期,测试成绩还需要更多生产系统长期验证,国产算力适配、超大规模数据管理和生态兼容也将持续推进。但方向已经清晰,Agent正在重写数据底座,数据库的计算架构与能力边界都要随之变化。当GPU从模型推理的专属算力,进一步进入数据分析、知识检索和记忆管理,数据库也迎来了自己的“GPU时刻”。