Agentic AI时代，为什么CPU比你想象得更重要

迄今为止，大语言模型（LLM）为AI的飞速发展提供了强劲动力，但Agentic AI带动的下一波浪潮，则将AI的功能性推向全新的高度。这类系统不再是一次性生成简单的答案，而是具备了规划、推理、调用外部工具的能力，并能根据情况动态调整策略，从而提供更具实用价值的回答。

Agentic AI工作流正在重塑客户服务、供应链管理以及科学探索等多个领域。它们通过协调复杂的流程，并利用生成式AI的能力，实现了可扩展的自主性、卓越的运营效率以及快速的创新。

Agentic AI系统通常遵循一种通用的迭代工作流。每个系统都始于对目标的理解，随后规划出一系列执行步骤。在此过程中，包括大语言模型（LLM）和小型语言模型（SLM）在内的生成式AI模型处于核心地位，它们通过生成契合不断演变的目标的计划、决策和解决方案，为任务拆解、战略推理和动态适应提供强大动力。

这些系统共享一种核心方法：它们通过执行结果、工具输出或外部验证形成的反馈回路，持续进行迭代和优化，从而能够高效地解决复杂难题。

在智能体工作流中，绝大多数任务编排与工具调用相关的负载都运行在CPU上。具体而言，CPU负责以下核心场景：

● 信息检索与工具执行，比如网页搜索、数据库查询、各领域相关API调用；

● 流程编排与指令控制，包括智能体工作流的规划、管理及各模块之间的依赖关系处理；

● 数据处理，例如输入解析、摘要生成（如词法）、中间结果的处理。

在许多智能体工作负载中，CPU密集型操作往往占据了执行期的绝大部分，这很大程度上影响了系统的端到端延迟。换句话说，若想让智能体在检索、工具调用、逻辑编排和数据处理的整个链条中始终保持高效、流畅，强劲的CPU性能不可或缺。