NVIDIA 初创加速计划会员企业听微是一家专注“数字员工”方向的 AI 产品公司，旗下产品 createrole 可为企业搭建可用的数字员工队伍。这里的“数字员工”不是聊天机器人，每个数字人有独立身份和长期记忆，并配备一台自己的沙盒电脑，能跑命令、写文件、交付产物；遇到待办事项到点会自动醒来干活，可以充当秘书角色，统一为团队分派任务。
一些数据敏感型客户的需求与约束天然存在张力。一边是最新的大模型能力，一边是“数据不出科室”的硬要求：不能调用云端 API，不能把材料传到任何外部服务，部分场景在验收后还要求物理断网。传统私有化交付难以支撑这一场景：客户机房排期、服务器上架、专线接入，周期按月计算；不少核心科室甚至没有机房使用权限，AI 项目往往卡在基础设施这一环。
对产品本身而言，挑战则更具体：
数字员工的干活质量取决于模型：本地需要运行参数量够大、上下文够长的模型，对端侧设备的内存、算力和多模态能力都是硬门槛；
负载不只是推理：沙盒里的任务执行、每天夜间的记忆固化与人格演化批处理、技能考试与补习，全部要在本地闭环；
Agent 场景对推理服务的要求比聊天苛刻得多：一个回合内模型要被采样十几轮，每轮携带全部历史，KV Cache 命中率和解码速度直接决定任务耗时，开源模型工具调用的可靠性也参差不齐，需要由工程层兜底。
听微选择了让大模型与完整应用一起落到桌面。依托两台 NVIDIA DGX Spark，听微通过 NVIDIA ConnectX-7 网卡直连和 NCCL 通信协同运行。每台设备配备 128GB 统一内存，GB10 Grace Blackwell 超级芯片为本地模型推理提供计算基础。听微在这一桌面集群上整合模型服务与应用全栈，将部署、运行和维护集中在客户可直接掌控的环境中。
借助 NVIDIA DGX Spark，createrole 为不能上云的客户实现了“当天开箱、拔线可用”的私有化交付。过去“上 AI 项目”意味着立项、机房、专线和数月排期，现在一个科室的数字员工编制仅由桌上叠放的两台设备构成，当天部署、验收断网。“数据不出门”这条底线和“用上最新 AI”不再冲突。
听微创始人兼 CEO 朱朝华表示：“不能上云的组织不是 AI 的边缘客户，反而是需求最实的那批人。NVIDIA DGX Spark 把数据中心级算力放到了桌面，我们把完整的数字员工体系装了进去——两台设备就是一个科室的 AI 编制。这件事以前做不到，现在是我们的标准交付。”
以上为摘要内容，点击“阅读原文”或扫描下方二维码阅读完整内容：
