IBM与AI初创企业Together AI于周二（8月11日）宣布，双方已签署一项总额达2.4亿美元的多年期协议，将在IBM Cloud上建设大规模人工智能（AI）集群，并采用英伟达（NVIDIA）系统，为开源AI模型提供推理服务。
随着企业寻求降低AI成本，同时也开始关注Anthropic、OpenAI与Meta等厂商模型近期涉及的网络安全事件，开源AI模型的采纳度持续提升。
所谓的推理，是指运行已训练完成的AI模型以生成响应的过程，目前已成为算力需求增长的主要驱动力之一，也促使云服务提供商与芯片厂商投入数十亿美元，持续扩大AI基础设施。
这座部署于IBM Cloud上的AI计算集群将采用英伟达HGX B300系统。该系统整合了英伟达新一代Blackwell处理器，并搭配英伟达Spectrum-X以太网网络设备。英伟达曾表示，Blackwell芯片针对AI推理工作负载进行了深度优化。
Together AI首席营收官（CRO）Kai Mak在接受路透社采访时表示，初期集群将配置约2000块英伟达Blackwell 300芯片，并部署在美国。
Mak预计，在正式上线前至少2至3个月，这些算力资源就会被预订一空。这套系统在正式投入服务前，就会收到全部订单。
Together AI总部位于旧金山，主要提供AI平台，让企业能以低于封闭式AI系统的成本，训练及运行DeepSeek、MiniMax与Kimi等模型的AI工作负载。Together AI今年7月完成新一轮融资后，最新估值已达83亿美元。（文章来源：科技新报）
全球半导体观察
往期推荐
媒体矩阵
微博
今日头条
知乎
雪球
搜狐
抖音
视频号
哔哩哔哩
... ...
关于集邦咨询
TrendForce集邦咨询作为全球高科技产业研究机构，致力于洞察AI全链脉络，助力企业战略决策。研究版图聚焦AI产业增长引擎，涵盖：HBM、DRAM、NAND Flash等关键存储产品；GPU、ASIC等AI算力芯片；晶圆代工、芯片设计及封测；以及AI服务器、显示面板、LED、AR/VR等基础设施与终端，延伸至自动驾驶、具身智能、光伏储能、低空经济等“AI+”垂直产业集群，同时提供核心零部件价格预测与数据库。凭借多年深耕，为政企客户与投资者提供行业研究报告、企业战略咨询及品牌整合行销等服务。
