读创

Home

力争百万Token推理成本降至1美分:云天励飞发布未来三年大算力芯片战略

2026/02/04 09:46 读创科技 陈小慧

深圳商报•读创客户端记者 陈小慧

2月3日,云天励飞对外公布未来三年的大算力AI推理芯片战略布局,宣布将核心研发资源集中于攻克大模型落地的“成本壁垒”,致力于通过底层架构创新,力争实现百万Tokens推理成本降至1美分。

陈宁

过去一年,全球算力产业的风向标已发生显著偏转,重心正加速向推理侧倾斜。谷歌在2025年4月发布第七代TPU “Ironwood”时,明确将其定位为“面向推理时代”的基石,强调在大规模推理与能效上的系统化优化。与此同时,围绕“更低时延、更低成本”的推理芯片与系统能力,产业整合动作也在加速。2025年12月,英伟达与Groq达成非独占许可安排,并吸纳其核心工程人才团队加入,此举被视为强化推理与实时工作负载能力的关键布局。这些行业信号共同指向一个趋势:推理侧竞争已不再单纯是“把模型做得更强”的参数竞赛,而是“让应用跑得更久、更稳、更便宜”的效能竞赛,单位推理成本与交付效率已成为规模化落地的最大门槛。

云天励飞确立了GPNPU技术路线,并提出了“GPNPU=GPGPU+NPU+3D堆叠存储”的核心公式,旨在兼顾通用计算的“通用性”与NPU的“高效性”。

在通用生态层面,鉴于CUDA仍是全球最成熟、覆盖最广的加速计算平台之一,云天励飞的GPNPU架构致力于正视主流生态的迁移成本问题,能够实现一行代码完成CUDA程序兼容,极大降低了进入生产系统的门槛。

在推理能效层面,NPU能够实现更高的计算效率和能效比,面对大模型推理这种高度结构化、可被体系化优化的负载,专用化设计带来的能效优势更容易转化为真实成本优势,这也是国际厂商持续加码专用路线的重要原因。

同时,针对行业公认的“内存墙”瓶颈,云天励飞正深度研发3D堆叠存储及更前沿的互连技术,以提升带宽与能效,降低推理时延。

其次是面向推理的系统级优化能力,公司拒绝单纯的“芯片参数竞赛”,而是主张把“模型怎么跑得更省”沉淀到架构里,围绕真实业务负载持续迭代,逐项击穿推理链路中的成本与时延瓶颈,最终形成可复制交付的综合最优解。

云天励飞董事长兼CEO陈宁在演讲中指出,支撑公司跨越周期的,是长期积累构筑的商业护城河。他将核心竞争力总结为技术、产能、生态、市场、资本五大关键要素。

针对行业普遍关注的供应链安全问题,云天励飞高级副总裁、CFO兼董秘邓浩然特别强调,公司目前是国内屈指可数手握充足国产产能保障的企业之一,这一战略储备为后续芯片的大规模量产与交付提供了极高的确定性。

陈宁读了云天励飞的“1+4”架构:“1”指聚焦于AI大算力推理芯片,“4”则是四大事业部。作为生态构建者,四大事业部旨在解决芯片从“研发生产、优化打磨到市场推广”的核心难题。其中,政企事业部作为基石,将凭借深厚的行业经验,将战略重点转向推理设备和智算中心的建设。此外,云天励飞还计划打造区域级“千卡集群”,树立城市AI算力赋能的新标杆。

面向未来三年的规划,云天励飞CTO李爱军表示,将不遗余力投入大算力芯片DeepVerse的研发,围绕推理成本、时延与吞吐的核心矛盾持续迭代,并按产品节奏梯度覆盖市场需求。

Copyright©2020 Sxzm. All rights reserved.