跳到正文
智东西· 李水青·· 2 小时前AI 评分38

千亿美元AI云市场,算力军备竞赛之后拼什么?

AI 导读

智东西报道,AI云市场竞争正从GPU采购和集群建设的规模比拼,转向算力的组织调度与智能交付能力。Gartner预计2030年AI云市场将达2670亿美元,新云厂商有望占20%份额;IDC与中国信通院调研显示近半数企业智算资源利用率仅51%至70%。

正文

智东西(公众号:zhidxcom)
作者 | 三北
编辑 | 漠影

近日,一位智算云企业的工作人员告诉智东西,最近半年,客户的需求点发生了显著变化:过去他们问“一张卡多少钱、能租多久”,现在问题变成了“一百万Token花多少钱、任务能不能稳定跑完”。

问题的变化,折射出AI基础设施的一次重要升级。

全球AI云市场仍在高速扩张。知名行研机构Gartner预计,到2030年AI云市场将达到2670亿美元(约合人民币1.78万亿元),其中新云(NeoCloud)厂商有望拿下其中20%的份额,后者也是一个3500亿元人民币级别的市场。

但另一面,算力资源利用效率仍然是产业迫切需要解决的问题。知名行研机构IDC与中国信通院今年4月面向250家企业的调研显示,近半数受访企业智算资源利用率在51%至70%之间,制造、政务等行业中,利用率超过70%的企业占比不足35%。

算力产业的下一道题已经显现:如何让已经建设起来的算力资源,被更充分、更灵活、更稳定地使用?

过去两年,新云通过GPU采购、集群建设和算力租赁,完成了商业模式的初步验证。如今,随着算力架构、AI负载和客户需求同时变化,行业的竞争标准也在发生迁移。

AI新云的下一阶段,开始从比拼算力规模,转向比拼算力的组织调度能力。

千亿美元AI云市场,算力军备竞赛之后拼什么?

一、从GPU租赁到智能交付,新云为什么必须升级?

回顾NeoCloud的第一阶段,核心任务是解决算力供给缺口。

以GPU采购、集群建设和算力租赁为核心,解决AI产业早期的算力供给缺口。资源规模、硬件性能和集群交付速度是主要竞争指标;这相当于谁能拿到卡、建集群,谁就有话语权。

但AI产业并没有停留在训练阶段,需求侧正在改变游戏规则。

随着模型进入应用阶段,推理逐渐成为持续性负载。尤其是Agent开始执行多步骤任务后,一次用户请求可能触发多轮模型推理、工具调用、代码执行和数据读取,任务持续时间也可能从几秒延伸到数小时甚至数天。

这对底层基础设施提出了新的要求。谷歌在2026年7月发布的一项调查显示,在接受调查的1400多名企业IT高管中,83%认为生产级Agentic AI正迫切需要升级基础设施。物理AI也进一步拓宽算力需求的边界,微软研究院9月关于物理AI的研究则表明,部分推理任务可以从机器人本体卸载到边缘或云端GPU,云边端协同成为重要新课题。

政策侧也在推动算力组织方式变化。今年2月,我国工信部推进“1+M+N”国家算力互联互通节点体系建设,推动不同区域、不同主体、不同架构的算力资源标准化互联和高效流动,并全面开展算力态势感知自动化监测。算力从分散建设走向统一监测、互联调度,资源越来越像一张需要被调度的网络。

横向看全球新云,升级动作同样明显。美国头部新云厂商CoreWeave已将推理拆分为按Token计费的Serverless Inference、按GPU小时计费的Dedicated Inference和自管Kubernetes推理三种路径;欧洲新云厂商Nebius则通过Token Factory提供企业级托管推理,并将其与Nebius AI Cloud的裸金属算力和serverless能力串联,形成从算力到推理服务的递进层级;另一家美国新云厂商Crusoe也将业务延伸至托管推理、模型微调和集群自动化管理等服务。

千亿美元AI云市场,算力军备竞赛之后拼什么?

一位产业链人士告诉智东西,新云上半场拼的是资源获取能力,下半场拼的是资源组织能力。

客户需要的已经不只是GPU卡时,转而变为持续、稳定、经济地获得智能产出。新云也由此从算力资源出租方,逐渐转向算力组织者和智能交付者。

围绕算力资源的组织、调度与交付,一场关于“可控算力”的竞争正在展开。

二、什么叫“可控算力”?门槛从资产规模改写为三层能力

所谓可控算力,核心是让算力资源从“可获得”,进一步走向“可组织、可调度、可计量、可交付”。

而可控算力与拥有算力的本质区别是什么?可以拆成三层能力:技术层的定制、调度和计量,商业层的资源控制与稳定供应,以及产业层面向客户交付算力服务。

1、技术层:算力可控,先过调度和计量两道关

第一层是技术控制力,核心在于异构调度和统一计量。

中国信通院《智能算力服务研究报告(2026年)》提出,智能算力服务体系可以分为资源层、互联互通层和应用层,分别承担资源汇聚与池化、跨域连接与统一调度,以及场景适配与服务交付等功能。换句话说,算力要真正成为可调用的服务,需要经过资源汇聚、池化管理、任务调度和持续运营等环节。

千亿美元AI云市场,算力军备竞赛之后拼什么?
NVIDIA与Nebius在今年2月的联合测试提供了直观案例:通过GPU切分(如MIG)或时间分片,半卡资源可达到整卡77%的吞吐量,可承载整卡86%的并发用户数;混合部署多种模型时,总承载量接近单一模型部署的3倍。折算下来,单位资源的吞吐效率提升约54%。这说明,同样一批算力资源,通过不同的切分颗粒度、显存分配和调度策略,可以形成不同的有效算力。

统一计量则是另一项基础能力。不同芯片的理论峰值、实际性能和适用任务存在差异,需要统一的衡量标准。行业正在探索以DCU,即“一度算力”,作为算力投入侧的计量单位。

以国内智算新云厂商九章云极公开披露的DCU(一度算力)为例,其定义为312 TFLOPS的FP16算力持续运行1小时,记为1度算力;不同芯片的算力投入,由此可以尝试折算到统一尺度。九章云极的增长情况也构成了一个观察样本。据其公开招股书披露,其可控智算规模已超29000PFLOPS,算力资源利用率从2025年度的56.0%提升至2026年上半年的79.6%,在504卡集群连续30天满载运行下,MFU(模型算力利用率)达到54.1%,日间波动率1.60%。

这些数据可以让我们从一个侧面观察软件调度、资源管理与算力利用效率之间的关系,但并不意味着单一指标就能完整代表平台的综合能力。

2、商业层:可控算力不必以所有权为前提,运营兑现资本效率

第二层是商业控制力,核心在于资源供应的稳定性和资本效率。

算力运营是一门重资产属性明显的生意。GPU采购、数据中心建设和设备更新都需要大量资金投入,而芯片迭代速度较快,设备折旧也会影响长期经营成本。

因此,新云厂商需要回答下面问题:是否必须持有全部底层算力资产,才能保证向客户持续交付?

一种巧妙的思路是不拥有所有算力资产,但通过长期协议控制算力资源的可用性。九章云极公开招股书披露,其通过订立3至8年固定期限、且无延期及终止选择权的租赁合约获取AIDC及底层算力底座。这种模式把资本效率和资源调度能力放在同等位置,新云更像算力组织者,更注重保障资源可用性、调度权和服务连续性。

当然,长期协议也意味着相应的履约责任和需求匹配压力。资源锁定期限、客户合同期限、价格机制和实际利用率,需要共同纳入经营管理。只有当资源供应与客户需求相匹配,长期协议才能转化为稳定的服务能力。

3、产业层:从卡时交易到智能交付,服务边界重写

第三层是产业控制力,核心在于交付什么。

传统算力租赁通常以GPU数量和使用时长作为交易单位,客户获得的是一段计算资源的使用权。随着推理服务和Agent应用发展,客户越来越关心最终任务完成成本、Token产出效率和服务稳定性。

这要求新云厂商把服务边界从硬件资源延伸到模型部署、推理优化、任务调度和运行保障。计费方式也可能从卡时逐步延伸到Token或具体任务产出。

需要强调的是,Token数量本身并不能完全代表智能服务的价值。模型能力、任务复杂度、响应时延、准确性和服务可靠性,都会影响客户最终获得的结果。因此,未来的智能交付需要建立更完整的投入产出评价体系。

从资源到产出,技术、商业和产业三层能力彼此关联。只有资源的供给方,更多依靠资源差价获得收益;具备部分调度能力的服务商,可以提升资源配置效率;而能够实现资源定制、异构调度、统一计量、长期供应保障和持续优化交付的运营者,才真正具备可控算力的完整能力。

新云的核心竞争力,正在从资产规模延伸到调度、组织与交付能力。

千亿美元AI云市场,算力军备竞赛之后拼什么?

三、客群与负载双迁移,可控算力正重塑新云

算力服务的升级,也在反过来改变新云面对的客户群体。

早期,少数大型互联网企业和模型厂商是智算资源的重要需求方;当下,大量AI原生企业、模型厂商和Agent团队不断涌现,它们更关注算力的灵活性、可迁移性、成本和实际产出。能够提供上述“可控算力”服务的新云厂商,正在承接这一波新增的市场需求。从九章云极公开招股书能看到趋势变化,其智算云客户从2024年度的2家增长至2026年上半年的84家。这组数据可以作为AI原生算力需求增长的一个观察样本,说明这类需求正在真实放量。

对于新云来说,客户结构的变化意味着服务方式需要更加精细。不同规模的企业可能使用不同的模型、芯片和推理框架,任务类型也会随产品迭代持续变化。平台需要根据客户需求配置资源,并通过调度和优化降低单位任务成本。

不仅客户在变化,负载也在变化。

从训练到推理,再到Agent和物理AI,每一次负载迁移,都在拓宽新云的服务边界。

训练阶段,核心考验是大规模集群的计算性能、网络通信和长时间运行稳定性。模型进入推理阶段后,竞争重点逐渐转向时延、吞吐量、并发能力和单位Token成本。Agent进一步增加了任务状态管理、资源弹性分配和长时间运行保障等要求。到了物理AI阶段,云端、边缘和机器人本体之间的协同计算,又将时延、任务优先级和跨节点调度推到台前。

CoreWeave为Agentic AI升级计算、存储和网络,特别强调多步骤Agent工作流对数据访问时延的敏感性。可以看到,每一次负载跃迁,都在对“可控算力”提出更高要求。

回到产业本身,可控算力要把资源感知、异构纳管、动态调度、效率优化和服务交付串联起来,形成完整运营闭环。先看得见算力,才能管得住算力;管得住算力,才能调得动算力;调得动算力,才能优化算力;最终才有能力把算力转化为稳定、可持续的AI服务。

AI基础设施的竞争,正在从争夺稀缺资源走向提升资源组织效率。新云的升级方向,则从资源供给走向智能交付,从拥有算力走向可控算力,从短期供给走向长尾运营。

可以预测,未来真正有竞争力的新云,不只是拥有更多算力的厂商,更是能够把分散、异构、动态变化的算力资源,组织成稳定、高效、可持续AI服务的厂商。

算力军备竞赛之后,下一道门槛已经出现。把算力变成可持续的智能产能,或许才是新云进入新周期的入场券。

来源:智东西 · zhidx.com