
同样交付100万个Token,用不同厂商的硬件方案,究竟哪一种更划算?
这道题,恐怕很难只靠一张GPU报价单算出答案。
过去,客户按数量和时长租用GPU,账单相对清楚。如今,越来越多客户开始直接购买Token服务,硬件价格、模型运行速度和实际Token产出,都会影响最终成本。
更复杂的是,算清成本只是第一步。模型适配、资源调度和推理优化,同样决定着一批芯片最终能够交付多少Token。
当算力生意从出租GPU走向交付Token,谁能算清资源投入、提高交付效率,又能将这套能力转化为持续经营的生意?
对九章云极这样的独立智算云企业来说,如何在不同芯片之间建立统一的计量与结算体系,再通过自研调度系统提高交付效率,正在成为其与大型云厂商、传统算力租赁商竞争的重要筹码。
从GPU卡时到Token交付
算力生意需要新的结算层
国家数据局数据显示,中国日均Token调用量2026年3月突破130万亿,相比2024年初的1000亿,短短两年,调用规模增长超过千倍。
需求增长如此迅猛,另一边却有智算中心为如何消纳算力发愁。
过去,大模型训练是算力租赁市场的重要需求来源。客户需要连续使用大规模集群,长期租用千卡、万卡级资源,能够获得相对稳定的供给与价格。
如今,越来越多算力需求来自推理和AI应用。客户可能只需要部署一个模型,或者根据业务流量弹性调用Token服务。对这些客户而言,既要承担固定的资源费用,又需要自行运维。相比之下,根据实际业务量灵活购买算力服务,能够减少闲置成本,也省去了管理硬件的麻烦。
交易方式改变,算力运营商需要算的账也跟着变了。过去按GPU卡时收费,记录的是客户租用了多少资源、使用了多久。如今客户购买Token服务,运营商还得计算这些资源实际交付了多少Token,以及每百万Token的成本。
这笔账在多种硬件并存的市场中,尤其难算。
IDC数据显示,2026年上半年,中国数据中心AI加速器出货量约200.8万颗,其中国产厂商占据大头,海外厂商约占三分之一。
硬件架构不同,计算性能和Token产出效率也不同。只比较硬件租用价格,很难判断哪一种方案的实际交付成本更低。
2026年《中国词元工厂发展白皮书》也指出,词元工厂的计量计费规则尚未形成行业共识,不同芯片之间也缺少统一的产能对标和成本测算方法。
这正是九章云极试图解决的问题,其解决思路,是先为不同芯片建立一套统一的算力计量标准。
由此,九章云极给出了“一度算力”的概念。九章云极将312 TFLOPS的FP16理论峰值算力运行一小时定义为1 DCU,不同芯片都可以按这一标准折算资源消耗。
有了统一的计量单位,九章云极进一步提出“DCU与Token双账本”:DCU账本记录投入了多少算力资源,Token账本记录最终交付了多少Token。
简单来说,同样完成100万个Token的交付任务,使用不同芯片可能消耗不同数量的DCU。再结合各自的资源成本,九章云极便可以比较不同方案的单位Token交付成本,让资源分配和服务报价有了依据。
一家智算云企业如果同时管理多个算力中心,使用不同厂商的芯片,还要服务需求各异的客户,就需要持续比较各类资源的使用成本和交付收益。
DCU与Token双账本让九章云极能够按照统一计量单位管理这些业务,比较不同芯片和资源池的经营表现,为规模化运营提供基础条件。
算得清不等于用得好
异构算力还要跨过效率关
有了统一的计量标准,九章云极能够比较不同算力的投入成本。但要真正降低Token交付成本,还得让这些算力运行得更高效。
尤其进入大模型推理阶段后,算力效率越来越取决于软件系统的调度与优化能力。
同样使用一张GPU运行大模型,模型生成回答时,并非所有时间都在进行有效计算。不同请求的计算量、输入长度和输出速度存在差异,数据读取、计算等待和重复处理,都可能拖慢实际运行速度。
这些损耗最终会反映在Token交付成本上。软件如果能够减少等待与重复计算,就能让相同的硬件完成更多任务。
九章云极通过Alaya NeW OS,将算力调度与模型运行优化放在同一套系统中。
Alaya NeW OS覆盖算力调度、模型训练、模型推理和数据处理等环节。通过Serverless架构,Alaya NeW OS将客户的计算任务与底层硬件分开管理,并能统一调度多种不同架构的国产及国际主流硬件。

在推理环节,九章云极进一步采用PD分离、MTP加速和KV缓存复用等技术,提高芯片的实际计算效率。
其中,PD分离将处理输入信息和生成回答两个阶段分开运行,让不同阶段能够使用更合适的计算资源;MTP加速通过一次预测多个Token,提高部分场景下的生成速度;KV缓存复用则减少对已有上下文的重复计算,节省计算和存储开销。
这些技术并非简单叠加功能,而是分别解决推理过程中的资源分配、生成速度和重复计算问题。从分配计算任务到优化Token生成,Alaya NeW OS能够同时处理多个环节的效率问题,让九章云极在部分推理场景中,以相同的硬件资源交付更多Token。
这套软件能力也获得了第三方评测认可。Alaya NeW OS是国内首个通过中国信通院算力调度、模型训练、模型推理和数据处理四大领域评测的AI系统。
四个领域的覆盖意味着,九章云极能够在同一技术底座上处理从硬件资源分配到模型运行、数据处理的多种任务。客户无需针对各个环节分别寻找技术方案,也降低了部署和系统集成的复杂度。
2026年5月,九章云极创始人兼董事长方磊在采访中介绍,一家制造企业接入九章云极Token Factory后,其AI质检系统的综合算力成本下降55%。
在另一家工业软件企业的项目中,九章云极通过分布式推理集群和异构算力调度,使相关业务的推理效率提升12倍,硬件采购成本下降54%。
对于九章云极而言,Alaya NeW OS的价值更在于,这种技术可以服务更多项目并持续优化。
例如,完成一种芯片的适配后,相同架构的新增资源便可以沿用已有成果;成熟的推理优化方案,也能够推广到需求相近的客户。九章云极减少了重复开发成本,并将软件投入分摊到更多业务中。
这种可复用的软件能力,也让九章云极能够在硬件资源之外,凭借调度效率和交付质量创造额外的服务价值,逐步形成区别于传统算力租赁的技术溢价。
经营数据已经呈现出资源使用效率的变化。资料显示,九章云极的算力资源利用率从2025年的56.0%,提升至2026年上半年的79.6%,提高23.6个百分点。
这为九章云极在大型云厂商和传统算力租赁商之间建立独立的市场位置,提供了技术基础。
生态中立打开市场
资本效率支撑增长
全球智算云(NeoCloud)走到2026年,已经过了“手里有硬件就能赚钱”的阶段。
原文:https://www.leiphone.com/category/chips/c8Ps5l9PKxjm49Mb.html


