过去几年,AI产业的竞争逻辑似乎一直很简单,从芯片到服务器,从数据中心到算力集群,资本和产业资源都在围绕GPU展开。然而,当算力规模不断攀升,GPU越来越快,数据却未必能及时跟上。
当前,GPU算力每两年提升约3倍,HBM带宽同期仅能增长约2倍,越来越多的计算单元陷入等数据的空转状态。与此同时,HBM产能紧缺、价格上行,单纯依靠堆叠高端内存的路径已经难以为继。
今年2月,美光宣布量产商用PCIe 6.0 SSD,三星在7月启动部分送样,叠加NVIDIA Vera Rubin、AMD Venice等原生支持PCIe 6.0,标志着AI基础设施的竞争重心,正在从单一算力堆叠转向存算系统效率的比拼。

11月19日,随着芯展速推出国内首款量产的 PCIe 6.0 SSD,国内AI存储正式迈入Gen6时代。芯展速高级产品总监曹匡文指出,它既不是要取代昂贵的HBM,也不是单纯的容量扩容,而是要在计算与存储之间搭建起一条更宽的数据通路,让冷数据从稀缺的内存中下沉,让算力资源真正用在计算上。
内存撞墙,SSD不是要取代HBM
谈到AI,多数人的注意力都集中在算力侧,更先进的制程、更多的计算单元、更大规模的集群。但随着模型规模进入百亿、千亿参数时代,存储系统的短板正在快速凸显,成为制约算力利用率的核心瓶颈,最直接的矛盾来自“内存墙”。
过去,企业级SSD更多承担数据保存、模型加载和业务数据读写等任务。但进入大模型时代,训练和推理对存储的需求都发生了变化。其中,在训练场景中,大模型每隔数十分钟就要执行一次Checkpoint存档,将数TB的模型参数与优化器状态写入存储,在此期间GPU完全停止计算,处于空转等待状态,模型越大,GPU被存储拖慢的时间就越长。
同时,在推理场景,长上下文成为行业标配后,KV Cache的容量爆炸进一步加剧了内存压力。128K甚至1M token的上下文需求下,已经是Agentic AI、代码助手、企业知识库的标配,单路请求的KV Cache体积可达数百GB,远超单张GPU的HBM容量。
“训练时代的内存墙是Checkpoint太大,推理时代的内存墙,则是KV Cache太大。”曹匡文表示,面对这一缺口,堆叠HBM本是最直接的解法,但现实的产能与价格壁垒让这条路越走越窄。
根据行业公开数据,2026年全球三大存储原厂的HBM产能已全部售罄,2027年价格预计上涨约121%。更关键的是,即便企业愿意支付溢价,也未必能拿到足够的供应。
在此背景下,PCIe SSD成为存储分层架构中的核心一环。但对这套架构的落地,闪存带宽是一道硬门槛,只有SSD带宽高于业务I/O速率,闪存层兜底才不会反噬性能。
目前,PCIe 5.0的带宽已经逐渐触顶,在并发拉满、命中集中到闪存层的高负载场景下容易触碰瓶颈,单盘约14GB/s的顺序读速度,在8卡服务器单GPU仅能分配1块盘的物理约束下,难以承载高并发下的KV Cache回读与高速Checkpoint写入。而PCIe 6.0企业级SSD带宽翻倍,正是把这道门槛跨过去的关键一步,让KV Cache分层从实验室验证走向稳定商用。

不过,需要指出的是,SSD并不是要取代HBM,前者负责容量更大、访问热度相对较低的数据,后者则负责高频、实时访问的数据,内存承接中间层数据,通过分层,让每种存储介质承担自己最擅长的工作,才是更合理的架构。
另外,平台侧的生态也已就绪,NVIDIA Vera Rubin与AMD Venice(EPYC 9006)均原生支持PCIe 6.0,为PCIe 6.0 SSD的性能释放提供了硬件基础。“可以说,PCIe 6.0 SSD的到来不是技术上的炫技,而是AI负载倒逼下的必然结果。”曹匡文说道。
架构重做,升级没那么简单
根据已有的公开数据显示,相较当下主流的PCIe 5.0,PCIe 6.0的带宽翻倍,最大读写带宽从约14GB/s提升到约28 GB/s,在盘位受限的8卡服务器里,KV Cache重载时间直接减半。不过,要把PCIe 6.0的理论带宽真正变成产品性能,研发难度远比升级接口复杂。
从PCIe 5.0到6.0,不是简单的速率提升,而是底层调制方式的彻底变革,信号编码从NRZ切换为PAM4,一个符号可以承载两个比特的信息,传输效率提高,但代价是信号判决空间明显缩小。主控的模拟前端、均衡算法、时钟三大块全部需要重新设计,PCB设计和用料环节,需要更低损害的板材,更短的走线,更严格的阻抗和串扰控制。
不止于此,要真正跑满28GB/s的速度,还需要主控、DRAM、NAND 介质与固件四大环节没有短板。曹匡文打了个比方,协议升级带来的接口提速,好比高铁轨道铺到了400公里时速的标准,动车组真正能不能跑满,还得看动车组自身的硬核技术。
其中,主控是牵引系统,需要同时承载主机侧、闪存侧、加密纠错的全速运转,这一代的设计门槛被整体抬高了一个台阶。DRAM是调度系统,其位宽、频率与误码率直接决定映射表访问效率。NAND介质相当于车体平台,通道数量、并行架构需要与接口速率匹配,这是做产品定义时的第一道算术题。而固件的NAND管理策略,则决定了盘能否长期稳定跑在峰值性能上。
“轨道决定上限,动车组决定兑现,这四个环节是木桶关系,轨道再好,动车组任何一环掉链子,28GB/s的带宽都是空谈。”芯展速在PT308研发中需要解决的,正是信号完整性、端到端带宽兑现,以及功耗和稳定性之间的平衡。
最终落地的PT308P与PT308E两款差异化产品,共享同一套硬件平台,只是针对训练和推理不同的数据读写特征做了一个取舍,从而匹配不同AI场景。其中,PT308P更侧重读取能力,最高30.72TB容量、680万随机读IOPS,适合读多写少的推理KV Cache分层场景。PT308E更偏向高写入负载,通过保留更多OP空间,支持3 DWPD,适合Checkpoint等持续写入场景。
这种产品划分实际上反映了企业级存储市场的一个变化,AI业务不再只是简单地需要一块更快的SSD,而是需要针对不同工作负载进行精细化设计。曹匡文直言,客户可以自由选择,没必要为自己不需要的指标浪费钱。
Gen6只是起点,重算存储经济帐
存储作为AI时代的焦点产业,虽在风口,但账同样算得更细。如果HBM产能够、良率高、不缺货、成本便宜,那可能市场对PCIe 6.0 eSSD的需求还没那么迫切。但现实情况是,存储厂商即便花了大力气在HMB上不停产品迭代并扩产,未来几年HBM的缺口仍然巨大。
而这,也给了PCIe 6.0 SSD在AI训推里面大规模渗透的一个可能,其量产的真正价值,不是让存储设备跑出一个更漂亮的速度数字,而是让AI基础设施有机会重新计算一笔账,如何用更合理的存储架构,释放更多算力价值。
在曹匡文看来,让HBM这么稀缺昂贵的内存去存"几分钟内不会再用的冷数据",是这个时代最奢侈的浪费,HBM越贵越缺,PT308的替代价值越大。

他给我们算了一笔账:一台8卡服务器把500 GB冷缓存从HBM挪到PT308,净省约5700美元。如果对比下一代HBM4,能省14000美元以上。100台服务器的集群,就是57万美元起步。
而对比主流的PCIe 5.0,有市场声音认为PCIe 6.0有些性能过剩,导致不划算。对此,曹匡文也列举了一系列的对比数据:按盘数算,取56 GB/s总读取带宽作对比基准,PCIe 5.0要4块盘,PT308要2块。100台服务器的集群少买200块盘,采购一次省约84万美元;按电费算,100台集群的存储部分省约5kW,按一年满载4380小时、工业电价0.12美元/度估算,每年省约3900美元。
AI浪潮的特殊之处在于,它第一次让存储从算力的配角,变成了决定系统效率的“胜负手”。目前,除了芯展速之外,美光和三星在早前已经量产PCIe 6.0 SSD,国内部分厂商预计到明年也会开始送样,2027年市场将进入白热化竞争阶段。
不过,PCIe 6.0 SSD的规模化落地,只是AI存储架构升级的起点,并不意味着AI存储瓶颈就此解决。
要知道,PCIe 6.0 SSD不是万能解药,它无法填平与HBM之间的性能鸿沟,也不能解决AI基础设施的所有瓶颈,只是提供了一个极具性价比的选项。从技术演进来看,PCIe 6.0 SSD的价值还远未被完全释放,还要在更多细分场景上去优化性能。
对于芯展速等品牌而言,量产只是第一步,接下来,能否与服务器厂商、芯片厂商和AI基础设施企业建立更深入的联合验证和适配关系,能否在不同客户的真实业务负载中持续兑现性能,针对不同业务模型持续优化固件、建立生态合作壁垒,将是决定产品竞争力的关键。(本文首发钛媒体App,文|老喵)
更多精彩内容,关注钛媒体微信号(ID:taimeiti),或者下载钛媒体App




