除了大规模扩展旗下EPYC系列产品线外,AMD还将注意力转向另一个数据中心难题:内存瓶颈。AMD在今年6月收购了MEXT,后者的团队拥有存储系统及AI基础设施领域深厚的专业知识,AMD希望可以更好地解决现代数据中心建设面临的一些挑战性工作。
近日AMD带来了“MEXT预测内存软件(MEXT Predictive Memory Software)”,是一个基于闪存的解决方案,能够将搭载EPYC系列处理器的服务器DRAM需求降低20%至75%,从而降低成本,减轻供应压力,同时保持相当性能。

AMD计算与企业AI业务拓展副总裁Gary Smerdon表示,服务器里内存普遍存在浪费的情况,一般企业会过度配置内存,以防止性能下降,这部分容量大概占了总容量的50%。“MEXT预测内存软件”由AI模型驱动,以更好地管理DRAM与SSD间的数据配置。其将较少使用的资料暂时存放到闪存里,通过AI预测后续需求,然后提前放回DRAM,降低了应用程序等待资料的时间。
这种做法就是将更便宜、更省电的闪存引入到内存层,虽然相比于内存,闪存要慢得多,但是AMD在不改变软硬件配置的情况下,通过AI技术将这部分延迟抵消掉,在上层看来是连续的内存。整个过程可以在本地AI训练和推理,仅需要一颗EPYC处理器核心即可完成。
AMD表示,在保持性能相当的前提下,可以减少20%至75%的内存使用,将可用内存最大扩展至三倍,为数据中心提供了更为经济的扩展路径。多个验证测试表明,对代理AI工作负载的作用更为明显,在内存与闪存各占一半的配置下,每美元性能提升90%,另外在内存密集型代理应用中可提升70%。




