随着AI模型规模不断扩大,HBM和DDR内存正在遇到容量、带宽和成本方面的限制。三星电子和SK海力士开始加快CXL内存布局,希望在传统内存与SSD之间增加一个新的存储层,缓解AI服务器的内存焦虑。
据TrendForce援引韩国媒体消息,三星电子计划在2026年底前量产基于CXL 3.2规范的CXL内存模块CMM-D 3.0。SK海力士则展示了第二代CMM-DDR5样品,并提出一种面向AI推理的新型分层内存架构。
AI服务器为什么需要CXL内存?
目前,AI服务器的主要高速内存包括HBM和DDR。
HBM距离GPU最近,带宽高,但价格昂贵,容量也很难快速扩大。DDR容量更大、成本更低,但通常需要直接连接CPU,扩展能力同样受到处理器通道和服务器架构限制。
CXL内存的作用,是在HBM、DDR之外增加一个可以灵活扩展的内存层。
它不需要为增加内存而额外部署更多CPU或GPU,可以通过CXL接口连接大容量DRAM,为AI训练和推理系统提供更多内存空间,CXL可以在服务器内部使用内存扩展模块提供额外的容量。
三星表示,与只使用DDR5内存的系统相比,CXL内存可以让服务器总内存容量最高增加50%,内存带宽最高提升一倍。
CXL还支持内存池化。多台服务器可以按实际需求动态共享内存资源,减少部分服务器内存闲置、另一些服务器内存不足的问题,这是更高级的使用方式。
三星瞄准CXL 3.2量产
三星计划推出基于CXL 3.2规范的CMM-D 3.0。
CXL 3.2加入了Hot Page Monitoring Unit,也就是热页监控单元。它可以实时监测不同数据的访问频率,把经常使用的“热数据”和访问较少的“冷数据”放到更合适的内存位置。
这种机制可以减少没有必要的数据搬运,提高HBM、DDR和CXL内存之间的协同效率。
对于AI推理系统来说,这一点尤其重要。因为大模型推理过程中,会不断读取模型参数、KV Cache以及中间数据。如果数据放置不合理,GPU就可能花大量时间等待数据。
SK海力士提出新的AI内存分层架构
SK海力士在2026年6月举行的HPED 2026活动上,展示了基于CXL 3.2规范的第二代CMM-DDR5样品。
目前,SK海力士已经开始与客户讨论供货,但还没有公布明确的量产时间。
更值得关注的是,SK海力士提出了名为IMTE的AI推理内存分层架构。
IMTE全称为Inference Memory Tiering Expansion,即“推理内存分层扩展”。这套架构把CXL混合内存放在HBM、DDR和SSD之间,形成一个新的中间层。
按照SK海力士的设计,HBM负责最高速、最频繁访问的数据;DDR承担通用内存任务;CXL内存提供TB级容量和相对较高的访问性能;最后,SSD存放容量更大、访问频率较低的数据。
CXL在其中不仅是扩展接口,还承担智能数据调度中心的角色,提前在HBM、DDR、CXL内存和SSD之间移动数据。
SK海力士声称,这套架构可以让AI推理效率比传统系统提升35.7%。
美光也在推进下一代CXL产品
美光早在2023年就推出了CXL 2.0内存产品CZ120。
目前,美光也在加快开发基于CXL 3.1和CXL 3.2规范的新一代产品。这意味着三星、SK海力士和美光三大存储厂商,都没有放弃CXL内存市场。
不过,三家公司的重点可能有所不同。
存储厂商未来可能主要负责DRAM颗粒和CXL内存模块,而CXL控制器、交换芯片等关键部件,则更多由澜起科技等专业芯片公司提供。这就是最近网传的三大存储厂商放弃CXL的消息的由来。
这种模式与传统SSD市场有些相似,存储厂商提供闪存和模组,控制器厂商负责数据管理和协议处理。
CXL距离大规模应用还有多远?
CXL正在获得更多处理器和服务器厂商支持。
报道称,英伟达、英特尔和AMD都在下一代芯片中加入CXL内存支持。英伟达计划在2026年下半年推出的Vera Rubin平台,也预计支持CXL相关能力。
微软则据称已在2025年底启动CXL内存云服务试点,希望通过内存池化提高服务器资源利用率。
不过,CXL要真正进入大规模商用,还需要解决多个问题。
首先,CPU、CXL交换芯片、内存控制器、服务器硬件和操作系统软件都需要支持CXL。
其次,不同厂商设备之间必须通过兼容性测试。CXL内存不是插入服务器就能直接使用,它需要整套硬件和软件共同配合。
最后,CXL还需要证明自己的经济价值。只有当节省的GPU、服务器和内存成本,明显高于新增CXL设备和软件的成本时,云厂商和企业客户才会大规模采用。
CXL可能成为后HBM时代的新战场
HBM仍然会是AI芯片最重要的高性能内存,但HBM不可能解决所有容量需求。
随着大模型参数量、上下文长度和KV Cache容量继续增加,AI服务器需要的不只是更快的内存,还需要更大的内存池和更灵活的数据调度能力。
CXL的价值,就在于它可以连接HBM、DDR和SSD,建立一套分层内存系统。
未来AI服务器的竞争,可能不再只是“用了多少HBM”,而是谁能把HBM、DDR、CXL内存和SSD调度得更高效。
这也意味着,CXL带来的机会不会只属于三星、SK海力士和美光。CXL控制器、交换芯片、服务器、操作系统和内存管理软件厂商,都可能从中受益。
不过,TrendForce这篇报道主要援引韩国媒体信息,三星和SK海力士部分性能数据及量产时间,仍需等待厂商后续正式发布确认。
