CXL 内存池化:共享调度的新思路

CXL 内存池化:共享调度的新思路

从插在主板上的内存,到可被调度的资源

传统服务器里,内存焊死在各自的主板上,A 机空闲的五百一十二 GB 没法借给 B 机用,结果是一边内存吃紧、一边内存闲置。CXL 2.0 引入单级交换机和 MLD(多逻辑设备),一个 Type 3 内存扩展器最多可被十六个域共享,把内存变成可按需分配、回收的池化资源,不再为每台机器的上限而过度配置,也缓解了内存孤岛造成的浪费,采购上更省。

CXL 3.0(基于 PCIe 6.0,x16 聚合原始带宽最高二百五十六 GB/s)更进一步:多级交换让拓扑能撑到机架甚至更大规模,还引入硬件维护一致性的内存共享,多台主机能同时访问同一块内存区域而看到一致的数据,不再靠软件去协调缓存一致性。CXL 1.0、1.1、2.0 全部向后兼容,落地不必推倒重来,老设备也能渐进接入。

对缓存层的意义

落到「内存当缓存」这件事上,池化的价值是明显的:推理节点的 KV Cache 可以跨机共享和迁移,热点不必困在单台机器的内存上限里,闲置内存也能被别处的峰值借走,整体利用率更高。代价是延迟,CXL 访问比本地 DRAM 多出几十到一两百纳秒,取决于拓扑层级,但远好于绕道固态盘的几十微秒,对缓存热层完全可接受。

当一片 CXL 内存被多台机器共用、承载彼此的缓存,任何一条模块的边缘失效都会影响不止一个节点,故障域被放大了,单点内存问题变成集群问题。从工程角度看,池化把内存从单机私有资源变成了集群共享资源,运维模型和故障隔离都要重新设计。HeroTEST 提供模块级 DDR5 RDIMM 宽温测试与可信分级,包括余量测试和高温老化,验证它在池化共享下的真实可靠性,欢迎找我们聊测试方案。

相关阅读