CXL 内存扩展:给 AI 集群加“公共内存”
CXL 内存扩展:给 AI 集群加“公共内存”
每台服务器的内存都在闲置
数据中心内存平均利用率只有 40%–50%:这台快满了,隔壁却空着一半。传统架构里内存焊死在自家 CPU 上,借不出去。CXL 基于 PCIe 把外部内存变成可寻址的字节级 RAM,让“借内存”第一次变得现实。
2.0 池化,3.0 共享
CXL 1.1 只能给单台主机扩容量;CXL 2.0 引入交换机,做单级内存池化,一块大内存切成片按需分给约 16 台主机;CXL 3.0 上 PCIe 6.0,进一步做多主机 coherent 共享(GFAM)和机架级 fabric,最多 4096 个端点。三星 CMM-D、SK 海力士 CMM-DDR5、美光 CZ120 都是这类 E3.S 形态模块。
代价是延迟
CXL 内存不是零成本:实测访问延迟在 140–410ns,比本地 DRAM 高。所以适合做分层里的“大容量慢一层”,装 KV Cache、稀疏权重这类对延迟不敏感但体量大的数据,而不是替代本地内存。
不论本地 DDR5 还是 CXL 扩展内存,模块本身的真实等级都该先验清楚。HeroTEST 专注 DDR5 RDIMM 的模块级宽温测试与可信分级,帮你在引入 CXL 分层前先把本地内存底数摸透,欢迎聊聊你的集群规模。