预取（prefetch）为什么对 AI 负载重要
预取（prefetch）为什么对 AI 负载重要
预取是什么
DDR 系列的「prefetch」指内存内部一次取出的数据宽度：颗粒内部以较低的核心频率把多笔数据排好，再在高速 I/O 上一次性吐出。DDR5 的 prefetch 为 16n（对应突发长度 BL16），比 DDR4 的 8n 翻倍，这是单引脚速率能冲到 4800–8800 MT/s 的基础之一。
和 AI 读取的契合点
大模型推理的 decode 阶段，本质是反复顺序读取同一份巨大的权重张量。这种访问模式极度连续、可预测，正好让 16n 预取和 BL16 突发发挥最大效用：一次命令搬一大块数据，总线几乎不被空闲周期浪费。
反过来说，如果访问是细碎、随机、跨大地址跳跃的，预取出来的后续数据用不上，等效带宽就会打折。所以「带宽够不够」不能只看峰值，还要看访问模式匹配度。
一个实用提醒
把模型权重按访问顺序布局、用连续大块读取代替零散访问，往往比单纯换更高频率的内存更能提升实测吞吐。这也是为什么同样标称 DDR5-6400（51.2 GB/s）的两条模组，真实负载下表现可能差出一成以上。
想知道您手上的 DDR5 RDIMM 在真实访问模式下的有效带宽，HeroTEST 提供模组级宽温测试与可信分级，用贴近实际负载的方式验证每根条子，欢迎与我们交流测试方案。