DRAM 给 SSD 当缓存的老办法新用
DRAM 给 SSD 当缓存的老办法新用
存储侧早就这么干了
固态盘自己就是 DRAM 缓存的最大用户之一。控制器板上那颗 DRAM 缓存着映射表和热页，低端盘则用 HMB（主机内存缓冲）借主机内存用，省掉板载颗粒。上层软件里，写回缓存把随机写聚成顺序写，大幅掩盖闪存的写放大。这套思路的核心，是用快而小的 DRAM 兜住慢而大的存储的随机访问，几十年没变过，只是很少有人把它和推理联系起来。
Intel 的 Optane 持久内存一度想模糊内存和存储的边界，容量大、字节寻址、掉电不丢，可惜成本和生态没跑通，已于二零二二年前后逐步退场。它留下的启示还在：当「内存」和「存储」的延迟差距被压缩，分层的意义就变小，反之差距越大，DRAM 这层缓存越值钱，越值得认真去做，如今 AI 缓存正好撞上这个差距最大的场景。
借回 AI 缓存分层
今天把 KV Cache 卸到 DDR5、冷了再沉到固态盘，本质就是存储缓存思路的反向移植：固态盘当冷层，DRAM 当热层，靠热度调度省掉昂贵且慢的盘访问。区别只在数据语义，从文件块变成了模型的 Key/Value，但「缓存必须可信否则脏数据写回就毁了文件」这条铁律一模一样，错一次就是一片数据损坏。
AI 缓存同理，只是错的不是文件而是某段上下文，而且会被反复读取放大成系统性错误，影响的是生成质量而非磁盘完整性。历史总是押着相似的韵脚：当年用 DRAM 兜住固态盘，如今用内存兜住模型缓存，底层逻辑是同一件事。HeroTEST 做模块级 DDR5 RDIMM 宽温测试与可信分级，含余量测试和高温老化，帮你确认这片缓存真的靠得住，不会在高温负载下悄悄出错，欢迎联系我们。