Redis 与 Memcached 把热数据钉在内存里换延迟，向量索引同样依赖内存驻留。内存当缓存用时的可靠性门槛，在这些场景里早有工程共识，值得做内存的人借鉴，经验教训可以直接复用，别重蹈覆辙。
固态盘早就用 DRAM 当缓存：控制器缓存、主机内存缓冲、写回缓存。这套存储侧的老办法，正被重新借用到人工智能的 KV Cache 分层里，如今在 AI 场景被重新激活，底层逻辑其实一脉相承，值得留意。
单机能插到一 TB 甚至两 TB 的 DDR5 之后，大内存服务器不再是数据库专属。长上下文推理、向量检索和内存计算，都成了它的用武之地，正成为新的性价比选择，适合预算有限又想跑大模型的团队。
CXL 2.0 支持单级交换机下的内存池化，CXL 3.0 进一步做到多级交换与硬件一致的跨主机共享，让内存在集群里像存储一样被统一调度和灵活分配，正逐步走进生产环境，值得架构师关注。
显存放热数据、内存放温数据、固态盘放冷数据，KV Cache 的三级存储把成本和延迟分层处理。Mooncake 与 LMCache 都已用真实生产负载验证了这条路确实可行，是推理系统里最值得投入的方向，值得认真规划。
