内存不够先是换页拖慢，再是 OOM 直接中断训练。用 SSD 100MB/s 与内存 10GB/s 的差距算这笔账。
寄存器缓冲让 RDIMM 能堆到 256GB 单条并支持多通道稳定。解释 AI 服务器不用 UDIMM 的工程原因。
计算在 GPU，数据在 CPU 内存。讲清 HBM3 3.35TB/s 与 DDR5 数十 GB/s 的差距，以及两者各自负责什么。
双路 CPU 配 8 张 H100，内存通道怎么插满？从 4800 到 6400 MT/s 与容量平衡谈不浪费的配法和避坑。
训练要存优化器和激活，推理只要权重加 KV Cache。对比两类服务器的内存结构差异与容量规划思路。
一个 7B 模型 FP16 训练要 112GB，70B 要 1120GB。拆解参数、梯度、优化器与激活各占多少显存。
8 卡 H100 机器该配多少 DDR5？用带宽与数据搬运的账，给出 GPU 显存与 CPU 内存的配比思路和常见区间。
AI 服务器依赖 DDR5 RDIMM 并非跟风。从带宽、容量到 ECC 与 PMIC，解释为什么 RDIMM 是 AI 训练与推理机架的默认选择。
