SDC 是硬件在没报错的情况下悄悄改了数据,训练照跑、loss 看着正常,等发现时已损失大量算力,排查成本也极高。
服务器 RDIMM 走 72 位总线(64 位数据加 8 位 ECC),side-band ECC 把纠错范围从芯片扩到整条内存链路,是端到端保护。
DDR5 在每个 DRAM 芯片内部为每 128 位数据配 8 位校验码,这就是 on-die ECC。本文解释它为什么是 DDR5 的必选项而非可选项。
Meta 在 16k GPU 上训练 LLaMA 3 的 54 天里记录到 6 次静默数据损坏,平均 9 天一次。本文算清一次内存错位在长训练里到底值多少算力。
给出把内存带宽和功耗放在一起评估的方法,用每 bit 能耗和每瓦带宽做选型账。
说明即使采用冷板、浸没液冷,DDR5 内存的温度管理仍不可忽视,并解释原因。
讨论内存过热时系统为保稳定所做的取舍,以及为什么降频常是间接的结果。
解释宽温 DDR5 在边缘 AI 场景下的必要性,以及工业级颗粒和防护的价值。