AI 机柜功耗爆炸，内存贡献了几成
AI 机柜功耗爆炸，内存贡献了几成
机柜功率已经以千瓦计
传统企业机柜常见 5–15kW，而 AI 机柜普遍 50kW 起步，下一代部署超过 100kW 也不稀奇。功耗主角是 GPU：单张 H100 SXM 整卡约 700W，8 卡服务器仅 GPU 就近 5.6kW，再加 CPU、风扇、主板。
内存占多少
按单条 DDR5 RDIMM 5–10W 估算，一台满配 16–32 条的服务器的内存总功耗约 80–320W，相对整机 5–10kW 通常是几个百分点到约 5%。GPU 那一侧，HBM 满带宽下每 stack 约 10–15W，8 个 stack 也就百瓦级，相对整卡仍小头。
为什么还要算它
因为机柜密度越高，每瓦都值钱，而且内存功耗会随容量和速率线性增长。如果为降低 latency 而堆满 32 条高频 RDIMM，内存一项就可能逼近整机 5–8%。更关键的是，内存的发热集中在条上，直接影响风冷布局和进风温度。
还有一笔常被漏掉的账：内存功耗进的是 IT 负载，会被 PUE 放大。按平均 PUE 1.5 算，内存省下的 100W 实际帮机房少花约 150W 的总电。所以谈「内存贡献几成」时，既要看绝对占比，也要看它在 PUE 倍数下的放大效应。
与其只看 GPU 的 TDP，不如把内存这一层也实测清楚。HeroTEST 提供模组级 DDR5 RDIMM 宽温测试与可信分级，帮您掌握每根条子的真实功耗与温升，欢迎工程师联系我们评估。