NVIDIA Blog· Vishal Ganeriwala·· 14 天前AI 评分53
NVIDIA 详解 DSX AI 工厂方案:固定电力预算下 Token 吞吐提升 24%
From Megawatts to Tokens: How NVIDIA Maximizes AI Factory Production
AI 导读
NVIDIA 披露了针对 AI 工厂的 DSX 架构套件实测数据,通过动态电力分配与电网协同调度最大化算力产出。云服务商 Lambda 在 HGX B200 集群上验证 DSX MaxLPS,在相同电力预算下将集群 Token 吞吐量提升 24%,每瓦性能提高 23%。同时结合电网响应系统,可在外部电力紧张时自动降低功耗并保持高优先级推理作业稳定运行。
来源:NVIDIA Blog · blogs.nvidia.com