NVIDIA 推出 DSX 和 NVFP4 等工具来提高人工智能工厂的能源效率，有望将代币生产成本降低高达 25%。
NVIDIA 发布了一套能源优化技术，旨在提高人工智能工厂的效率和盈利能力。这些工具旨在降低与人工智能推理和训练工作负载相关的高能源成本，可以重塑运营商管理电力受限环境的方式。
人工智能工厂本质上是用于训练和部署人工智能模型的大型数据中心，面临着能源消耗的重大挑战。据 NVIDIA 称，在这些设施中，电力占运营支出 (OpEx) 的比例高达 40%。这使得每瓦性能成为一个关键指标，直接影响代币成本和收入潜力。对于运营商而言，最大化每瓦吞吐量不仅仅是一个效率目标，更是一个盈利驱动力。
推理优化：收入驱动因素
推理（从经过训练的人工智能模型生成输出的过程）是人工智能工厂产生收入的地方。 NVIDIA 的解决方案专注于提高每瓦的推理吞吐量，使运营商能够在不超出功率预算的情况下产生更多的令牌或见解。例如，NVIDIA 的 GB200 NVL72 机架规模系统采用液体冷却和电源平滑技术来安全部署更多 GPU，从而提高计算密度和能源效率。
进一步的进步来自 NVIDIA 的窄精度 NVFP4 格式，与传统的 FP8 精度相比，它可以以更低的能源成本提供更高的吞吐量，而且不会影响精度。 NVIDIA Dynamo 和 TensorRT-LLM 等工具通过优化推理工作负载以实现实际性能提升，对这些硬件创新进行了补充。
模型训练中的节能
训练大型语言模型 (LLM) 是能源效率至关重要的另一个领域。传统的训练方法通常会导致 GPU 空闲时间和过多的能源消耗。 NVIDIA 与密歇根大学 ML.ENERGY Initiative 的研究人员合作，开发了降低这种低效率的技术。通过根据工作负载需求动态调整 GPU 处理速度，训练过程可以最大限度地减少空闲时间并节省高达 25% 的能源，而无需延长整体训练持续时间。
这些创新已集成到 NVIDIA 的 Megatron-LM 框架中，该框架在内核和并行级别上分析功率和性能。由此产生的能源感知调度可确保训练运行速度更快且更具成本效益，从而为额外的训练或推理任务释放能量。
DSX：全栈优化
NVIDIA 方法的核心是 DSX 平台，该平台在整个 AI 工厂堆栈中提供实时、能源感知的优化。 DSX 集成了计算、冷却、设施电源和工作负载调度，以最大限度地提高每瓦特的令牌数。它包括动态功率分配、先进的液体冷却以及用于识别和恢复闲置功率的遥测驱动见解等功能。
DSX 还利用其电网感知 DSX Flex 层来优化能源编排，弥合了人工智能工厂和外部电网之间的差距。通过将工作负载与最高效的电源和冷却区域保持一致，DSX 可确保充分利用每一瓦特的潜力。
为什么重要
这些创新的影响超出了运营效率。通过降低能源成本和提高吞吐量，NVIDIA 的工具可以降低 AI 生成代币的成本，从而使 AI 服务更容易获得并更具竞争力。对于管理电力受限设施的大型运营商来说，这可能会转化为显着的利润收益。
随着人工智能应用不断在各个行业扩展，大规模优化能源使用的能力将成为一个竞争优势。 NVIDIA 的 DSX 及其配套技术使该公司成为该领域的领导者，提供将盈利能力与可持续发展相结合的解决方案。
如需进一步了解 NVIDIA 的人工智能工厂解决方案，包括 DSX 和能源感知模型训练，请访问 ISC 2026 上的 NVIDIA 展位。