8月的一个夜晚,Silicon Valley Power向Santa Clara一家人工智能工厂发送了降低用电量的信号。Emerald AI的Conductor平台在放缓并重新安排低优先级任务的同时,维持了关键人工智能服务。用电量自动从4兆瓦降至3兆瓦,无需运营商干预。此后,Silicon Valley Power已向该工厂发送了200多次需求信号,每次都取得了效果。
NVIDIA在AI Infra Summit上介绍的这一方案,旨在无需等待新的输电线路,就能满足人工智能工厂的用电需求。根据Lambda于同日公布的首次验证结果,在对固定电力预算进行智能管理时,token生成量可以增加24%。
- NVIDIA DSX MaxLPS:实时监测GPU和机架的用电量,在固定电力预算下提高token生成量。
- NVIDIA DSX Flex:根据电网信号调整任务优先级,并保护高优先级任务。
- NVIDIA DSX OS:为人工智能工厂的生命周期管理、运行一致性、健康自动化和韧性提供开源软件。
- NVIDIA DSX Sim:支持在物理部署前对设计进行建模并确定瓶颈。
- NVIDIA DSX Reference Designs:提供涵盖计算、网络、存储和设施的经过验证的架构。
为何重要
这种方法旨在减少人工智能数据中心对于电网而言只能作为持续且缺乏灵活性的负载这一局面。对电网运营商来说,其价值在于,当用电需求发生变化时,可以根据优先级重新安排工作负载,而不是完全中断服务。数据中心运营商则获得了在同一功率上限内同时管理计算能力和运营连续性的选择。不过,目前介绍的结果基于NVIDIA Blog及其合作伙伴的演示和验证案例,因此该方法在不同设施、不同工作负载以及更大规模下将如何发挥作用,仍有待观察。DSX系列的软件、仿真和参考设计组件也表明,这一解决方案并不只是对即时用电量进行调整。
背景
NVIDIA并不是FikirPilot档案中的新面孔:过去90天内,我们发布了13篇提及这一名称的新闻;最新一篇的日期是2026年9月27日。