台达电子在英伟达全球技术大会上发布高能效人工智能硬件

2024-03-29

生成式人工智能的迅速崛起正在推动数据中心能耗空前激增。


到 2030 年,数据中心的用电量可能会增加两倍,以支持当今聊天机器人、图像生成器等背后的大规模人工智能模型。这就要求整个科技行业采取协调一致的应对措施。


在最近举行的英伟达(NVIDIA)GTC 大会(本年度最具影响力的人工智能会议之一)上,台湾电子公司台达电子(Delta Electronics)讨论了几项尖端技术,以优化训练大型人工智能模型所需的千兆瓦级数据中心的能源使用。


千兆瓦级数据中心每年消耗的电力相当于数十万个家庭的电力。


台达的新型数据中心硬件包括模块化机架、高效电源架,以及开创性地垂直安装到 GPU 板上的稳压器,以最大限度地减少能源损耗。在 GTC 上展出的解决方案包括


配备高密度 48kW 电源架的 ORV3 服务器机架,可将效率提升至 97.5%

垂直稳压器模块,与传统设计相比,可减少 5-15% 的能量损耗

采用模块化固态变压器的 800V 直流配电系统,可直接转换中压电网电源

大容量单片式不间断电源系统,以行业领先的 97.5% 效率提供不间断电源


台达定制设计事业部研发总监Ralf Pieper在英伟达GTC大会上表示:"随着GPU在人工智能计算中所占比例的增加,预计到2026年,全球数据中心的耗电量将增加一倍以上,超过1万亿千瓦时。


他继续说:"我们在高效服务器电源和DC/DC转换器以及ICT和能源基础设施方面拥有独特的专业知识,这使我们能够率先开发突破性的解决方案,通过优化电网到芯片的电源转换周期来支持人工智能大趋势。"


台达估计,自200年以来,其高效产品已帮助客户节省了近400亿千瓦时(kWh)。按此计算,400 亿千瓦时可为大约 373 万户普通美国家庭提供一年的电力。


应对人工智能不断增长的资源需求

如今,数据中心的耗电量已超过全球总耗电量的 1%。微软、谷歌、亚马逊、英伟达(NVIDIA)和其他公司计划在未来几年加强其数据基础设施计划,超大规模和超大规模数据中心的耗电量将在历史上首次飙升到千兆瓦级。


传统的核裂变发电、核聚变、地热和太阳能发电都将在维持电力消耗方面发挥各自的作用,但在人工智能基础设施中提高效率才是根本,而 Delta 的技术支持这一点。


正如 Pieper 总结的那样:"用于人工智能训练和推理应用的千兆瓦级数据中心(可能包括 250 千瓦的机架)的到来是不可避免的。为了确保高效、可靠、顺畅的电力转换并输送到人工智能计算芯片,台达不断为电网到芯片生态系统中的不同层级开发创新解决方案。"


相关标签