迈进可持续发展：AI和加速计算如何提高能效？

推动 NVIDIA 不断进步的双引擎 —— AI 和加速计算正在助力许多行业提高能效。

这一进步已得到社会各界的认可。

Lisbon Council Research 是一个成立于 2003 年、专门研究经济和社会问题的非营利组织。该组织在一份报告中指出：“即使数据中心的能耗很快将占到全球总能耗的 4% 的这一预测成为现实， AI 也在减少其余 96% 的能耗方面发挥着重要作用。”

位于布鲁塞尔的研究机构发表了一篇文章，是少数几项崭露头角的宏观 AI 政策研究之一。文章以意大利 Leonardo 超级计算机为例，该计算机配备了近 14,000 个 NVIDIA GPU，是作为系统推动汽车设计、药物发现和天气预测等领域工作的一个例证。

加速计算利用 NVIDIA GPU 的并行处理能力，能够在更短的时间内完成更多的工作。因此，与使用 CPU 一次处理一项任务的通用服务器相比，加速计算的能耗更少。

这就是为什么加速计算是可持续计算。

与 CPU 相比，加速系统利用 GPU 上的并行处理能力，能够在更短的时间内完成更多的工作，所消耗的能源也更少

当加速系统应用 AI 时，收益会更大。这是一种固有的并行计算形式，是我们这个时代最具变革性的技术。

该报告称：“在机器学习或深度学习等前沿应用方面，GPU 的性能比 CPU 高出一个数量级。”

如果将仅使用 CPU 的操作转换到使用 GPU 加速系统，HPC 和 AI 工作负载每年可节省超过 40 太瓦时的能源，相当于近 500 万个美国家庭的用电需求。

世界各地的用户都在记录使用 AI 和加速计算时的节能效益。

Murex 是一家总部位于巴黎的金融服务公司，每天有超过 6 万人使用该公司的交易和风险管理平台。Murex 公司测试了 NVIDIA Grace Hopper 超级芯片。在 Murex 的工作负载上，CPU-GPU 的组合与仅使用 CPU 的系统相比，能耗降低至其四分之一，完成时间缩短至其七分之一（见下图）。

Murex 量化研究负责人 Pierre Spatz 表示：“在风险计算方面，Grace 不仅是速度最快的处理器，而且更加节能，从而在交易领域使得绿色 IT 成为现实。”

与仅使用 CPU 的系统相比，Grace Hopper GPU 使 Murex 的能耗降低至其四分之一，性能提高了 7 倍

在制造业领域，纬创为 NVIDIA DGX 系统进行热应力测试的房间建立了数字副本，以改善现场的运营，其使用了工业数字化平台 NVIDIA Omniverse 和一种能够进行模拟仿真的 AI 的代理模型。

该数字孪生与数千个联网传感器相连，使纬创能够将其设施的整体能效提升了高达 10%。这相当于每年减少 12 万千瓦时的耗电量和高达 6 万千克的碳排放量。

根据最近的一项基准测试，The RAPIDS Accelerator for Apache Spark 可以将数据分析（一种广泛使用的机器学习形式）的碳排放量降低高达 80%，同时将平均速度提高 5 倍，并将计算成本降低至四分之一。

数千家公司（包括绝大多数《财富》500 强企业）使用 Apache Spark 来分析其日益增长的海量数据。使用 NVIDIA Spark 加速器的公司包括 Adobe 和 AT&T 和美国国税局等。

Insilico Medicine 首席执行官 Alex Zhavoronkov 表示：“这项创新对我们以及 AI 加速药物发现领域的每个人而言，都是一个重要的里程碑。”

安进、宝马、Foxconn、PayPal 等公司也正在使用加速计算和 AI 实现突破性成果。

在基础研究领域，美国能源部科学局下设机构——美国国家能源研究科学计算中心（NERSC）评估了其四个关键高性能计算和 AI 应用在搭载四颗 NVIDIA A100 Tensor Core GPU 的服务器上的运行结果，并与在双插槽 x86 CPU 服务器上的运行结果进行了对比。

研究人员发现，这些应用在经过 NVIDIA A100 GPU 加速后，平均能效提高了 5 倍（见下图）。其中一款天气预报应用的能效提高了近 10 倍。

使用 NVIDIA GPU 平均能效提高了 5 倍

全世界的科学家和研究人员都借助 AI 和加速计算来实现高性能和高效率。

NVIDIA 连续多年为 Green500 全球最节能超级计算机榜单上的系统提供支持。

行业和科学领域的诸多效益有时在预测中被低估了，这些预测只关注了训练超大型 AI 模型的能耗，而忽视了一个事实，AI 模型在其生命周期中大部分时间都能在消耗相对较低的能源的前提下，为用户提供上述各种效率。

最近的一项研究引用了几十个资料来源进行分析并指出，之前有关模型训练消耗能源多的预测是被夸大的。

华盛顿智库美国信息技术与创新基金会（ITIF）在其报告中表示：“正如对电子商务和视频流媒体能源消耗的早期预测最终被证明是夸大其词一样，对 AI 的估计也很可能是有误的。”

该报告指出，一个 AI 模型运行成本（以及所有效率提升）的 90% 都发生在模型训练完成并将其部署到应用中后。

该报告作者在最近播客中提出了自己的观点：“鉴于使用 AI 造福经济和社会，包括向低碳未来转型所带来的巨大机会，政策制定者和媒体必须更加严谨地审核有关 AI 对环境产生影响的说法。”

另一个来自华盛顿特区的组织 R Street Institute 的政策分析师对此表示赞同。

该组织在一篇 1200 字的文章中写道：“政策制定者需要做的是帮助大家认识到 AI 的潜在收益，而不是叫停。”

R Street Institute 提到了 AI 在药物发现、银行业务、股票交易和保险方面的明显优势并表示：“加速计算以及 AI 的兴起为未来带来了巨大利好，将在经济增长和社会福利方面带来显著的社会效益。”

该机构还表示，AI 可以提高电网、制造业和交通运输业的效率。

报告还提到了加速 AI 在应对气候变化和推动可持续发展方面的潜力。

R Street 表示：“AI 可以提高天气建模的准确性，进而改善公共安全，并且更加准确地预测农作物的产量。AI 还有助于开发更加精准的气候模型。”

Lisbon Council Research 在报告还指出，AI 在“推动解决气候变化问题所需的创新工作中发挥着至关重要的作用”，例如发现更加高效的电池材料。

ITIF 呼吁各国政府将 AI 作为实现低碳化的工具。

公共和私营组织机构已经在使用 NVIDIA AI 来保护珊瑚礁、加强对野火和极端天气的追踪以及促进可持续农业。

NVIDIA 也正在与数百家初创企业合作来使用 AI 解决气候问题。NVIDIA 还宣布了 Earth-2 的计划，该计划有望成为全球最强大的、气候科学专用的 AI 超级计算机。

自 1993 年成立以来，NVIDIA 一直致力于提高其所有产品的能效，包括 GPU、CPU、DPU、网络、系统和软件以及 Omniverse 等平台。

在 AI 领域，AI 模型的首要任务是通过推理来提供洞察以帮助用户提高效率。NVIDIA GB200 Grace Blackwell 超级芯片在 AI 推理方面的能效实现了显著提升。

在过去八年中，NVIDIA GPU 运行大语言模型的能效提高了 45,000 倍（见下图）。

得益于 NVIDIA GPU 的进步，LLM 推理能耗在八年内降低至原本的四万五千分之一

TensorRT-LLM 是软件领域的最新创新成果之一。它可以帮助 GPU 将 LLM 推理的能耗降低至三分之一。

一个令人惊讶的数据：如果汽车效率的提升可以像 NVIDIA 在其加速计算平台上所实现的 AI 效率的提升一样高的程度，那么汽车的油耗可达到每加仑 28 万英里。这意味着你可以用不到 1 加仑的汽油开车到月球。

从 2016 年到 2025 年，NVIDIA 的 AI 训练和推理效率提高了 10,000 倍，与汽车燃油效率的提升幅度形成了天壤之别（见下图）。

从 NVIDIA P100 GPU 到 NVIDIA Grace Blackwell 的 AI 效率跃升幅度与汽车燃油效率提升幅度的比较

如果网络基础设施运营过渡到 DPU，数据中心运营商每台服务器可节约 30% 的能源

去年，NVIDIA 设计了一种新型数据中心液冷技术，该技术的运行效率将比目前的风冷技术高出 20%，而且碳排放量更小。

这些只是 NVIDIA 为提高数据中心能效所作贡献的部分方式。

借助 NVIDIA 硬件、软件和网络，超级计算机可以实现能效提升

数据中心既是最高效的能源使用者之一，也是可再生能源的最大使用者之一。

ITIF 的报告指出，2010 年至 2018 年间，全球数据中心的计算实例增加了 550%，存储容量增加了 2400%，但由于硬件和软件方面的改进，能耗仅增加了 6%。

NVIDIA 将继续提升加速 AI 的能效，帮助科学界、政府和各行业用户加速实现可持续计算。

使用 NVIDIA 能效计算器找到提高能效的方法。了解更多信息，请访问 NVIDIA 可持续计算网站：https://www.nvidia.cn/data-center/sustainable-computing/。

点击“阅读原文”，查看完整 NVIDIA 2024 财年可持续发展报告。