全球数字财富领导者

Blackwell缓解了AI的能源焦虑

2024-06-25 18:30:18
老虎证券
老虎证券
关注
0
0
获赞
粉丝
喜欢 0 0收藏举报
— 分享 —

生成式人工智能所需的能耗极其巨大。有外国分析师认为,Blackwell号称将能源效率提升25倍,这将是英伟达另一巨大的护城河!

作者:Envision Research

能源成本是瓶颈问题

虽然生成式人工智能提供了看似无限的潜力,但这些系统的成本很高——至少在目前阶段是如此。但人工智能有一个关键瓶颈,这个就是能源消耗

本文将论证英伟达的下一代平台Blackwell平台最终解决了这一关键问题。与之前的Hopper相比,英伟达的Blackwell平台在成本和能源效率方面有了显著改善。这些改进为英伟达芯片的更广泛部署奠定了基础,特别是在与其成熟的软件生态系统相结合的情况下。

在AI扩张中有各种问题,从技术到法律和道德。但一个较少被讨论的问题是能源成本。现代人工智能应用所消耗的能量令人难以置信,而且能源成本呈指数级增长,如果我们没有更高效的芯片,能源成本将是不可持续的。例如,每个Nvidia的H100芯片在峰值运行时消耗700W的能量。这比普通美国家庭的用电量还要多。据估计,英伟达的高性能人工智能芯片消耗的能源总量超过了许多小国。

来源:DBI Insights

即使是一个数据中心,通常使用数千到数万个这样的芯片,根据微软工程师的评论,峰值功耗可能会使一个地区甚至一个州的电网过载。

来源:X.com

问题还不止于此。在所有消耗的能量中,只有一小部分用于实际计算,其中的主要部分变成了热量,然后需要消散以防止过热和系统故障。因此,节能的人工智能芯片,通过减少源头的能耗,可以产生连锁反应,从而大大降低计算和冷却的总体能耗。

接下来将解释 英伟达的 Blackwell 如何以非常有效的方式解决这些问题。

能源效率提升25倍

英伟达最近开始推出下一代平台Blackwell,该平台承诺大幅提升性能,并节省成本和能源。性能升级这里就不多做赘述。在这里将集中讨论能源方面。英伟达声称,它的Blackwell可以将训练大规模人工智能模型等工作负载的成本降低25倍(见下表中的基准数据),从而在给定的性能水平下显著降低功耗。

来源:英伟达

这些改进不仅有助于维持英伟达在该领域的主导地位,而且还能使其芯片的使用在经济上可持续。购买它的芯片是昂贵的,但运行它们更是昂贵。作为预算分类,有份福布斯报告中收集了以下信息:

1)这些芯片的成本高达数百万美元。根据OpenAI GPT-3语言模型的技术概述,每次训练至少需要价值500万美元的GPU。

2)这些模型在开发和调整过程中需要很多很多次的训练,所以最终的成本远远超过这个数字。今年7月,在麻省理工学院的一次活动上,当被问及训练基础模型的成本是否在5000万至1亿美元之间时,OpenAI的联合创始人Sam Altman回答说,“不止于此”,而且还在变得越来越昂贵。

3)成本还不止于此。一旦模型训练完成,运行推理也是昂贵的。估计表明,在 2023 年 1 月,ChatGPT 使用了近 3 万个 GPU 来处理数亿的日常用户请求。华盛顿大学电子与计算机工程助理教授 Sajjad Moazeni 表示,这些查询每天可能消耗大约 1 GWh 的能源。

美国每千瓦时(kWh)的平均电力成本在 12-17 美分之间(取决于你咨询的来源)。以14美分计算,每天 1 GWh 转化为每天 14 万美元的成本,每年 5100 万美元——这大约是芯片前期成本的 10 倍,几乎与训练模型本身的成本持平。

通过 25 倍的降低(加上前面提到的连锁反应),这是一个改变游戏规则的东西。它从根本上改变了最终用户的预算分配。

而 Blackwell 的继任者,被称为 Rubin,已经在筹备中,并计划在 2026 年推出。预计 Rubin 将在性能和节能方面在 Blackwell 的基础上进一步改进,其各种技术改进(例如,Versa CPU、HBM4 存储器等)将进一步扩大英伟达的护城河。

其他风险和总结

就下行风险而言,估值风险是首要风险。这是许多看空者倾向于强调的风险,这里有很好的理由。值得注意的是,如下图所示(这张图经常用于突出估值风险),英伟达目前的股价接近其销售额的40倍,是思科在互联网泡沫顶峰时期的数倍。发生在思科身上的事情——正如俗话所说,现在已经成为历史——肯定也会发生在英伟达身上。

然而,这张图表没有显示出一个关键的区别:英伟达现在实际上赚了很多钱,远远超过了思科在2000年代的收入。如第二张图表所示,思科的市盈率超过200倍,而英伟达的市盈率为47倍(以FWD为基础)。

来源:Seeking Alpha 
来源:Seeking Alpha 

另一个不利因素是竞争加剧。除了来自其他芯片公司(如AMD、英特尔)的压力外,许多非芯片公司(如苹果、谷歌、Meta 等)也在开发自己的AI芯片。例如,如下图所示,AMD的研发预算在过去三年里翻了一倍多,超过了英伟达。值得注意的是,收购赛灵思大大加强了AMD的市场地位,并扩大了自适应计算市场的潜力。赛灵思是FPGA芯片的领导者和发明者,这在人工智能时代也是一项很有前途的技术。

FPGA芯片的最大优势是灵活性:即使在制造和安装之后,也可以灵活地重新编程或功能升级。考虑到先进芯片的成本和快速发展的计算环境,这是一个关键的战略优势。

来源:Seeking Alpha

总而言之,尽管竞争格局和高估值(尽管注意 AMD 的 FWD 市盈率也在 46 倍左右),但考虑到增长催化剂,英伟达依旧很有前景。正如本文所论述的那样,Blackwell的25倍节能将改变游戏规则,为英伟达芯片的广泛部署铺平道路。软件生态系统和 Rubin 平台等新产品的良好管线有助于维持增长轨迹。

$英伟达(NVDA)$

1. 欢迎转载,转载时请标明来源为FX168财经。商业性转载需事先获得授权,请发邮件至:media@fx168group.com。
2. 所有内容仅供参考,不代表FX168财经立场。我们提供的交易数据及资讯等不构成投资建议和依据,据此操作风险自负。
go