全天候科技 08-29
大摩实测数据中心回报率:GPU投入ROI非常高,硬件回收期在一年之内
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

本文作者:蒋紫涵

来源:硬 AI

AI 热潮推升算力需求,GPU 租赁到底挣不挣钱?

8 月 27 日,摩根士丹利 Joseph Moore 及其团队发布报告称,

GPU 租赁市场目前仍然供不应求,投资回报率(ROI)极高,虽然 H100 的租赁价格有所下降,但价格的绝对水平表明回本期在一年以内。对数据中心投资者而言,英伟达仍是最安全的选择。

保守估计下,投资数据中心会产生 30%-50% 的内部收益率。但是, GPU 租赁在主流平台以外还存在更便宜的价格,这会影响到投资者的回报。

随着越来越多的公司通过云计算构建 AI 应用程序,生成式 AI 市场的重要组成部分——通信服务供应商(CSPs)和 teri-2/3 云供应商(teri-2/3 clouds)在市场中的回报率越来越受到关注。

目前,GPU 租赁分为 spot 实例定价(spot instance pricing)和 On-Demand 实例定价(On-Demand instance pricing)。本次,大摩研究了市场上的 GPU spot 实例定价,以及一些 GPU 的供应来源,如第三方市场平台 GPUlist.ai 等。

GPU 供不应求,资回报率极高

根据收集到的数据,大摩认为,GPU 供应仍然比较紧张,需求继续超过供应。如下图所示,过去 6 个月中 H100 租赁价格有所下降,但价格的绝对水平表明硬件的投资回报率非常高,回本期在一年以内。

由于需求增加,H100 现货价格最初处于不切实际的高位,并随着供应的改善逐渐下降。

大摩表示,如果这些 spot 实例定价是各 GPU 供应商在当前的清算价格,那么 AWS H100 现货每小时租赁价格约为 4.50 美元意味着在保守估算下,投资新建 100MW 数据中心可能会产生 30%-50% 的内部收益率。

根据利润边际估算,2025 年 GPU IaaS 可以实现 50% 以上的毛利率。这一回报相当具有吸引力,但是,投资者还关注回报的可持续性。随着专注 GPU 云计算的公司(如 Coreweave、Lambda Labs 等)继续扩大规模,这个领域可能会变得更加重要。

英伟达曾表示,每 1 美元对他们 GPU 的投资,会在 4 年内产生高达 5 美元的收入。大摩认为,这一估算过于理想化,因为没有考虑到租赁价格的下降以及 GPU 使用率未达到 100%。

大摩假设:GPU 租赁价格每年下降 20%,H100 的初始租赁价格为每小时 4 美元,6 年内利用率达到 80%。基于以上三条假设,大摩估算一个耗资 32 亿美元的新建 100MW 数据中心投资在 6 年内可以产生 78 亿美元的收入,带来 38% 的无杠杆税前内部收益率。

GPU 投资的高额回报下,问题仍在存在

大摩表示,虽然投资数据中心的内部收益率很高,但是投资者也不能过于乐观,因为在主要云服务提供商之外,GPU 租赁还有更便宜的价格。

根据 GPU 计算市场 GPUlist.ai 上的数据,H100 的每小时租赁价格中位数为 2.27 美元,比 AWS 上的价格低了 80% 以上。其他云服务提供商如 Paperspace,在 3 年承诺期内提供类似的低价。对于需要租赁数百万小时的消费者来说,这是一个非常具有吸引力的折扣。

并且,GPU 租赁通常与较少的软件相关联,这使得消费者更容易在云服务之间切换,以追求最优价格。

还有一个问题是,GPU spot 实例定价能否够在各方面满足消费者的需求。

在这一定价方式下,GPU 的转手率很高,它们似乎不适合用于训练需要长时间稳定计算资源的大规模模型。此外,在列出的较低价格下,大摩表示他们不确定 GPUlist.ai 能否提供足够的 GPU 来满足消费者的需求。模型训练往往存在严格的正常运行时间要求,这使得这些 GPU 很可能只能用于实验或小规模模型的微调。

大摩还注意到,GPUlist.ai 上列出的 GPU 中,使用 InfiniBand(一种用于高性能计算的计算机网络通信标准)的比例非常高,这说明英伟达的客户群体不断增长,在盈利方面会表现地更好。

英伟达仍是最安全的选择

在大摩的理论数据中心模型下,为了获得相同的回报,云服务提供商需要将 Mi300X 的价格设定在比 H100 低 25-30% 的水平。这表明 AMD 目前的定价是合理的,可以帮助 AMD 在市场中站稳脚跟。但是,这一领域对 AMD 的采纳率将是决定其能否获得长期成功的关键。

但是,与英伟达相比,价格低 25% 对于一次性使用案例来说并不具有决定性作用,因为这可能需要额外的开发资源来完善 AMD 不太成熟的生态系统,而在 AI 市场中时间就是一切。

对于云服务提供商而言,英伟达仍然是租赁市场中安全的选择,因为除英伟达以外的任何选择,机会成本和风险都是巨大的。

本文来自微信公众号 " 硬 AI",关注更多 AI 前沿资讯请移步这里

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

逗玩.AI

逗玩.AI

ZAKER旗下AI智能创作平台

相关标签

gpu 数据中心 ai 供应商 英伟达
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论