驱动之家 昨天
单台服务器600TB!NVIDIA疯狂吞噬全球NAND供应
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

快科技 8 月 17 日消息,NVIDIA Vera Rubin 平台的量产爬坡正在挤压 TLC NAND 闪存供应,512Gb TLC NAND 现货价格在 6 月回落后重新升至 21 美元。

NVIDIA 为 Vera Rubin 平台引入了上下文存储扩展技术(Context Memory eXtension,CMX),用于处理 AI 模型注意力层生成的 KV 缓存。

CMX 在 HBM 和传统后端网络存储之间构建了一个中间存储层,底层是大量 TLC 闪存,通过 NVIDIA BlueField-4 DPU 连接到 Rubin GPU 集群,通过 Spectrum-X 以太网实时处理 KV 缓存。

硬件规模上,单台 2U CMX 服务器容纳 600TB TLC 闪存,四颗 DPU 各管理 150TB 上下文存储。多台 CMX 服务器组成一个部署集群后,存储总容量可达 9600TB 即 9.6PB。这意味着每一个 Rubin 集群都要消耗近 10PB 的 TLC 闪存,对 NAND 供应的挤压效应可想而知。

与此同时,AI 工作负载对高密度高性能企业级 SSD 的需求也在同步攀升,进一步加剧 TLC NAND 的供应紧张。

目前 NVIDIA 消耗的 TLC NAND 大部分通过长期合同锁定,但需求的绝对规模正在收紧现货市场,512Gb TLC NAND 现货价在 6 月曾跌破 21 美元,如今重新站上这一关口,后续走势仍有待观察。

另外此前有传言称 NVIDIA 可能削减每颗 GPU 的 HBM4E 容量以保利润率,但美国银行近日否认了这一消息。美国银行认为任何潜在的降规格都只是应对短期供应紧张的临时措施,而非永久性的低容量 SKU。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

tlc nand 闪存 nvidia 美国银行
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论