TomsHardware 的编辑测算了 PCIe 4.0/5.0 NVMe 固态盘的净重均值(显然,仅针对无散热片型号),在记录了超过一百个样本后得出结论:8TB M2 固态盘均重 8.2 克,4TB 均重 8 克——双面贴片高容量盘并未显著增重。
由于 8TB 固态盘的售价不成比例地较 4TB 型号贵上不少,每根均价高达 1476 美元,按每克价值计算已超过黄金(184 美元 vs 148 美元)。即便是 4TB 型号,某些牌号的 NVMe SSD 也接近 8 克黄金的价值(1184 美元),比如企业盘,每克价值归贵过黄金毋庸置疑。

(昔日所谓金盘如今绝非戏言)
TomsHardware 的编辑指出,目前大部分消费级 4TB SSD 的售价在 800 美元以下,尽管还未达到贵如黄金的地步,较前两年则翻了一番不止。

许多人不明白为何闪存(Flash)也会搭上 AI 顺风车价格一路狂飙,最流行的说法是厂商扩产内存(RAM)挤占了闪存产线,实际上这个说法并不准确。
以群联 aiDAPTIV+ 技术为代表的 AI 计算加速平台使用闪存作为辅助内存池,可有效缓解 GPU VRAM 不足导致的效率损失。

经研究人员测算,DGX Spark 用于推理时 TTFT(首个 token 生成时间)约为 40 秒,使用 aiDAPTIV 后降为 9 秒;Strix Halo 的 TTFT 用时 36 秒,使用 aiDAPTIV 降为 6 秒。
在模型训练场景下,NVIDIA 平台会将所有内容加载至 GPU 内存,比如 70B 参数的 LLM 需要 20x70B=1.4TB 显存,需动用 18 块 H100 或 10 块 H200/8 块 B200/5 块 B300,用上 aiDAPTIV 技术后,训练被分解为多个部分,16GB 显存就能跑,性能损失只有 10% 左右。
(主控厂商)群联电子曾演示过一个更极端的例子,只使用两块 RTX Pro 6000 进行 Llama 3.1 405B 模型训练,硬件部分仅仅是 192GB 显存配 8TB aiDAPTIV SSD 缓存池,硬件成本在 5 万美元左右。
如果不用 SSD 缓存池,把显存扩充至 8TB 要买一大堆 NVIDIA AI 卡,硬件成本接近 400 万美元。
aiDAPTIV 的代价是……写入量极大,SSD 必须配置为 SLC 模式——按 8TB SLC 等于 32TB TLC 来算,闪存产线都忙不过来了!全行业普遍供不应求,缺口在 15%-20% 左右。
标准 aiDAPTIV SSD 的额定寿命是 100DWPD,而 2TB 消费级 SSD 的寿命大概是 0.3DWPD(用于 aiDAPTIV 只能坚持一个星期),从这个角度看,aiDAPTIV 缓存池里的 SSD 等同于耗材,进一步加剧了供应短缺局面。

由于扩建闪存工厂需要两年时间,即便厂商现在就扩产,产能要到 2028 年方可释放。前两年闪存价格持续走低,没有厂家愿意投资扩产,导致如今供不应求局面难以缓解。
硬盘市场同理,数据中心遍地开花,对大容量企业级硬盘的需求也水涨船高,但硬盘厂商这几年一直抱残守缺,根本没有扩产的念头,只有苦了松鼠党了。硬盘价格平均上涨 46%,容量越大上涨越厉害——希捷 24TB 酷鱼曾低至 239 美元,如今现货要卖 499 美元,很多电商平台还缺货。


登录后才可以发布评论哦
打开小程序可以发布评论哦