快科技 10 月 7 日消息,近日一位 Reddit 网友发帖分享自己的捡漏经历,他在俄罗斯二手交易平台 Avito 上,以约 3000 卢布(约 250 元人民币)的价格购入了一台搭载 9 张显卡的退役矿机,利用其 54GB 的总显存成功运行了本地 AI 模型。
这套矿机上安装了 9 张 P106 显卡。P106 是 GTX 1060 的挖矿专用版本,单卡配备 6GB 显存,9 张合计可提供 54GB 显存。

价格方面,卖家最初要价 5000 卢布(约 395 元人民币),经过一番讨价还价,买家最终以 3000 卢布成交,相当于直接砍到六折。
从能力上看,这套系统在 8-bit 量化下可以运行 Qwen3.8-27B 等模型,若采用 4-bit 或 5-bit 量化,最高可支持 70B 参数级别的模型。
测试数据显示,在 Ollama 上运行 Qwen3.6-35B-A3B 时,token 生成速度达到每秒 30 个以上,而且后续经过优化仍有提升空间。
不过尽管大容量显存非常诱人,但这种架构存在明显的物理瓶颈。简单来说,决定 AI 推理效率的不仅是显存容量,还有数据传输带宽。
典型的矿机主板使用的是 PCIe x1 接口,这种狭窄的通道会导致多张显卡在频繁交换数据时出现严重的性能衰减。
目前该用户尚未公布该系统在满载状态下的功耗数据以及长期稳定性表现。



登录后才可以发布评论哦
打开小程序可以发布评论哦