Reddit 用户 markpronkin 花 35 美元(3,000 卢布)购买了一台二手加密货币矿机,里面有九块英伟达 P106-100 GPU,显存总量为 54GB。这台设备最初是在一间潮湿的车库里被发现的。由于卖家也无法确认硬件是否正常工作,买家在未测试设备的情况下压低价格并承担了风险。首次使用时,九块 GPU 全部正常运行,并成功在本地以每秒超过 30 个代币的速度运行一个 350 亿参数的 AI 模型。这笔购买相当于每 GB 显存成本约 65 美分,将 2017 年左右的加密货币挖矿硬件重新用于 AI 工作负载。
Reddit 用户以 35 美元购买未经测试的矿机
根据一篇标题为“54gb vram for 35$”的 Reddit 帖子,markpronkin 在俄罗斯分类信息网站 Avito 上发现了这台矿机。卖家多年前购买了一间车库,并在里面发现了这些设备。这台矿机已经生锈,markpronkin 表示双方“完全不知道它是否能工作”。买家提出测试硬件,如果设备正常就支付更多钱,但卖家拒绝了。最终谈妥的价格为 3,000 卢布,约合 35 美元。markpronkin 表示,价格足够低,值得承担这一风险。
九块英伟达 P106-100 GPU 提供 54GB 显存
这台矿机包含九块英伟达 P106-100 GPU。这些 Pascal 架构显卡大约于 2017 年年中推出,每块显卡配备 6GB GDDR5 显存。markpronkin 将它们形容为“基本上就是 GTX 1060 6GB”。技嘉的 P106-100 配备 8,008 MHz 显存和 192 位总线宽度,每块卡的显存带宽约为 192 GB/s。这些硬件最初是为加密货币挖矿设计的。由于这些 GPU 的计算能力版本低于 7.5,英伟达在 CUDA 13.0 中移除了对它们的离线编译支持。580 驱动分支是最后一个支持 Pascal GPU 的版本,不过安全更新将持续到 2028 年 10 月。
该系统配备了一颗性能较弱的 Celeron CPU 和容量有限的系统内存,造成性能不平衡。主板使用 PCIe 2.0 x1 插槽,限制了数据传输速度。一位评论者估计 GPU 总 TDP 为 1,080W,但 markpronkin 表示,在他们的情况下电费免费,而且俄罗斯的电费通常也很便宜。
AI 模型实现每秒超过 30 个代币的性能
markpronkin 首次测试使用了阿里巴巴的 Qwen3.6-35B-A3B 模型,运行环境为 Ollama。这是一个混合专家模型。根据 Hugging Face 上 Qwen 的模型卡片,该模型“总计 350 亿个参数,激活 30 亿个参数”。模型文件约为 24GB。测试在未进行优化的情况下达到了“每秒超过 30 个代币”。markpronkin 表示,通过“ MTP 和一些优化”后,性能可能会提升,这里指的是多代币预测。
当另一位用户指出,仅使用 CPU 也可能实现类似性能时,markpronkin 回应道:“一台 35 美元的设备,完全不做任何优化?”该用户补充说,Qwen3.8-27B 等稠密的非 MoE 模型不太可能运行得同样好,但“它应该能让任何完全装入显存的 MoE 模型表现得相当不错”。
在 8 位量化下,Qwen3.6-35B-A3B 需要 36.9GB 显存,可以装入 54GB 显存。4 位量化的 Llama 3.3 70B 需要 42.5GB,也与该系统兼容。在 5 位量化下,同一模型接近 50GB,几乎没有空间留给上下文。更大的模型无法在这一配置上运行。
买家计划将总显存升级至 72GB
markpronkin 表示,计划将硬件转移到一个新机箱中,该机箱最高支持 i7-7700K CPU 和 32GB 内存。新机箱可容纳 12 块 GPU。再购买三块 P106-100 后,显存总量将达到 72GB。markpronkin 告诉 WiredEntrepreneur,这一方案具有吸引力,因为它“可以无限使用,而且真正保护隐私”。买家表示,更多显存能为自托管 AI 应用提供更大的自由度。markpronkin 指出,这些计算专用的 P106 显卡售价约为对应 GTX 显卡的 50%。
常见问题
Reddit 用户花 35 美元购买了什么硬件?
该用户购买了一台加密货币矿机,内含九块英伟达 P106-100 GPU,显存总量为 54GB。这台设备最初是在一间潮湿的车库里发现的,随后被挂在俄罗斯分类信息网站 Avito 上出售。
这台矿机实现了怎样的 AI 性能?
这台矿机在首次测试中成功通过 Ollama 运行了一个 350 亿参数的 AI 模型(Qwen3.6-35B-A3B),速度超过每秒 30 个代币,且未进行优化。
买家对这批硬件有什么计划?
买家计划将硬件转移到一个新机箱中,支持最高 i7-7700K CPU 和 32GB 内存,并可容纳 12 块 GPU;通过增加三块 P106-100,显存总量将达到 72GB。
免责声明:以上内容(如有图片或视频亦包括在内)均为平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。
本站尊重他人的知识产权、名誉权等法律法规所规定的合法权益!如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到qklwk88@163.com,本站相关工作人员将会进行核查处理回复