GPU 直通值不值测试:2026 现场笔记
为什么「GPU 直通值不值测试」需要一份书面计划
要热迁移也许不值;要隔离则值。本地 AI 的硬件决定常常在群聊里拍板,一个月后就没人记得。等出了问题,没人知道当初为什么选这个电源、这个机箱。一页纸的计划就能避免这种情况。
花钱前先收集的信息
- 目标模型和量化等级,最好已经在别人的机器或租用算力上试过。
- 团队真实使用的最长上下文,用真实文档测量,不要拍脑袋。
- 最忙时段的同时在线人数。
- 环境限制:能接受的噪音、室温、电路,以及机器放在哪里。
- 谁来维护:驱动更新、拉取模型、备份都要有人负责。
把需求换算成硬件
内存是第一约束。按选定的量化估算权重大小,加上真实上下文下的 KV 缓存,再留出余量,避免下午最忙时推理程序被迫把层卸载到内存。可以用硬件测评做交叉核对。对小团队来说,算力速度没有大家想得那么关键,容量和稳定性更重要。
接下来是供电和散热。用便宜的插座功率计分别测空闲和持续负载时的墙插功耗,财务喜欢真实数字,你也能更早发现电源吃力。把防尘网清理写进维护日历,进风口堵塞是悄悄降频的常见原因。
常见错误
- 买了最大的卡,却配了来路不明的电源。
- 忘了第二张卡需要插槽间距、通道和更大的供电预算。
- 以为笔记本显卡在长时间负载下和同名台式卡表现一样。
- 跳过烤机,结果在演示现场出问题。
采购前要问的问题
- 系统、驱动和运行时各自占用之后,需要的模型还放得下吗?
- 大家真实粘贴的文档有多长,同时有几个人在粘贴?
- 工作时间持续负载的噪音和发热,房间能接受吗?
- 风扇或电源坏了谁来换,团队能接受机器停多久?
- 有没有清晰的升级路径,还是下一步就得换整个平台?
只要有一个问题答不清,就先租用或借用类似的硬件试一周。一周的真实使用比一个月看参数表更有用,也能让采购建立在自己的工作负载之上。
另见3000 元档配置。
速记要点
- 检索文本和上传文件一律视为不可信。
- 商用前先读模型许可证。
- 引用速度之前,用自己的提示词实测。
- 驱动和运行时版本一起固定。
作者:本地AI 1号网,深圳团队,专注本地大模型软硬件、装机与私有化部署。