把模型对比做成可复现的实验
这里记录三件事:怎么做模型横评才站得住脚、跑一个模型到底要多少显存、以及每一分硬件预算花在哪里最值。
-
跑 70B 模型的显存账本:权重、KV cache 与量化
把「我这台机器能不能跑」拆成可计算的四项,附常见配置的换算表。2026-11-12
-
模型横评怎么做才不算耍流氓
题目集、采样参数、重复次数、置信区间——四个最容易作弊的地方。2026-11-11
-
推理卡的性价比起跳点
显存带宽、算力、价格三者的关系,以及为什么「够用」比「最强」更省钱。2026-11-10