#显存估算

一个 7B 模型推理要多少显存？训练呢？怎么估算？

考察显存估算的基本功：推理按参数量×精度字节数加 KV cache，训练按 Adam 的 16-18 倍系数拆解，附 7B/70B 的口算公式与量化收益。