内存 fit 计算器

AlexsJones/llmfit · 模型内存估算 + fit 分级 + tok/s 预估 ← 返回项目详情
–

内存构成 vs 你的硬件

参数占用
–
KV cache
–
总需求
–
显存上限
–

明细

参数字节数– KV cache– 总需求(含开销)– 预估解码速度–

量化直觉(同参数不同精度)

量化位数减半 ≈ 内存减半 ≈ 速度翻倍——代价是质量。llmfit 的 quality 维度会把这个 trade-off 计入评分;本页只算内存账。