–
内存构成 vs 你的硬件
明细
参数字节数–
KV cache–
总需求(含开销)–
预估解码速度–
量化直觉(同参数不同精度)
量化位数减半 ≈ 内存减半 ≈ 速度翻倍——代价是质量。llmfit 的 quality 维度会把这个 trade-off 计入评分;本页只算内存账。
量化位数减半 ≈ 内存减半 ≈ 速度翻倍——代价是质量。llmfit 的 quality 维度会把这个 trade-off 计入评分;本页只算内存账。