Phi-4 Mini Instruct

3.8B

Microsoft Phi

最新 Phi mini,数学和代码能力提升,4B 级性能强者。

消费级显卡Mac / 苹果芯片CPU / 轻量VPS

131K

最大上下文

3

量化变体

GGUF Q8_0

最佳质量

99.8%

精度保留率

量化变体对比

各量化级别的显存、质量损失及 RTX 4090 推理速度

实测 = 本站基准 · 估算 = 公式推算 · 社区 = 公开报告

格式级别BPW显存PPL 损失速度来源操作
GGUFQ4_K_M4.852.8 GB3.5%305 tok/s估算
计算HF
GGUFQ8_08.54.4 GB0.2%262 tok/s估算
计算HF
AWQINT442.5 GB4.8%395 tok/s估算
计算HF