Qwen3 14B Instruct

14B

Alibaba Qwen3

Qwen3 14B — 2026 Qwen 系列中推理能力与显存占用的最佳平衡点。

93.5K HF 下载量120 点赞Qwen/Qwen3-14B-GGUF· 数据更新于 8/14/2026
消费级显卡Mac / 苹果芯片

41K

最大上下文

4

量化变体

GGUF Q5_K_M

最佳质量

98.8%

精度保留率

量化变体对比

各量化级别的显存、质量损失及 RTX 4090 推理速度

实测 = 本站基准 · 估算 = 公式推算 · 社区 = 公开报告

格式级别BPW显存PPL 损失速度来源操作
GGUFQ4_K_M4.8510.5 GB2.6%88 tok/s实测
计算HF
GGUFQ5_K_M5.6812.2 GB1.2%78 tok/s实测
计算HF
AWQINT449.5 GB3.5%115 tok/s实测
计算HF
EXL24.65bpw4.6510.0 GB1.8%125 tok/s实测
计算HF