Qwen3 30B-A3B Instruct

30B-A3B

Alibaba Qwen3

Qwen3 MoE,仅 3B 激活参数。Q4 约 19GB,16GB 显卡上超越 QwQ-32B。

93.9K HF 下载量77 点赞Qwen/Qwen3-30B-A3B-GGUF· 数据更新于 8/14/2026
消费级显卡Mac / 苹果芯片

41K

最大上下文

3

量化变体

GGUF Q5_K_M

最佳质量

98.9%

精度保留率

量化变体对比

各量化级别的显存、质量损失及 RTX 4090 推理速度

实测 = 本站基准 · 估算 = 公式推算 · 社区 = 公开报告

格式级别BPW显存PPL 损失速度来源操作
GGUFQ4_K_M4.8519.0 GB2.4%95 tok/s实测
计算HF
GGUFQ5_K_M5.6822.0 GB1.1%82 tok/s实测
计算HF
AWQINT4417.5 GB3.4%118 tok/s实测
计算HF