Qwen3 1.7B Instruct

1.7B

Alibaba Qwen3

迷你 Qwen3,支持思考模式。Q4 约 1.4GB,适合手机旁路、NUC 与常驻本地 Agent。

92.1K HF 下载量57 点赞Qwen/Qwen3-1.7B-GGUF· 数据更新于 8/14/2026
消费级显卡Mac / 苹果芯片CPU / 轻量VPS

33K

最大上下文

3

量化变体

GGUF Q8_0

最佳质量

99.6%

精度保留率

量化变体对比

各量化级别的显存、质量损失及 RTX 4090 推理速度

实测 = 本站基准 · 估算 = 公式推算 · 社区 = 公开报告

格式级别BPW显存PPL 损失速度来源操作
GGUFQ4_K_M4.851.4 GB3.0%280 tok/s社区
计算HF
GGUFQ8_08.52.1 GB0.4%240 tok/s估算
计算HF
AWQINT441.2 GB4.0%320 tok/s估算
计算HF