Qwen2.5 1.5B Instruct

1.5B

Alibaba Qwen2.5

支持 128K 上下文的微型 Qwen,摘要和对话能力出人意料。

181.0K HF 下载量142 点赞Qwen/Qwen2.5-1.5B-Instruct-GGUF· 数据更新于 8/14/2026
消费级显卡Mac / 苹果芯片CPU / 轻量VPS

131K

最大上下文

2

量化变体

GGUF Q8_0

最佳质量

99.6%

精度保留率

量化变体对比

各量化级别的显存、质量损失及 RTX 4090 推理速度

实测 = 本站基准 · 估算 = 公式推算 · 社区 = 公开报告

格式级别BPW显存PPL 损失速度来源操作
GGUFQ4_K_M4.851.4 GB4.0%480 tok/s估算
计算HF
GGUFQ8_08.52.2 GB0.4%410 tok/s估算
计算HF