Qwen2-VL 7B Instruct
7BAlibaba Qwen2
视觉语言模型，支持视频理解，OCR 和图表阅读能力出色。
消费级显卡Mac / 苹果芯片
33K
最大上下文
2
量化变体
GGUF Q4_K_M
最佳质量
96.2%
精度保留率
量化变体对比
各量化级别的显存、质量损失及 RTX 4090 推理速度
实测 = 本站基准 · 估算 = 公式推算 · 社区 = 公开报告
相似模型
与 Gemma 3 对比4B
Gemma 3 4B IT
Google Gemma 3
消费级显卡Mac / 苹果芯片
3.0 GB最低显存·99.8%精度
Google Gemma 3 多模态 4B，128K 上下文，8GB 显卡可跑图文理解。
8B
Llama 3.1 8B Instruct
Meta Llama 3.1
消费级显卡Mac / 苹果芯片
3.2 GB最低显存·99.9%精度
Meta 旗舰 8B 模型，128K 上下文，端侧部署最优选择之一。
7B
Qwen2.5 7B Instruct
Alibaba Qwen2.5
消费级显卡Mac / 苹果芯片
4.8 GB最低显存·99.3%精度
阿里 Qwen 系列 7B，性能远超同级，代码能力尤其突出。
3.8B
Phi-3.5 Mini Instruct
Microsoft Phi
消费级显卡Mac / 苹果芯片
2.5 GB最低显存·99.8%精度
Microsoft 的小巧精悍之作，端侧部署最佳 4B 模型之一。