llama.cpp模型文件的问题

llama.cpp 报 wrong number of tensors

报错原文

done_getting_tensors: wrong number of tensors; expected <n>, got <m>

尖括号 <…> 里的内容每次运行都会不同。

是什么意思

文件里的张量数量和这个版本的 llama.cpp 对该架构的预期不一致 —— 文件和程序对模型结构的理解不同。类似的报错还有 "tensor … has wrong shape"。

为什么会出现

  • 这个 GGUF 是用比当前更新的 llama.cpp 转换的（该架构新增了张量）。
  • 或者反过来：旧的转换文件和新版 llama.cpp 已经对不上。
  • 把视觉模型的投影器（mmproj）文件当成主模型加载了。

怎么解决

  1. 先更新 llama.cpp（或 Ollama / LM Studio），常见情况这样就能解决。
  2. 如果还不行，重新下载近期转换的文件，并确认 -m 指向模型本体，投影器用 --mmproj 指定。

相关报错

核对来源

报错原文于 2026-10-26 从源码中读取核对。