Ollama没用上显卡

Ollama 显示 100% CPU，没用上显卡

你会看到的内容

100% CPU

是什么意思

`ollama ps` 会显示已加载模型放在哪里。"100% CPU" 表示完全没有放到显卡上；"48%/52% CPU/GPU" 这样的拆分表示显存装不下，有一部分在内存里运行。

为什么会出现

  • Ollama 没找到可用的显卡：驱动问题、容器没有 GPU 权限，或 AMD 显卡不在 ROCm 支持列表里。
  • 出现拆分比例：模型加上下文比显存大。

怎么解决

  1. 查看服务端日志里的 GPU 检测信息（Ollama 的故障排查文档列出了各系统的日志位置）。
  2. 如果是拆分，在计算器里核对大小，换更小的档位，或调低 num_ctx。
  3. Linux 上的 AMD：不在列表里的 Radeon 可以尝试 HSA_OVERRIDE_GFX_VERSION（见对应页面）。

改参数之前，先核对大小

大多数显存报错其实是大小问题。把模型、量化档位、上下文和你的显卡填进显存计算器：如果那里是红色，什么参数都没法让它装下。

打开显存计算器常见显卡能开多长上下文

相关指南

相关报错

核对来源

报错原文于 2026-10-26 从源码中读取核对。