Docker 报 could not select device driver

报错原文

could not select device driver "" with capabilities: [[gpu]]

是什么意思

Docker 收到了使用 GPU 的请求（--gpus all），但没有注册任何 GPU 设备驱动。在 NVIDIA 上，这个驱动来自 NVIDIA Container Toolkit，它没有安装或没有配置好。

为什么会出现

• 宿主机上没有安装 NVIDIA Container Toolkit。
• 装了，但没有配置 Docker 使用它，或配置后没有重启 Docker。
• 显卡是 AMD 的：--gpus 只适用于 NVIDIA。

怎么解决

1. 安装 NVIDIA Container Toolkit，然后执行 sudo nvidia-ctk runtime configure --runtime=docker 和 sudo systemctl restart docker。
2. 用 docker run --rm --gpus all ubuntu nvidia-smi 验证。
3. AMD 显卡去掉 --gpus，改为传入设备：--device /dev/kfd --device /dev/dri，并使用 ROCm 镜像。

相关指南

• Docker：Ollama 的 NVIDIA / AMD GPU 透传
• Docker Compose LLM 全家桶：Ollama + Open WebUI

相关报错

• failed to initialize CUDA：没识别到显卡