当前位置:首页 > 调试心得 > 正文内容

ollama 容器不能调用英伟达显卡的问题处理

Q师傅2026-02-09调试心得13

启动ollama容器报错

stderr: Container ollama Creating Container ollama Created Container ollama Starting Error response from daemon: could not select device driver "nvidia" with capabilities: [[gpu]] , err: exit status 1


遇到的这个错误是因为 1Panel 部署 ollama 容器时,Docker 无法找到支持 GPU 的 NVIDIA 驱动,导致容器启动失败。这个错误的核心原因是 Docker 没有正确配置 NVIDIA 容器运行时(nvidia-container-runtime),无法识别和调用 GPU 资源。

错误原因解析

could not select device driver "nvidia" with capabilities: [[gpu]] 这句话的意思是:

Docker 尝试为 ollama 容器分配 GPU 资源,但系统中没有安装 / 配置 NVIDIA 容器驱动

即使你有 NVIDIA 显卡和驱动,Docker 也需要专门的运行时插件才能调用 GPU

1. 先清理错误的源文件

# 删除包含 HTML 内容的错误源文件
sudo rm /etc/apt/sources.list.d/nvidia-container-toolkit.list

2. 添加 NVIDIA 通用 DEB 源(核心步骤)

# 1. 确保 GPG 密钥已正确安装(如果之前装过可跳过)
curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg

# 2. 添加通用的 DEB 源(适配所有 DEB 系系统)
echo "deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://nvidia.github.io/libnvidia-container/stable/deb/amd64 /" | sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list

# 3. 如果是 ARM64 架构(如鲲鹏/飞腾服务器),替换上面这行:
# echo "deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://nvidia.github.io/libnvidia-container/stable/deb/arm64 /" | sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list



3. 安装 NVIDIA Container Toolkit

# 更新源(此时不会再返回 HTML 错误)
sudo apt-get update

# 安装核心包
sudo apt-get install -y nvidia-container-toolkit

# 配置 Docker 启用 NVIDIA 运行时
sudo nvidia-ctk runtime configure --runtime=docker

# 重启 Docker 生效
sudo systemctl restart docker


扫描二维码推送至手机访问。

版权声明:本文由 Greatqiu.cn Q师傅知识库 发布,如需转载请注明出处。

本文链接:https://www.greatqiu.cn/?id=284

分享给朋友:

相关文章

海康威视监控平台国标级联非国标编码规则监控点不能显示问题

可以修改配置文件:\hikvision\web\components\ncg.1\conf\cascade\option.xml 将<bCheckRes>1</bCheckRes><!-- 是否开启联网目录规范校验,只针对国标-->的1改为0即可…

通俗简单理解VLAN的Hybrid和Trunk端口的区别

小编之前发的一篇关于端口VLAN的介绍,通过图文加载,声情并茂还是非常通俗得能够了解端口vlan 的 taged 和 untaged,今天小编再用更通俗语言,讲解一下Hybrid和Trunk端口的区别:Hybrid和Trunk端口主要有如下几个区别…

新手小白会计科目表扫盲一览表

新手小白会计科目表扫盲一览表

一、资产类 流动资产  01    库存现金:存在保险柜的钱 02    坏账准备:对方欠我的钱有可能收不回来,我记着 03    银行存款:放到银行的钱 04    材料采购:计划成本下采购材料用的 05 …

翰文进度计划软件(横道图,甘特图)工程管理神器

翰文进度计划软件(横道图,甘特图)工程管理神器

翰文进度计划软件免费版对于工程建筑工作人员来是一款十分实用的建筑帮手。该软件能够更好的帮助工程建筑人员快速高效绘制建筑图绘制建筑图,翰文进度计划软件是无需进行设计草稿而是直接用可以鼠标在屏幕上进行设计绘图。 软件功能 1.提供符合国家标准的各专业图库,用户也可以自定义图标图例保存备用,完全满足绘制施工现场平面布置图、安全标志布置图的需要。 2.系统提供了强大的专业绘图工具,不仅提供常规的…

远程继电器在工程上的应用

远程继电器在工程上的应用

做施工项目的经常会遇到需要远程控制一些电器的情况,可以用wifi 或者4G  继电器来做到远程控制设备,分为以下几种情况情况一:控制电器设备功率比较小,如电灯等:…

飞牛安装特斯拉V100显卡驱动及CUDA工具包

飞牛安装特斯拉V100显卡驱动及CUDA工具包

飞牛系统实际上是debain 系统,飞牛安装好V100显卡,可以在资源管理中识别该显卡,但是识别不了显存尝试从应用商城安装英伟达得驱动,两个驱动安装都不行只能手动安装了解到安装这个驱动就安装2样东西,V100驱动,cuda工具包,其中有几个前提条件分别如下1、驱动要与linux内核版本匹配,我也不知道啥内核能匹配,只是单纯问了一下豆包2、安全启动开启:进入 BIOS/UEFI,关闭 Secure…

发表评论

访客

看不清,换一张

◎欢迎参与讨论,请在这里发表您的看法和观点。