wsl中ollama不能使用gpu加速

最新推荐文章于 2025-05-08 16:53:56 发布

zeloas

最新推荐文章于 2025-05-08 16:53:56 发布

阅读量2.4k

点赞数 1

CC 4.0 BY-SA版权

分类专栏：大模型文章标签： linux 服务器前端

本文链接：https://blog.csdn.net/yao_zhuang/article/details/137942674

文章描述了用户在使用GPU加速时遇到的问题，由于机器可能进入休眠状态，WSL中的GPU管理库无法正常加载，导致只能使用CPU。解决方法是重启WSL。修复后的日志显示NvidiaGPU被检测到并成功加载了CUDA管理库。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

之前还能有gpu加速的，突然一次发现不能加速了, 启动之后发现只能用cpu了

log

time=2024-04-19T00:05:08.213+08:00 level=INFO source=images.go:806 msg="total blobs: 80"
time=2024-04-19T00:05:08.248+08:00 level=INFO source=images.go:813 msg="total unused blobs removed: 43"
time=2024-04-19T00:05:08.249+08:00 level=INFO source=routes.go:1110 msg="Listening on 127.0.0.1:11434 (version 0.1.29)"
time=2024-04-19T00:05:08.250+08:00 level=INFO source=payload_common.go:112 msg="Extracting dynamic libraries to /tmp/ollama3092358058/runners ..."
time=2024-04-19T00:05:15.442+08:00 level=INFO source=payload_common.go:139 msg="Dynamic LLM libraries [cpu_avx rocm_v60000 cuda_v11 cpu_avx2 cpu]"
time=2024-04-19T00:05:15.442+08:00 level=INFO source=gpu.go:77 msg="Detecting GPU type"
time=2024-04-19T00:05:15.442+08:00 level=INFO source=gpu.go:191 msg="Searching for GPU management library libnvidia-ml.so"
time=2024-04-19T00:05:17.729+08:00 level=INFO source=gpu.go:237 msg="Discovered GPU libraries: [/usr/lib/x86_64-linux-gnu/libnvidia-ml.so.535.171.04 /usr/lib/wsl/lib/libnvidia-ml.so.1 /usr/lib/wsl/drivers/nv_dispi.inf_