win10配置Ollama100%GPU
时间: 2025-04-16 15:44:23 浏览: 29
### 配置 Ollama 实现 100% GPU 利用率
#### 安装必要的驱动程序
为了确保 Ollama 能够充分利用 GPU,必须先安装最新的显卡驱动程序。对于 Nvidia 显卡,建议下载并安装来自官方 GeForce Experience 或者直接从 Nvidia 官网获取的最新版本驱动程序[^1]。
对于 AMD Radeon 显卡,则应访问 AMD 官方网站下载适用于 Windows 10 的最新 Adrenalin Edition 驱动程序。
#### 环境变量配置
为了让 Ollama 只使用特定的 GPU 设备,可以设置相应的环境变量来指定可用的 GPU ID:
- 对于 Nvidia GPU, 使用 `CUDA_VISIBLE_DEVICES` 环境变量:
打开命令提示符(管理员权限),输入如下命令设定环境变量:
```batch
setx CUDA_VISIBLE_DEVICES "0"
```
- 对于 AMD GPU, 使用 `HIP_VISIBLE_DEVICES` 环境变量:
同样通过命令提示符执行以下指令:
```batch
setx HIP_VISIBLE_DEVICES "0"
```
这里假设只有一张 GPU 卡,并希望其被完全利用;如果有多个 GPU,可以根据实际情况调整上述命令中的数字以匹配目标 GPU 的索引编号。
#### 性能优化技巧
为了进一步提高 GPU 的利用率,考虑以下几个方面:
- **减少其他应用程序占用资源**:关闭不必要的后台进程和服务,尤其是那些可能消耗大量计算能力的应用。
- **更新软件至最新版**:保持操作系统、Ollama 应用以及其他依赖项处于最新状态有助于获得更好的兼容性和性能表现。
- **监控工具辅助调优**:借助如 nvidia-smi (针对NVIDIA) 或者 rocm_smi(针对AMD),实时监测 GPU 运行状况,据此做出相应参数调整[^2]。
```python
import os
os.environ['CUDA_VISIBLE_DEVICES'] = '0' # Python脚本内设置环境变量示例
```
阅读全文
相关推荐


















