1.下载ollama
ollama是一个用于在本地运行大型语言模型的工具,可以下载多个开源的大模型。
官网地址:Ollama
根据自己的操作系统下载对应版本即可。ollama默认安装在C盘,安装成功之后需要配置相关的环境变量。
1.1 ollama验证是否成功安装
windows安装完成后会在右下角有个图标。
然后,打开cmd,输入 ollama -V 显示当前安装成功的版本。也可以打开浏览器,输入127.0.0.1:11434,会显示 “ollama is running”(ollama默认的监听端口是11434)。至此代表ollama安装成功。
1.2 配置ollama环境变量
配置环境变量是为了将下载的deepseek模型存放在别的磁盘中,而不是C盘。还要设置允许外部网络访问。具体配置如下:
OLLAMA_MODELS="D:\OllamaModels"(根据实际情况自由选择模型存放位置)
OLLAMA_HOST="0.0.0.0"(允许外部网络访问)
OLLAMA_ORIGINS=" * "(允许外部网络访问)
注意:配置完成后入不生效,可以重启一下。