使用ollama本地部署deepseek并支持局域网访问

1.下载ollama

 ollama是一个用于在本地运行大型语言模型的工具,可以下载多个开源的大模型。

官网地址:Ollama

根据自己的操作系统下载对应版本即可。ollama默认安装在C盘,安装成功之后需要配置相关的环境变量。

1.1 ollama验证是否成功安装

windows安装完成后会在右下角有个图标。

然后,打开cmd,输入 ollama -V 显示当前安装成功的版本。也可以打开浏览器,输入127.0.0.1:11434,会显示 “ollama is running”(ollama默认的监听端口是11434)。至此代表ollama安装成功。

1.2 配置ollama环境变量

配置环境变量是为了将下载的deepseek模型存放在别的磁盘中,而不是C盘。还要设置允许外部网络访问。具体配置如下:

OLLAMA_MODELS="D:\OllamaModels"(根据实际情况自由选择模型存放位置)

OLLAMA_HOST="0.0.0.0"(允许外部网络访问)

OLLAMA_ORIGINS=" * "(允许外部网络访问)

注意:配置完成后入不生效,可以重启一下。

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值