基于CentOS7的Dify部署以及Ollama插件配置

目录

1.Dify部署

2.安装配置Ollama插件


 首先去dify的Github官网看看(需要借助魔法哦)langgenius/dify: Dify is an open-source LLM app development platform. Dify's intuitive interface combines AI workflow, RAG pipeline, agent capabilities, model management, observability features and more, letting you quickly go from prototype to production.https://github.com/langgenius/dify

 可以看到在安装Dify前,需要确保你的服务器配置CPU>=2核,内存>=4G

官方推荐基于docker和docker compose来安装运行,那么首先要安装好这两样东西。(这里俺默认你安装好了哦

如果你的镜像源不行,这里贴上我的镜像源。

sudo tee /etc/docker/daemon.json <<-'EOF'
{
        "registry-mirrors":[
                "https://2a6bf1988cb6428c877f723ec7530dbc.mirror.swr.myhuaweicloud.com",
                "https://docker.m.daocloud.io",
                "https://hub-mirror.c.163.com",
                "https://mirror.baidubce.com",
                "https://your_preferred_mirror",
                "https://dockerhub.icu",
                "https://docker.registry.cyou",
                "https://docker-cf.registry.cyou",
                "https://dockercf.jsdelivr.fyi",
                "https://docker.jsdelivr.fyi",
                "https://dockertest.jsdelivr.fyi",
                "https://mirror.aliyuncs.com",
                "https://dockerproxy.com",
                "https://mirror.baidubce.com",
                "https://docker.m.daocloud.io",
                "https://docker.nju.edu.cn",
                "https://docker.mirrors.sjtug.sjtu.edu.cn",
                "https://docker.mirrors.ustc.edu.cn",
                "https://mirror.iscas.ac.cn",
		"https://docker.rainbond.cc"
]               
}     

如果执行了上面的代码后,再需要执行

sudo systemctl daemon-reload    # 重新加载 systemd 的配置文件
systemctl restart docker        # 重启docker

然后,去Github上拉取dify代码,或者下载zip文件到本地。

这里贴上下载zip形式的

wget https://github.com/langgenius/dify/archive/refs/heads/main.zip

 用unzip xxx.zip命令解压

OK啊,也是下载好了源码,然后我们进入到docker目录中 cd dify-main/docker/
执行 cp .env.example .env
再执行 docker-compose up -d

刚开始会下载一些镜像,如果是一直卡在pulling状态,那么很可能是网络或者docker磁盘空间不足了(我之前就是)

下面是启动成功的图,当然关闭就执行 docker-compose down

浏览器地址栏输入 http://虚拟机ip/install 就可以访问了,刚开始要设置管理员账户后再登录。

 Dify一个重要的东西就是插件,我们去调用各种插件从而实现更多功能。我们点击右上角的插件

 一般来讲用第一个Marketplace的方式搜索插件,然后安装最简便。如果说安装失败,或者说没有搜到,我们可以去GitHub安装或者Dify插件市场下载到本地后,用本地插件的方式安装。

如果你需要用ollama插件(本地部署了模型),那么请接着往下看。

点击右上角设置-模型供应商-Ollama-添加模型

可以看到

模型名称要填对,然后就是基础URL了。我的Dify是linux虚拟机里的docker部署的,ollama在本地windows部署的,我要调用ollama的url就要写成ollama主机上局域网地址如http://192.168.xx.xx:11434,如果是在宿主机内,那么可以写成host.docker.internal:11434。同时ollama要暴露对外访问,比如windows设置环境变量OLLAMA_HOST = 0.0.0.0。

好的,这篇文章到此结束了,有错误的地方欢迎指正,有问题也可以在评论区互相讨论哟,觉得文章有帮助的话点个关注吧!

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值