【服务器部署】云端部署Gradio情感聊天bot应用(ubuntu服务器+Nginx反向代理+内网穿透）

【服务器部署】从0-1进行部署Gradio情感聊天AI bot云端应用(ubuntu服务器+Nginx反向代理+内网穿透）

Gradio是一个常用于创建机器学习和深度学习的Web应用程序，它提供了一个用户友好的界面，允许开发者进行快速构建和部署并制作可视化界面，本文会介绍如何将Gradio应用部署到云服务器上，并使用反向代理来实现外链访问

Step1：先准备一台能够运行代码环境的服务器

流程：服务器租用→ssh连接→环境搭建→检查环境

服务器租借购买可以参考该教程阿里云服务器租用搭建教程，可以根据自身实际需要选择需要的服务器，选择服务器后使用Xshell远程连接云服务器配置环境(Xshell自行在网络中下载)，打开Xshell输入服务器的公网ip

输入要登录的账户名（主机名）

输入在云服务器中设置的登录密码，密码正确即完成SSH连接

开始配置应用所需要的python环境，如果需要配置java或者c++环境也可以参考其它的服务器配置教程

安装python虚拟环境所需要的依赖包

sudo apt update
sudo apt-get install python3-venv

创建python虚拟环境并激活

环境创建:python3 -m venv my-venv​ (环境名可自定)

激活环境：source work/bin/activate​（改为你的路径，linux默认~为起始目录）

​

安装应用所需要的依赖包，目前安装有两种策略，一种直接用pip install packge​进行安装或者将所需要包写入requirements.txt，或者使用以下语句进行安装​​

nano requirements.txt

​

这里所需要安装的包写进去

​

pip install -r requirements.txt

​
​

安装完后可以用pip list​查看所需要的包是否安装完成

​

Step 2：搭建一个Gradio应用，这里以文心一言的Enrie SDKt为例

流程:编写一个Gradio应用→上传应用文件→配置后台服务→测试Gradio应用

首选在服务器上创建一个用于测试应用的文件目录

mkdir gradio_test/bot

要编写一个Gradio Web应用，本文通过使用Enrie的sdk实现一个实现一个情感伙伴bot聊天，其代码如下举例介绍:

import gradio as gr
import json
import erniebot

history = []
# 导入角色设置
with open('../config/enireRoleConfig.json', 'r', encoding='utf-8') as file:
    role_config = json.load(file)

# 角色和描述
roles = role_config['roles']

# css样式
custom_css = """
<style>
@import url('https://fonts.googleapis.com/css2?family=Pacifico&family=Permanent+Marker&family=Roboto+Slab&family=Dancing+Script&display=swap');
body, .gradio-container {
    display: flex;
    flex-direction: column;
    min-height: 100vh;
    margin: 0;
}
.main {
    flex-grow: 1;
    display: flex;
    flex-direction: column;
}
.contain {
    flex-grow: 1;
    display: flex;
    flex-direction: column;
}
#component-0 {
    flex-grow: 1;
    display: flex;
    flex-direction: column;
}
#component-0 > .chat-interface {
    flex-grow: 1;
    display: flex;
    flex-direction: column;
}
#component-0 > .chat-interface > .message-list {
    flex-grow: 1;
    overflow-y: auto;
}
</style>
"""
def predict(message, history, option, api_key, role_selector):

    model = "ernie-bot"

    erniebot.api_type = 'aistudio'
    erniebot.access_token = api_key

    # 模型选择
    if option == "ernie-bot":
        model = 'ernie-bot'
    elif option == "ernie-bot-turbo":
        model = 'ernie-bot-turbo'
    elif option == "ernie-bot-4":
        model = 'ernie-bot-4'

    # 角色选择
    system_prompt = roles[role_selector]['prompt']

    # 输入消息
    json_str = {
   
   'role': 'user', 'content': message}
    messages = ""
    history = [{
   
   k: v for k, v in item.items() if k != 'metadata'} for item