OneAPI使用初步

1. 概述

官网：https://github.com/songquanpeng/one-api

OpenAI 接口管理 & 分发系统，支持 Azure、Anthropic Claude、Google PaLM 2 & Gemini、智谱 ChatGLM、百度文心一言、讯飞星火认知、阿里通义千问、360 智脑以及腾讯混元，可用于二次分发管理 key，仅单可执行文件，已打包好 Docker 镜像，一键部署，开箱即用. OpenAI key management & redistribution system, using a single API for all LLMs, and features an English UI.

上面是官网及介绍，总体来说oneapi最大的好处就是通过这个平台，将各种模型的API进行整合，二次发布出来，这样接入到业务系统中，接口是统一控制的，调整起来方便。

注意：

1）使用 Docker 拉取的最新镜像可能是 alpha 版本，如果追求稳定性请手动指定版本。 eg:  justsong/one-api:xxxx
2）使用 root 用户初次登录系统后，默认账号为root密码为123456，务必修改。

2. 部署安装

2.1 基于docker进行部署

通过docker部署，可以说是最方便快捷的。

# 使用 SQLite 的部署命令：
docker run --name one-api -d --restart always -p 3000:3000 -e TZ=Asia/Shanghai -v /home/ubuntu/data/one-api:/data justsong/one-api

# 使用 MySQL 的部署命令，在上面的基础上添加 `-e SQL_DSN="root:123456@tcp(localhost:3306)/oneapi"`，请自行修改数据库连接参数，不清楚如何修改请参见下面环境变量一节。
# 例如：
docker run --name one-api -d --restart always -p 3000:3000 -e SQL_DSN="root:123456@tcp(localhost:3306)/oneapi" -e TZ=Asia/Shanghai -v /home/ubuntu/data/one-api:/data justsong/one-api

# 如果你的并发量较大，务必设置 SQL_DSN

2.2 接入模型

1）接入 ollama

oneapi可以方便接入各种本地模型，最常见的就是ollama。

可以很方便的设置模型重定向，这个在有的前端应用框架中，模型名称不能修改的情况，非常有用。

2）自定义渠道

如果本地针对开源模型进行了微调，然后进行了二次发布，这个时候需要用到自定义渠道。

3）接入Coze

在coze中定义好机器人，带有各种模型，外加联网搜索能力，这个时候可以通过发布把API暴露出来，并通过oneAPI将其转换为其他应用可调用的方式。

首先在 coze平台中发布出来。

https://www.coze.cn/space/736588xxxxxx848/bot/73658xxxxxxx 
space：736588xxxxxx8
bot：73658864xxxxxxx

在配置时，要添加一个令牌，注意密钥只能显示一次，要拷贝留存好，密钥的有效期，好像最多30天。

然后在oneapi中设置。

注意：

模型：即Bot ID，见coze中URL中的数字。可以添加bot-前缀，还可以利用重定向，给自己的机器人设定一个好记的名字。

User ID：即上面的 space 后的数字。

密钥：上面API配置时新建的密钥，注意定期更新。

代理：在国内，一定使用 api.coze.cn 链接，速度会快一些。

（end）