This commit is contained in:
archer
2023-08-24 09:06:25 +08:00
parent 34ab66bb69
commit a99ef9e2c0
15 changed files with 81 additions and 37 deletions

View File

@@ -1,7 +1,7 @@
---
title: "部署 one-api实现多模型支持"
description: "通过接入 one-api 来实现对各种大模型的支持"
icon: "Api"
title: '部署 one-api实现多模型支持'
description: '通过接入 one-api 来实现对各种大模型的支持'
icon: 'Api'
draft: false
toc: true
weight: 730
@@ -9,17 +9,65 @@ weight: 730
[one-api](https://github.com/songquanpeng/one-api) 是一个 OpenAI 接口管理 & 分发系统,可以通过标准的 OpenAI API 格式访问所有的大模型,开箱即用。
FastGPT 可以通过接入 one-api 来实现对各种大模型的支持。部署方法也很简单,直接点击以下按钮即可一键部署 👇
FastGPT 可以通过接入 one-api 来实现对各种大模型的支持。部署方法也很简单
## MySQL 版本
MySQL 版本支持多实例,高并发。
直接点击以下按钮即可一键部署 👇
[![](https://cdn.jsdelivr.us/gh/labring-actions/templates@main/Deploy-on-Sealos.svg)](https://cloud.sealos.io/?openapp=system-fastdeploy%3FtemplateName%3Done-api)
部署完后会跳转「应用管理」,数据库在另一个应用「数据库」中。需要等待 1~3 分钟数据库运行后才能访问成功。
配置好 one-api 的模型后,可以直接修改 FastGPT 的环境变量:
## SqlLite 版本
SqlLite 版本不支持多实例,适合个人小流量使用,但是价格非常便宜。
**1. [点击打开 Sealos 公有云](https://cloud.sealos.io/)**
**2. 打开 AppLaunchpad(应用管理) 工具**
![step1](/imgs/oneapi/step1.png)
**3. 点击创建新应用**
**4. 填写对应参数**
镜像ghcr.io/songquanpeng/one-api:latest
![step2](/imgs/oneapi/step2.png)
打开外网访问开关后Sealos 会自动分配一个可访问的地址,不需要自己配置。
![step3](/imgs/oneapi/step3.png)
填写完参数后,点击右上角部署即可。
## 使用步骤
**1. 登录 one-api**
打开 【one-api 应用详情】,找到访问地址:
![step4](/imgs/oneapi/step4.png)
登录 one-api
![step5](/imgs/oneapi/step5.png)
**2. 创建渠道和令牌**
在 one-api 中添加对应渠道,直接点击 【添加基础模型】,不要遗漏了向量模型
![step6](/imgs/oneapi/step6.png)
创建一个令牌
![step7](/imgs/oneapi/step7.png)
**3. 修改 FastGPT 的环境变量**
有了 one-api 令牌后FastGPT 可以通过修改 baseurl 和 key 去请求到 one-api再由 one-api 去请求不同的模型。修改下面两个环境变量:
```bash
# 下面的地址是 Sealos 提供的,务必写上 v1
# 下面的地址是 Sealos 提供的,务必写上 v1 两个项目都在 sealos 部署时候https://xxxx.cloud.sealos.io 可以改用内网地址
OPENAI_BASE_URL=https://xxxx.cloud.sealos.io/v1
# 下面的 key 由 one-api 提供
# 下面的 key 由 one-api 提供的令牌
CHAT_API_KEY=sk-xxxxxx
```
```