Files
FastGPT/docSite/content/docs/installation/one-api.md
2023-08-24 09:23:17 +08:00

2.3 KiB
Raw Blame History

title, description, icon, draft, toc, weight
title description icon draft toc weight
部署 one-api实现多模型支持 通过接入 one-api 来实现对各种大模型的支持 Api false true 730

one-api 是一个 OpenAI 接口管理 & 分发系统,可以通过标准的 OpenAI API 格式访问所有的大模型,开箱即用。

FastGPT 可以通过接入 one-api 来实现对各种大模型的支持。部署方法也很简单。

MySQL 版本

MySQL 版本支持多实例,高并发。

直接点击以下按钮即可一键部署 👇

部署完后会跳转「应用管理」,数据库在另一个应用「数据库」中。需要等待 1~3 分钟数据库运行后才能访问成功。

SqlLite 版本

SqlLite 版本不支持多实例,适合个人小流量使用,但是价格非常便宜。

1. 点击打开 Sealos 公有云

2. 打开 AppLaunchpad(应用管理) 工具

step1

3. 点击创建新应用

4. 填写对应参数

镜像ghcr.io/songquanpeng/one-api:latest

step2 打开外网访问开关后Sealos 会自动分配一个可访问的地址,不需要自己配置。

step3 填写完参数后,点击右上角部署即可。

使用步骤

1. 登录 one-api

打开 【one-api 应用详情】,找到访问地址: step4

登录 one-api step5

2. 创建渠道和令牌

在 one-api 中添加对应渠道,直接点击 【添加基础模型】,不要遗漏了向量模型 step6

创建一个令牌 step7

3. 修改 FastGPT 的环境变量

有了 one-api 令牌后FastGPT 可以通过修改 baseurl 和 key 去请求到 one-api再由 one-api 去请求不同的模型。修改下面两个环境变量:

# 下面的地址是 Sealos 提供的,务必写上 v1 两个项目都在 sealos 部署时候https://xxxx.cloud.sealos.io 可以改用内网地址
OPENAI_BASE_URL=https://xxxx.cloud.sealos.io/v1
# 下面的 key 是由 one-api 提供的令牌
CHAT_API_KEY=sk-xxxxxx