FastGPT/docSite/content/docs/installation/reference/models.md

title, description, icon, draft, toc, weight

title	description	icon	draft	toc	weight
多模型支持	快速接入除了 GPT 以外的其他大模型	model_training	false	true	752

默认情况下，FastGPT 只配置了 GPT 的 3 个模型，如果你需要接入其他模型，需要进行一些额外配置。

部署 one-api

首先你需要部署一个 one-api，并添加对应的【渠道】和【令牌】，并修改 FastGPT 环境变量，具体可参考 快速部署 one-api

添加 FastGPT 配置文件

可以在 /client/src/data/config.json 里找到配置文件（本地开发需要复制成 config.local.json），配置文件中有一项是对话模型配置：

"ChatModels": [
    {
      "model": "gpt-3.5-turbo", // 这里的模型需要对应 OneAPI 的模型
      "name": "FastAI-4k", // 对外展示的名称
      "contextMaxToken": 4000, // 最大长下文 token，无论什么模型都按 GPT35 的计算。GPT 外的模型需要自行大致计算下这个值。可以调用官方接口去比对 Token 的倍率，然后在这里粗略计算。
      // 例如：文心一言的中英文 token 基本是 1:1，而 GPT 的中文 Token 是 2:1，如果文心一言官方最大 Token 是 4000，那么这里就可以填 8000，保险点就填 7000.
      "quoteMaxToken": 2000, // 引用知识库的最大 Token
      "maxTemperature": 1.2, // 最大温度
      "price": 1.5, // 1个token 价格 => 1.5 / 100000 * 1000 = 0.015元/1k token
      "defaultSystem": "" // 默认的系统提示词
    },
    {
      "model": "gpt-3.5-turbo-16k",
      "name": "FastAI-16k",
      "contextMaxToken": 16000,
      "quoteMaxToken": 8000,
      "maxTemperature": 1.2,
      "price": 3,
      "defaultSystem": ""
    },
    {
      "model": "gpt-4",
      "name": "FastAI-Plus",
      "contextMaxToken": 8000,
      "quoteMaxToken": 4000,
      "maxTemperature": 1.2,
      "price": 45,
      "defaultSystem": ""
    }
],

添加新的对话模型

以添加文心一言为例:

"ChatModels": [
...
{
  "model": "ERNIE-Bot",
  "name": "文心一言",
  "contextMaxToken": 4000,
  "quoteMaxToken": 2000,
  "maxTemperature": 1,
  "price": 1.2
}
...
]

添加完后，重启 FastGPT 即可在选择文心一言模型进行对话。