mirror of
https://github.com/labring/FastGPT.git
synced 2025-07-24 22:03:54 +00:00
ec8e2512bc
用最新的配置文件4.6.8 ，对话选gpt-4-turbo 报错： null max_tokens is too large: 62500. This model supports at most 4096 completion tokens, whereas you provided 62500. (request id: 20240202110253407344738SmDnkwX1) 原因是官方gpt-4-turbo 最大的返回token 4096.
323 lines
9.2 KiB
Markdown
323 lines
9.2 KiB
Markdown
---
|
||
title: '配置文件介绍'
|
||
description: 'FastGPT 配置参数介绍'
|
||
icon: 'settings'
|
||
draft: false
|
||
toc: true
|
||
weight: 708
|
||
---
|
||
|
||
由于环境变量不利于配置复杂的内容，新版 FastGPT 采用了 ConfigMap 的形式挂载配置文件，你可以在 `projects/app/data/config.json` 看到默认的配置文件。可以参考 [docker-compose 快速部署](/docs/development/docker/) 来挂载配置文件。
|
||
|
||
**开发环境下**，你需要将示例配置文件 `config.json` 复制成 `config.local.json` 文件才会生效。
|
||
|
||
这个配置文件中包含了系统级参数、AI 对话的模型、function 模型等……
|
||
|
||
## 4.6.8 以前版本完整配置参数
|
||
|
||
**使用时，请务必去除注释！**
|
||
|
||
以下配置适用于V4.6.6-alpha版本以后
|
||
|
||
```json
|
||
{
|
||
"systemEnv": {
|
||
"vectorMaxProcess": 15, // 向量生成最大进程，结合数据库性能和 key 来设置
|
||
"qaMaxProcess": 15, // QA 生成最大进程，结合数据库性能和 key 来设置
|
||
"pgHNSWEfSearch": 100 // pg vector 索引参数，越大精度高但速度慢
|
||
},
|
||
"chatModels": [ // 对话模型
|
||
{
|
||
"model": "gpt-3.5-turbo-1106",
|
||
"name": "GPT35-1106",
|
||
"inputPrice": 0, // 输入价格。 xx元/1k tokens
|
||
"outputPrice": 0, // 输出价格。 xx元/1k tokens
|
||
"maxContext": 16000, // 最大上下文长度
|
||
"maxResponse": 4000, // 最大回复长度
|
||
"quoteMaxToken": 2000, // 最大引用内容长度
|
||
"maxTemperature": 1.2, // 最大温度值
|
||
"censor": false, // 是否开启敏感词过滤(商业版)
|
||
"vision": false, // 支持图片输入
|
||
"defaultSystemChatPrompt": ""
|
||
},
|
||
{
|
||
"model": "gpt-3.5-turbo-16k",
|
||
"name": "GPT35-16k",
|
||
"maxContext": 16000,
|
||
"maxResponse": 16000,
|
||
"inputPrice": 0,
|
||
"outputPrice": 0,
|
||
"quoteMaxToken": 8000,
|
||
"maxTemperature": 1.2,
|
||
"censor": false,
|
||
"vision": false,
|
||
"defaultSystemChatPrompt": ""
|
||
},
|
||
{
|
||
"model": "gpt-4",
|
||
"name": "GPT4-8k",
|
||
"maxContext": 8000,
|
||
"maxResponse": 8000,
|
||
"inputPrice": 0,
|
||
"outputPrice": 0,
|
||
"quoteMaxToken": 4000,
|
||
"maxTemperature": 1.2,
|
||
"censor": false,
|
||
"vision": false,
|
||
"defaultSystemChatPrompt": ""
|
||
},
|
||
{
|
||
"model": "gpt-4-vision-preview",
|
||
"name": "GPT4-Vision",
|
||
"maxContext": 128000,
|
||
"maxResponse": 4000,
|
||
"inputPrice": 0,
|
||
"outputPrice": 0,
|
||
"quoteMaxToken": 100000,
|
||
"maxTemperature": 1.2,
|
||
"censor": false,
|
||
"vision": true,
|
||
"defaultSystemChatPrompt": ""
|
||
}
|
||
],
|
||
"qaModels": [ // QA 生成模型
|
||
{
|
||
"model": "gpt-3.5-turbo-16k",
|
||
"name": "GPT35-16k",
|
||
"maxContext": 16000,
|
||
"maxResponse": 16000,
|
||
"inputPrice": 0,
|
||
"outputPrice": 0
|
||
}
|
||
],
|
||
"cqModels": [ // 问题分类模型
|
||
{
|
||
"model": "gpt-3.5-turbo-1106",
|
||
"name": "GPT35-1106",
|
||
"maxContext": 16000,
|
||
"maxResponse": 4000,
|
||
"inputPrice": 0,
|
||
"outputPrice": 0,
|
||
"toolChoice": true, // 是否支持openai的 toolChoice， 不支持的模型需要设置为 false，会走提示词生成
|
||
"functionPrompt": ""
|
||
},
|
||
{
|
||
"model": "gpt-4",
|
||
"name": "GPT4-8k",
|
||
"maxContext": 8000,
|
||
"maxResponse": 8000,
|
||
"inputPrice": 0,
|
||
"outputPrice": 0,
|
||
"toolChoice": true,
|
||
"functionPrompt": ""
|
||
}
|
||
],
|
||
"extractModels": [ // 内容提取模型
|
||
{
|
||
"model": "gpt-3.5-turbo-1106",
|
||
"name": "GPT35-1106",
|
||
"maxContext": 16000,
|
||
"maxResponse": 4000,
|
||
"inputPrice": 0,
|
||
"outputPrice": 0,
|
||
"toolChoice": true,
|
||
"functionPrompt": ""
|
||
}
|
||
],
|
||
"qgModels": [ // 生成下一步指引
|
||
{
|
||
"model": "gpt-3.5-turbo-1106",
|
||
"name": "GPT35-1106",
|
||
"maxContext": 1600,
|
||
"maxResponse": 4000,
|
||
"inputPrice": 0,
|
||
"outputPrice": 0
|
||
}
|
||
],
|
||
"vectorModels": [ // 向量模型
|
||
{
|
||
"model": "text-embedding-ada-002",
|
||
"name": "Embedding-2",
|
||
"inputPrice": 0,
|
||
"defaultToken": 700,
|
||
"maxToken": 3000
|
||
}
|
||
],
|
||
"reRankModels": [], // 重排模型,暂时填空数组
|
||
"audioSpeechModels": [
|
||
{
|
||
"model": "tts-1",
|
||
"name": "OpenAI TTS1",
|
||
"inputPrice": 0,
|
||
"baseUrl": "",
|
||
"key": "",
|
||
"voices": [
|
||
{ "label": "Alloy", "value": "alloy", "bufferId": "openai-Alloy" },
|
||
{ "label": "Echo", "value": "echo", "bufferId": "openai-Echo" },
|
||
{ "label": "Fable", "value": "fable", "bufferId": "openai-Fable" },
|
||
{ "label": "Onyx", "value": "onyx", "bufferId": "openai-Onyx" },
|
||
{ "label": "Nova", "value": "nova", "bufferId": "openai-Nova" },
|
||
{ "label": "Shimmer", "value": "shimmer", "bufferId": "openai-Shimmer" }
|
||
]
|
||
}
|
||
],
|
||
"whisperModel": {
|
||
"model": "whisper-1",
|
||
"name": "Whisper1",
|
||
"inputPrice": 0
|
||
}
|
||
}
|
||
```
|
||
|
||
## 4.6.8 新配置文件
|
||
|
||
llm模型全部合并
|
||
|
||
```json
|
||
{
|
||
"systemEnv": {
|
||
"openapiPrefix": "fastgpt",
|
||
"vectorMaxProcess": 15,
|
||
"qaMaxProcess": 15,
|
||
"pgHNSWEfSearch": 100
|
||
},
|
||
"llmModels": [
|
||
{
|
||
"model": "gpt-3.5-turbo-1106", // 模型名
|
||
"name": "gpt-3.5-turbo", // 别名
|
||
"maxContext": 16000, // 最大上下文
|
||
"maxResponse": 4000, // 最大回复
|
||
"quoteMaxToken": 13000, // 最大引用内容
|
||
"maxTemperature": 1.2, // 最大温度
|
||
"inputPrice": 0,
|
||
"outputPrice": 0,
|
||
"censor": false,
|
||
"vision": false, // 是否支持图片输入
|
||
"datasetProcess": false, // 是否设置为知识库处理模型
|
||
"toolChoice": true, // 是否支持工具选择
|
||
"functionCall": false, // 是否支持函数调用
|
||
"customCQPrompt": "", // 自定义文本分类提示词（不支持工具和函数调用的模型
|
||
"customExtractPrompt": "", // 自定义内容提取提示词
|
||
"defaultSystemChatPrompt": "", // 对话默认携带的系统提示词
|
||
"defaultConfig":{} // 对话默认配置（比如 GLM4 的 top_p
|
||
},
|
||
{
|
||
"model": "gpt-3.5-turbo-16k",
|
||
"name": "gpt-3.5-turbo-16k",
|
||
"maxContext": 16000,
|
||
"maxResponse": 16000,
|
||
"quoteMaxToken": 13000,
|
||
"maxTemperature": 1.2,
|
||
"inputPrice": 0,
|
||
"outputPrice": 0,
|
||
"censor": false,
|
||
"vision": false,
|
||
"datasetProcess": true,
|
||
"toolChoice": true,
|
||
"functionCall": false,
|
||
"customCQPrompt": "",
|
||
"customExtractPrompt": "",
|
||
"defaultSystemChatPrompt": "",
|
||
"defaultConfig":{}
|
||
},
|
||
{
|
||
"model": "gpt-4-0125-preview",
|
||
"name": "gpt-4-turbo",
|
||
"maxContext": 125000,
|
||
"maxResponse": 4000,
|
||
"quoteMaxToken": 100000,
|
||
"maxTemperature": 1.2,
|
||
"inputPrice": 0,
|
||
"outputPrice": 0,
|
||
"censor": false,
|
||
"vision": false,
|
||
"datasetProcess": false,
|
||
"toolChoice": true,
|
||
"functionCall": false,
|
||
"customCQPrompt": "",
|
||
"customExtractPrompt": "",
|
||
"defaultSystemChatPrompt": "",
|
||
"defaultConfig":{}
|
||
},
|
||
{
|
||
"model": "gpt-4-vision-preview",
|
||
"name": "gpt-4-vision",
|
||
"maxContext": 128000,
|
||
"maxResponse": 4000,
|
||
"quoteMaxToken": 100000,
|
||
"maxTemperature": 1.2,
|
||
"inputPrice": 0,
|
||
"outputPrice": 0,
|
||
"censor": false,
|
||
"vision": false,
|
||
"datasetProcess": false,
|
||
"toolChoice": true,
|
||
"functionCall": false,
|
||
"customCQPrompt": "",
|
||
"customExtractPrompt": "",
|
||
"defaultSystemChatPrompt": "",
|
||
"defaultConfig":{}
|
||
}
|
||
],
|
||
"vectorModels": [
|
||
{
|
||
"model": "text-embedding-ada-002",
|
||
"name": "Embedding-2",
|
||
"inputPrice": 0,
|
||
"outputPrice": 0,
|
||
"defaultToken": 700,
|
||
"maxToken": 3000,
|
||
"weight": 100,
|
||
"defaultConfig":{} // 默认配置。例如，如果希望使用 embedding3-large 的话，可以传入 dimensions:1024，来返回1024维度的向量。（目前必须小于1536维度）
|
||
}
|
||
],
|
||
"reRankModels": [],
|
||
"audioSpeechModels": [
|
||
{
|
||
"model": "tts-1",
|
||
"name": "OpenAI TTS1",
|
||
"inputPrice": 0,
|
||
"outputPrice": 0,
|
||
"voices": [
|
||
{ "label": "Alloy", "value": "alloy", "bufferId": "openai-Alloy" },
|
||
{ "label": "Echo", "value": "echo", "bufferId": "openai-Echo" },
|
||
{ "label": "Fable", "value": "fable", "bufferId": "openai-Fable" },
|
||
{ "label": "Onyx", "value": "onyx", "bufferId": "openai-Onyx" },
|
||
{ "label": "Nova", "value": "nova", "bufferId": "openai-Nova" },
|
||
{ "label": "Shimmer", "value": "shimmer", "bufferId": "openai-Shimmer" }
|
||
]
|
||
}
|
||
],
|
||
"whisperModel": {
|
||
"model": "whisper-1",
|
||
"name": "Whisper1",
|
||
"inputPrice": 0,
|
||
"outputPrice": 0
|
||
}
|
||
}
|
||
```
|
||
|
||
## 特殊模型
|
||
|
||
### ReRank 接入
|
||
|
||
请使用 4.6.6-alpha 以上版本，配置文件中的 `reRankModels` 为重排模型，虽然是数组，不过目前仅有第1个生效。
|
||
|
||
1. [部署 ReRank 模型](/docs/development/custom-models/reranker/)
|
||
1. 找到 FastGPT 的配置文件中的 `reRankModels`， 4.6.6 以前是 `ReRankModels`。
|
||
2. 修改对应的值：（记得去掉注释）
|
||
|
||
```json
|
||
{
|
||
"reRankModels": [
|
||
{
|
||
"model": "bge-reranker-base", // 随意
|
||
"name": "检索重排-base", // 随意
|
||
"inputPrice": 0,
|
||
"requestUrl": "{{host}}/api/v1/rerank",
|
||
"requestAuth": "安全凭证，已自动补 Bearer"
|
||
}
|
||
]
|
||
}
|
||
```
|