Release update (#1580)

* release doc

* fix: reg metch

* perf: tool call arg

* fix: stream update variables

* remove status

* update prompt

* rename embeddong model

packages/service/core/ai/functions/queryExtension.ts

@@ -15,7 +15,7 @@ const defaultPrompt = `作为一个向量检索助手，你的任务是结合历
 """
 """
 原问题: 介绍下剧情。
-检索词: ["介绍下故事的背景和主要人物。","故事的主题是什么？","剧情是是如何发展的？"]
+检索词: ["介绍下故事的背景。","故事的主题是什么？","介绍下故事的主要人物。"]
 ----------------
 历史记录: 
 """
@@ -41,7 +41,7 @@ Q: 护产假多少天?
 A: 护产假的天数根据员工所在的城市而定。请提供您所在的城市，以便我回答您的问题。
 """
 原问题: 沈阳
-检索词: ["沈阳的护产假多少天？"]
+检索词: ["沈阳的护产假多少天？","沈阳的护产假政策。","沈阳的护产假标准。"]
 ----------------
 历史记录: 
 """
@@ -75,7 +75,7 @@ A: 1. 开源
    3. 扩展性强
 """
 原问题: 介绍下第2点。
-检索词: ["介绍下 FastGPT 简便的优势"]。
+检索词: ["介绍下 FastGPT 简便的优势", "从哪些方面，可以体现出 FastGPT 的简便"]。
 ----------------
 历史记录:
 """

packages/service/core/workflow/dispatch/agent/runTool/constants.ts

@@ -1,7 +1,7 @@
 export const Prompt_Tool_Call = `<Instruction>
 你是一个智能机器人，除了可以回答用户问题外，你还掌握工具的使用能力。有时候，你可以依赖工具的运行结果，来更准确的回答用户。
 
-工具使用了 JSON Schema 的格式声明，其中 toolId 是工具的 description 是工具的描述，parameters 是工具的参数，包括参数的类型和描述，required 是必填参数的列表。
+工具使用了 JSON Schema 的格式声明，其中 toolId 是工具的唯一标识， description 是工具的描述，parameters 是工具的参数及参数表述，required 是必填参数的列表。
 
 请你根据工具描述，决定回答问题或是使用工具。在完成任务过程中，USER代表用户的输入，TOOL_RESPONSE代表工具运行结果，ANSWER 代表你的输出。
 你的每次输出都必须以0,1开头，代表是否需要调用工具：
@@ -13,19 +13,19 @@ export const Prompt_Tool_Call = `<Instruction>
 USER: 你好呀
 ANSWER: 0: 你好，有什么可以帮助你的么？
 USER: 现在几点了？
-ANSWER:  1: {"toolId":"timeToolId"}
+ANSWER:  1: {"toolId":"searchToolId1"}
 TOOL_RESPONSE: """
 2022/5/5 12:00 Thursday
 """
 ANSWER: 0: 现在是2022年5月5日，星期四，中午12点。
 USER: 今天杭州的天气如何？
-ANSWER: 1: {"toolId":"testToolId","arguments":{"city": "杭州"}}
+ANSWER: 1: {"toolId":"searchToolId2","arguments":{"city": "杭州"}}
 TOOL_RESPONSE: """
 晴天......
 """
 ANSWER: 0: 今天杭州是晴天。
 USER: 今天杭州的天气适合去哪里玩？
-ANSWER: 1: {"toolId":"testToolId2","arguments":{"query": "杭州 天气 去哪里玩"}}
+ANSWER: 1: {"toolId":"searchToolId3","arguments":{"query": "杭州 天气 去哪里玩"}}
 TOOL_RESPONSE: """
 晴天. 西湖、灵隐寺、千岛湖……
 """

packages/service/core/workflow/dispatch/agent/runTool/functionCall.ts

@@ -385,7 +385,10 @@ async function streamResponse({
             });
           }
         }
+
+        continue;
       }
+
       /* arg 插入最后一个工具的参数里 */
       const arg: string = functionCall?.arguments || '';
       const currentTool = functionCalls[functionCalls.length - 1];

packages/service/core/workflow/dispatch/agent/runTool/promptCall.ts

@@ -125,7 +125,6 @@ export const runToolWithPromptCall = async (
   })();
 
   const { answer: replaceAnswer, toolJson } = parseAnswer(answer);
-  // console.log(parseAnswer, '==11==');
   // No tools
   if (!toolJson) {
     if (replaceAnswer === ERROR_TEXT && stream && detail) {

packages/service/core/workflow/dispatch/agent/runTool/toolChoice.ts

@@ -354,7 +354,7 @@ async function streamResponse({
     }
 
     const responseChoice = part.choices?.[0]?.delta;
-    // console.log(JSON.stringify(responseChoice, null, 2));
+
     if (responseChoice?.content) {
       const content = responseChoice.content || '';
       textAnswer += content;
@@ -369,7 +369,7 @@ async function streamResponse({
     } else if (responseChoice?.tool_calls?.[0]) {
       const toolCall: ChatCompletionMessageToolCall = responseChoice.tool_calls[0];
 
-      // 流响应中,每次只会返回一个工具. 如果带了 id，说明是执行一个工具
+      // In a stream response, only one tool is returned at a time.  If have id, description is executing a tool
       if (toolCall.id) {
         const toolNode = toolNodes.find((item) => item.nodeId === toolCall.function?.name);
 
@@ -400,10 +400,14 @@ async function streamResponse({
             });
           }
         }
+
+        continue;
       }
+
       /* arg 插入最后一个工具的参数里 */
-      const arg: string = responseChoice.tool_calls?.[0]?.function?.arguments;
+      const arg: string = toolCall?.function?.arguments;
       const currentTool = toolCalls[toolCalls.length - 1];
+
       if (currentTool) {
         currentTool.function.arguments += arg;
 

packages/service/core/workflow/dispatch/index.ts

@@ -28,7 +28,7 @@ import { dispatchQueryExtension } from './tools/queryExternsion';
 import { dispatchRunPlugin } from './plugin/run';
 import { dispatchPluginInput } from './plugin/runInput';
 import { dispatchPluginOutput } from './plugin/runOutput';
-import { valueTypeFormat } from './utils';
+import { removeSystemVariable, valueTypeFormat } from './utils';
 import {
   filterWorkflowEdges,
   checkNodeRunStatus
@@ -419,18 +419,6 @@ export function getSystemVariable({
   };
 }
 
-/* remove system variable */
-const removeSystemVariable = (variables: Record<string, any>) => {
-  const copyVariables = { ...variables };
-  delete copyVariables.appId;
-  delete copyVariables.chatId;
-  delete copyVariables.responseChatItemId;
-  delete copyVariables.histories;
-  delete copyVariables.cTime;
-
-  return copyVariables;
-};
-
 /* Merge consecutive text messages into one */
 export const mergeAssistantResponseAnswerText = (response: AIChatItemValueItemType[]) => {
   const result: AIChatItemValueItemType[] = [];

packages/service/core/workflow/dispatch/tools/runUpdateVar.ts

@@ -1,19 +1,22 @@
 import { NodeInputKeyEnum, VARIABLE_NODE_ID } from '@fastgpt/global/core/workflow/constants';
-import { DispatchNodeResponseKeyEnum } from '@fastgpt/global/core/workflow/runtime/constants';
+import {
+  DispatchNodeResponseKeyEnum,
+  SseResponseEventEnum
+} from '@fastgpt/global/core/workflow/runtime/constants';
 import { DispatchNodeResultType } from '@fastgpt/global/core/workflow/runtime/type';
 import { getReferenceVariableValue } from '@fastgpt/global/core/workflow/runtime/utils';
 import { TUpdateListItem } from '@fastgpt/global/core/workflow/template/system/variableUpdate/type';
 import { ModuleDispatchProps } from '@fastgpt/global/core/workflow/type';
-import { valueTypeFormat } from '../utils';
+import { removeSystemVariable, valueTypeFormat } from '../utils';
+import { responseWrite } from '../../../../common/response';
 
 type Props = ModuleDispatchProps<{
   [NodeInputKeyEnum.updateList]: TUpdateListItem[];
 }>;
+type Response = DispatchNodeResultType<{}>;
 
-export const dispatchUpdateVariable = async (
-  props: Props
-): Promise<DispatchNodeResultType<any>> => {
-  const { params, variables, runtimeNodes } = props;
+export const dispatchUpdateVariable = async (props: Props): Promise<Response> => {
+  const { res, detail, params, variables, runtimeNodes } = props;
 
   const { updateList } = params;
   updateList.forEach((item) => {
@@ -51,6 +54,14 @@ export const dispatchUpdateVariable = async (
     }
   });
 
+  if (detail) {
+    responseWrite({
+      res,
+      event: SseResponseEventEnum.updateVariables,
+      data: JSON.stringify(removeSystemVariable(variables))
+    });
+  }
+
   return {
     [DispatchNodeResponseKeyEnum.nodeResponse]: {
       totalPoints: 0

packages/service/core/workflow/dispatch/utils.ts

@@ -79,3 +79,15 @@ export const valueTypeFormat = (value: any, type?: WorkflowIOValueTypeEnum) => {
 
   return value;
 };
+
+/* remove system variable */
+export const removeSystemVariable = (variables: Record<string, any>) => {
+  const copyVariables = { ...variables };
+  delete copyVariables.appId;
+  delete copyVariables.chatId;
+  delete copyVariables.responseChatItemId;
+  delete copyVariables.histories;
+  delete copyVariables.cTime;
+
+  return copyVariables;
+};