mirror of
https://github.com/labring/FastGPT.git
synced 2025-10-19 01:54:04 +00:00
fe7abf22a9
* add new doc (#5175) Co-authored-by: dreamer6680 <146868355@qq.com> * Test docs (#5235) * fix: change the page of doc * chore: add new dependencies, update global styles/layout, optimize docs, add Feishu & GitHub icons, update API examples * fix: docs/index 404 not found * Update environment variable names, optimize styles, add new API routes, fix component styles, adjust documentation, and update GitHub and Feishu icons * update readme * feat: add a linkfastgpt compontent * feat: update new doc * fix:remove unuse page and redirect homepage to docs (#5288) * fix：remove some unuse doc * fix: redirect homepage to doc * git ignore * fix:navbar to index (#5295) * sidbar * fix: navtab unlight (#5298) * doc --------- Co-authored-by: dreamer6680 <1468683855@qq.com> Co-authored-by: dreamer6680 <146868355@qq.com>
82 lines
3.8 KiB
Plaintext
82 lines
3.8 KiB
Plaintext
---
|
||
title: 工具调用&终止
|
||
description: FastGPT 工具调用模块介绍
|
||
---
|
||
|
||
|
||
|
||
|
||
### **什么是工具**
|
||
|
||
工具可以是一个系统模块，例如：AI对话、知识库搜索、HTTP模块等。也可以是一个插件。
|
||
|
||
工具调用可以让 LLM 更动态的决策流程，而不都是固定的流程。（当然，缺点就是费tokens）
|
||
|
||
### **工具的组成**
|
||
|
||
1. 工具介绍。通常是模块的介绍或插件的介绍，这个介绍会告诉LLM，这个工具的作用是什么。
|
||
2. 工具参数。对于系统模块来说，工具参数已经是固定的，无需额外配置。对于插件来说，工具参数是一个可配置项。
|
||
|
||
### **工具是如何运行的**
|
||
|
||
要了解工具如何运行的，首先需要知道它的运行条件。
|
||
|
||
1. 需要工具的介绍（或者叫描述）。这个介绍会告诉LLM，这个工具的作用是什么，LLM会根据上下文语义，决定是否需要调用这个工具。
|
||
2. 工具的参数。有些工具调用时，可能需要一些特殊的参数。参数中有2个关键的值：`参数介绍`和`是否必须`。
|
||
|
||
结合工具的介绍、参数介绍和参数是否必须，LLM会决定是否调用这个工具。有以下几种情况：
|
||
|
||
1. 无参数的工具：直接根据工具介绍，决定是否需要执行。例如：获取当前时间。
|
||
2. 有参数的工具：
|
||
1. 无必须的参数：尽管上下文中，没有适合的参数，也可以调用该工具。但有时候，LLM会自己伪造一个参数。
|
||
2. 有必须的参数：如果没有适合的参数，LLM可能不会调用该工具。可以通过提示词，引导用户提供参数。
|
||
|
||
#### **工具调用逻辑**
|
||
|
||
在支持`函数调用`的模型中，可以一次性调用多个工具，调用逻辑如下：
|
||
|
||
|
||
|
||
### **怎么用**
|
||
|
||
|
||
| | |
|
||
| --- | --- |
|
||
|  |  |
|
||
|
||
|
||
高级编排中，拖动工具调用的连接点，可用的工具头部会出现一个菱形，可以将它与工具调用模块底部的菱形相连接。
|
||
|
||
被连接的工具，会自动分离工具输入与普通的输入，并且可以编辑`介绍`，可以通过调整介绍，使得该工具调用时机更加精确。
|
||
|
||
关于工具调用，如何调试仍然是一个玄学，所以建议，不要一次性增加太多工具，选择少量工具调优后再进一步尝试。
|
||
|
||
#### 用途
|
||
|
||
默认情况下，工具调用节点，在决定调用工具后，会将工具运行的结果，返回给AI，让 AI 对工具运行的结果进行总结输出。有时候，如果你不需要 AI 进行进一步的总结输出，可以使用该节点，将其接入对于工具流程的末尾。
|
||
|
||
如下图，在执行知识库搜索后，发送给了 HTTP 请求，搜索将不会返回搜索的结果给工具调用进行 AI 总结。
|
||
|
||
|
||
|
||
### 附加节点
|
||
|
||
当您使用了工具调用节点，同时就会出现工具调用终止节点和自定义变量节点，能够进一步提升工具调用的使用体验。
|
||
|
||
#### 工具调用终止
|
||
|
||
工具调用终止可用于结束本次调用，即可以接在某个工具后面，当工作流执行到这个节点时，便会强制结束本次工具调用，不再调用其他工具，也不会再调用 AI 针对工具调用结果回答问题。
|
||
|
||
|
||
|
||
### 自定义工具变量
|
||
|
||
自定义变量可以扩展工具的变量输入，即对于一些未被视作工具参数或无法工具调用的节点，可以自定义工具变量，填上对应的参数描述，那么工具调用便会相对应的调用这个节点，进而调用其之后的工作流。
|
||
|
||
|
||
|
||
### **相关示例**
|
||
|
||
- [谷歌搜索](https://doc.fastgpt.in/docs/use-cases/app-cases/google_search/)
|
||
- [发送飞书webhook](https://doc.fastgpt.in/docs/use-cases/app-cases/feishu_webhook/)
|