API 插件的工作原理
声明性代理使用 API 插件与 API 进行通信,以便读取和修改数据。 每当用户提交 (1) 的提示时,声明性代理都会评估提示,以检查合适的函数来调用 (2) 。 如果它找到与用户的提示匹配的函数,它会在必要时 (3a、3b) 进行身份验证。 然后,它生成必要的 API 请求,调用 API (3c) ,处理其响应 (3d) ,并为用户生成响应 (6) 。 下图更详细地显示了此过程:
代理如何知道要调用哪个函数?
生成 API 插件时,可以定义其名称、说明和一个或多个函数。 对于每个函数,请指定说明。 声明性代理使用所有这些信息来确定它应调用哪个函数。 每当用户向声明性代理提交提示时,它都会使用其基础语言模型根据可用的插件和函数说明评估提示,以确定是否有合适的函数要调用。
代理选择要调用的函数后,会将该函数与 API 规范中的作匹配。 它根据 API 信息构造 API 请求并处理 API 响应。