提示词工具
使用提示词工具将提示词发送给大型语言模型 (LLM),然后接收模型输出的响应。您还可以配置 LLM 参数来调整模型的输出。
工具组件
提示词工具有 3 个锚点(2 个输入和 1 个输出):
M 输入锚点:(可选)使用 M 输入锚点连接来自
LLM 覆盖工具的模型连接设置。或者,在此工具内设置连接。D 输入锚点:(可选)使用 D 输入锚点连接您要添加到提示词中的数据。提示词工具除了接受来自
“Blob 输入”工具 的 Blob 数据外,还接受标准数据类型(如字符串、数值和日期时间)。输出锚点:使用输出锚点将模型的响应向下游传递。
配置工具
连接到 Alteryx One 中的 AI 模型服务
该工具会自动连接到您用于登录 Alteryx One 应用程序的 Alteryx One 工作区。如果要使用其他工作区的 LLM 连接,可以通过 Alteryx One 应用程序或 Designer Desktop 进行此更改。
在 Alteryx One 应用程序中选择工作区
转至 Alteryx One 应用程序。
选择个人资料菜单以查看可用工作区列表。
从列表中选择包含要使用的 LLM 连接的工作区。
返回 Designer Desktop。
在 Designer Desktop 中选择 Alteryx 链接
注意
通过 DCM 更改的活动链接仅在您的当前 Designer Desktop 会话中保持有效。重新打开 Designer Desktop 时,活动链接将恢复为在 Alteryx One 应用程序中选定的工作区。
如果您已创建 Alteryx 链接...
转至文件 > 管理连接以打开数据连接管理器 (DCM)。
转至 Alteryx 链接页面。
将您的链接设置为活动链接。从三点菜单中选择设置为活动。如果出现提示,请选择是,更改以将其他工具重新链接到此新的活动链接。
退出 DCM 以返回您的工作流。
在 Designer Desktop 中创建 Alteryx 链接
如果您需要创建 Alteryx 链接...
转至文件 > 管理连接以打开数据连接管理器 (DCM)。
转至 Alteryx 链接页面,然后选择连接到云。
选择您的云实例(例如,如果您的 URL 以
us1开头,则选择美国)。登录 Alteryx One,然后选择要使用的工作区。
按照屏幕提示完成链接设置。
将新链接设置为活动链接。从三点菜单中选择设置为活动。如果出现提示,请选择是,更改以将其他工具重新链接到此新的活动链接。
退出 DCM 以返回您的工作流。
LLM 连接
重要
在选择 LLM 之前,工作区管理员 必须在 Alteryx One 中创建 LLM 连接。
提示词设置
使用“提示词设置”部分编写提示词,并配置与提示词和响应关联的数据列。
在提示词模板字段中输入您的提示词。有关提示词的 token 计数的估计值,请参阅提示词模板字段底部的 token 计数。token 计数不考虑已插入数据列中可能产生的其他 token。
在提示词中包含上游数据,以进行更高级的分析。提示词工具会为输入数据的每一行创建一个新提示词。然后,该工具会为所有这些行发送 LLM 请求。
要插入输入数据列,您可以...
在文本字段中输入左方括号 (
[) 以调出列选择菜单。您也可以在方括号 ([]) 中键入列名称。从插入字段下拉列表中选择一列。
要附加非结构化数据(如图像或 PDF 文件),请从附加非文本列下拉列表中选择包含非结构化数据的列。使用
“Blob 输入”工具 将图像和 PDF 导入到您的工作流中。注意
对图像和 PDF 等非结构化数据的支持取决于您的 LLM 提供商及所选模型。如需详细了解支持的非结构化或多模式数据类型,请参阅您的 LLM 提供商的文档。
输入响应列名称。此列包含 LLM 对您的提示词的响应。
运行工作流。
提示词生成器
使用提示词生成器可以快速测试不同的提示词和模型配置。然后,您可以将结果与提示词历史记录进行比较。要尝试不同的模型和模型配置,请在初始提示词下运行工作流,然后选择在提示词生成器中优化并测试以打开提示词生成器窗口。
重要
提示词生成器需要连接到 D 输入锚点的数据。
提示词工作区选项卡
使用提示词工作区选项卡输入提示词并更新模型配置:
使用选择模型下拉列表从 LLM 提供商中选择可用的模型。
输入要测试的记录数。如果您有大型数据集,请使用此设置限制用您的提示词测试的记录数。
配置模型的参数,包括温度、输出 token 数量上限和 TopP。有关参数说明,请参阅 高级模型配置设置 部分。
在提示词模板文本字段中输入或更新您的提示词。
提示
要获得有关如何创建即用型提示词的帮助,请选择为我生成提示词,然后描述您的任务。要使用此功能,您的 Alteryx One 账户必须有权访问 Ask Alteryx。
选择测试并运行以查看每一行的示例响应。
如果您对新提示词的响应满意,请选择将提示词保存到画布,以用新的提示词和模型配置更新提示词工具。
历史记录选项卡
使用历史记录选项卡查看您过去的提示词、模型参数和样本响应。
对于过去的每个提示词,您可以...
添加到画布中:使用所选提示词和相关模型参数更新提示词工具。
添加到收藏夹:将所选提示词保存到收藏提示词列表中。选择添加到画布中旁边的三点菜单以查找此选项。要查看收藏的提示词,请选中仅显示收藏夹复选框。
编辑提示词:返回“配置”选项卡,显示所选提示词和相关模型参数。选择添加到画布中旁边的三点菜单以查找此选项。
删除提示词:从历史记录选项卡中删除所选提示词。选择添加到画布中旁边的三点菜单以查找此选项。
下载结果:在历史记录选项卡中保存包含当前行的提示词和模型参数的 CSV 文件。
警告
请确保在离开“提示词生成器”窗口之前保存您的提示词。选择关闭将丢失您的提示词历史记录。
结构化输出
使用结构化输出为 LLM 响应定义 JSON 架构,并强制执行一致的、机器可读的格式,而无需在提示词中描述其结构。启用后,提示词工具会将提示词和架构发送至模型,模型将返回符合定义结构的响应。该工具会根据架构验证每个响应,以确保必填字段存在、数据类型匹配且仅包含允许的字段。
JSON 架构列:选择包含您的 JSON 架构的列。该架构定义了预期的响应结构,包括字段名称、数据类型、必填字段以及约束。若要轻松创建 JSON 架构,请使用
JSON Schema Tool。如果您选择默认的无(无结构化输出)选项,则结构化输出将被禁用,且模型将返回自由格式文本。架构验证失败时:选择工具如何处理不符合架构的响应:
将 LLM 输出设置为 Null:将无效响应替换为 Null 值。
写入无效 JSON:即使响应不符合架构,也照常输出。
在首条记录处使工具运行失败:当首次出现验证失败时,停止工具执行。
错误处理
发生错误时,请从出错时下拉列表中选择错误处理选项:
错误 - 停止处理记录:在“结果”窗口中发出错误并停止处理记录。
警告 - 继续处理记录:在“结果”窗口中发出警告,但继续处理记录。
忽略 - 继续处理记录:忽略不同的列并继续处理记录。
高级模型配置设置
使用“高级模型配置”部分配置模型的参数:
温度:将模型输出的随机性控制在 0 到 2 之间的数值。默认值为 1。
较低的值可提供更可靠和一致的响应。
值越高,响应越有创意,随机性也越大,但也可能变得不合逻辑。
最大输出 Token 数:LLM 可以在响应中包含的最大 Token 数。每个 Token 大约相当于一个单词的 3/4 长度。Token 是 LLM 中的基本输入和输出单位。它们可以是文本块,如单词、字符集,或单词与标点符号的组合。有关最大可用输出 Token 数,请参考您的 LLM 提供商及特定模型。
TopP:控制模型从哪些输出 Token 中采样,范围为 0 到 1。模型会从概率最高到最低的 Token 中进行选择,直到它们的概率总和等于 TopP 值。例如,如果 TopP 值为 0.8,且 3 个 Token 的概率分别为 0.5、0.3 和 0.2,则模型只会从概率为 0.5 和 0.3(总和为 0.8)的 Token 中进行选择。较低的值会使响应更一致,而较高的值会使响应更随机。
输出
该工具输出两个字符串数据列。
LLM 提示词列:包含您的提示词。
LLM 响应列:包含来自您的 LLM 提供商和模型的响应。
