AI 提示词修饰
功能说明
AI 提示词修饰插件用于对 Prompt 进行调整,支持在用户输入的 Prompt 前后添加额外的 Prompt,用户可以使用 Higress AI 网关来统一处理应用逻辑中需要操控 Prompt 的地方,让所有 LLM API 流量都经过 Higress 进行处理,自动完成 Prompt 的统一操控。
配置说明
名称 | 数据类型 | 填写要求 | 默认值 | 描述 |
---|---|---|---|---|
prepend | array of message object | optional | - | 在初始输入之前插入的语句 |
append | array of message object | optional | - | 在初始输入之后插入的语句 |
message object 配置说明:
名称 | 数据类型 | 填写要求 | 默认值 | 描述 |
---|---|---|---|---|
role | string | 必填 | - | 角色 |
content | string | 必填 | - | 消息 |
示例
配置示例如下:
prepend:- role: system content: "请使用英语回答问题"append:- role: user content: "每次回答完问题,尝试进行反问"
使用以上配置发起请求:
curl http://localhost/test \-H "content-type: application/json" \-d '{ "model": "gpt-3.5-turbo", "messages": [ { "role": "user", "content": "你是谁?" } ]}
经过插件处理后,实际请求为:
curl http://localhost/test \-H "content-type: application/json" \-d '{ "model": "gpt-3.5-turbo", "messages": [ { "role": "system", "content": "请使用英语回答问题" }, { "role": "user", "content": "你是谁?" }, { "role": "user", "content": "每次回答完问题,尝试进行反问" } ]}