使用 AI 重写转换 API 请求
API7 网关的 ai-request-rewrite 插件会将每个传入的请求体发送给专用大语言模型,然后在转发到上游前,用模型输出替换完整请求体。当输入含义模糊、格式自由、包含多种语言或语义复杂,静态正则表达式或模板重写不足以处理时,可以使用此方式进行规范化。
常见用例包括:
- 格式规范化:把自由文本用户输入转换为结构化 JSON。
- 语言翻译:把多语言输入转换为上游系统要求的统一目标语言。
- 数据增强:提取并标准化意图、实体或类别等字段。
- 旧版 API 适配:把现代客户端载荷转换为旧版上游 API 要求的 Schema。
前置条件
-
安装 Docker。
-
安装 cURL,用于发送请求并验证服务。
-
拥有一个正在运行的 API7 网关实例。
-
从控制台获取 Token,并保存到环境变量:
export API_KEY=your-dashboard-token # 请替换为你的控制台 Token -
将
{gateway_group_id}替换为网关组 ID。如果正在按照快速入门操作,请使用default。 -
如果使用 Admin API 示例,请创建或复用一个服务。如果尚无服务,请按照创建或复用服务操作,然后保存其 ID:
export SERVICE_ID=your-service-id # 请替换为你的服务 ID
工作原理
转换流程如下:
- 客户端请求进入网关。
- 网关使用
ai-request-rewrite调用转换模型,并传入你的提示词指令。 - 网关接收转换后的内容,并用它替换完整请求体。
- 修改后的请求被转发到上游 API。
转换模型调用是一项独立的中间件行为,不会取代主要上游服务。插件仅处理请求,不会转换上游响应。
重写模型的输出会成为发送给上游的整个请求体。请编写提示词,使输出符合上游要求的请求体格式。如果上游使用 JSON API,应要求模型返回完整、有效的 JSON,而非片段或解释性文字。
配置 AI 请求重写
以下路由使用 ai-request-rewrite