跳到主要内容

集成

AISIX 通过替换上游服务提供方端点、服务提供方 API Key 和模型名称,将开发者工具与应用框架接入 AI 网关。客户端保持原有的请求格式;认证、模型别名、服务提供方凭证、策略和可观测性则由网关统一管理。

本页适用于可向自定义 API 端点发送请求的客户端,包括兼容 OpenAI 的 Chat Completions、OpenAI Responses API 和兼容 Anthropic 的请求。

采用这一模式后,团队无需重写应用代码或更换编码工具。客户端继续使用熟悉的 SDK、CLI 或框架,而网关策略、路由、可观测性和服务提供方凭证集中在 AISIX 中管理。

对于新的 OpenAI 协议族集成,如果客户端当前推荐的 API 仍能指向自定义 AISIX 基础 URL,请优先使用该 API。当框架提供一等的 Responses 客户端时,请使用 Responses API;当客户端只说明了 OpenAI 兼容服务提供方路径,或现有工作流依赖 Chat Completions 兼容性时,请使用 Chat Completions。

集成如何使用 AISIX

大多数集成都会使用以下三个 AISIX 值:

  • 代理 API 基础 URL。
  • 调用方 API Key。
  • 调用方 API Key 有权访问的模型别名。

许多客户端将第三个值称为自定义模型、模型 ID、模型名称或公开模型名称。在 AISIX 中,该字段应填写模型别名。AISIX 会验证调用方 API Key,将别名解析为上游服务提供方配置,应用策略并记录网关遥测数据。

集成类型

客户端类型适用场景指南
编码 Agent本地编辑器、AI CLI、远程开发环境或自动化任务需要通过 AISIX 发送请求。编码 Agent
框架与库应用框架、Agent 框架或 AI 库需要从应用代码调用 AISIX。LangChain 和 LangGraphLlamaIndexHaystackVercel AI SDKPydantic AIInstructorOpenAI Agents SDKCrewAIMicrosoft Agent Framework

前置条件

每份集成指南都假设网关已为客户端路径创建以下资源:

  • 用于应用、开发者或自动化配置的调用方 API Key。
  • 调用方 API Key 有权访问的模型别名。
  • 与客户端兼容的代理 API 路由,例如兼容 OpenAI 的 Chat Completions、OpenAI Responses API 或 Anthropic Messages。

如果尚未创建这些资源,请先完成自托管快速开始OpenAI SDK 快速开始Anthropic SDK 快速开始

后续步骤