跳到主要内容

集成

AISIX 通过替换上游服务提供方端点、服务提供方 API Key 和模型名称,将开发者工具与应用框架接入 AI 网关。客户端保持原有的请求格式;认证、模型别名、服务提供方凭证、策略和可观测性则由网关统一管理。

本页适用于可向自定义 API 端点发送请求的客户端,包括兼容 OpenAI 的 Chat Completions、OpenAI Responses API 和兼容 Anthropic 的请求。

采用这一模式后,团队无需重写应用代码或更换编码工具。客户端继续使用熟悉的 SDK、CLI 或框架,而网关策略、路由、可观测性和服务提供方凭证集中在 AISIX 中管理。

集成如何使用 AISIX

大多数集成都会使用以下三个 AISIX 值:

  • 代理 API 基础 URL。
  • 调用方 API Key。
  • 调用方 API Key 有权访问的模型别名。

许多客户端将第三个值称为自定义模型、模型 ID、模型名称或公开模型名称。在 AISIX 中,该字段应填写模型别名。AISIX 会验证调用方 API Key,将别名解析为上游服务提供方配置,应用策略并记录网关遥测数据。

集成类型

客户端类型适用场景指南
编码 Agent本地编辑器、AI CLI、远程开发环境或自动化任务需要通过 AISIX 发送请求。编码 Agent
框架应用框架需要从应用代码调用 AISIX。LangChainLlamaIndexVercel AI SDKInstructor

前置条件

每份集成指南都假设网关已为客户端路径创建以下资源:

  • 用于应用、开发者或自动化配置的调用方 API Key。
  • 调用方 API Key 有权访问的模型别名。
  • 与客户端兼容的代理 API 路由,例如兼容 OpenAI 的 Chat Completions、OpenAI Responses API 或 Anthropic Messages。

如果尚未创建这些资源,请先完成自托管快速开始OpenAI SDK 快速开始Anthropic SDK 快速开始

后续步骤

  • 编码 Agent:通过 AISIX 路由 AI 编码工具。
  • LangChain:将 LangChain 应用连接到 AISIX。
  • LlamaIndex:将 LlamaIndex 应用连接到 AISIX。
  • Vercel AI SDK:连接使用 Vercel AI SDK 的 TypeScript 应用。
  • Instructor:通过 AISIX 路由结构化输出请求。
  • 支持的端点:查看客户端可使用的代理 API 类型。