集成
AISIX 通过替换上游服务提供方端点、服务提供方 API Key 和模型名称,将开发者工具与应用框架接入 AI 网关。客户端保持原有的请求格式;认证、模型别名、服务提供方凭证、策略和可观测性则由网关统一管理。
本页 适用于可向自定义 API 端点发送请求的客户端,包括兼容 OpenAI 的 Chat Completions、OpenAI Responses API 和兼容 Anthropic 的请求。
采用这一模式后,团队无需重写应用代码或更换编码工具。客户端继续使用熟悉的 SDK、CLI 或框架,而网关策略、路由、可观测性和服务提供方凭证集中在 AISIX 中管理。
对于新的 OpenAI 协议族集成,如果客户端当前推荐的 API 仍能指向自定义 AISIX 基础 URL,请优先使用该 API。当框架提供一等的 Responses 客户端时,请使用 Responses API;当客户端只说明了 OpenAI 兼容服务提供方路径,或现有工作流依赖 Chat Completions 兼容性时,请使用 Chat Completions。
集成如何使用 AISIX
大多数集成都会使用以下三个 AISIX 值:
- 代理 API 基础 URL。
- 调用方 API Key。
- 调用方 API Key 有权访问的模型别名。
许多客户端将第三个值称为自定义模型、模型 ID、模型名称或公开模型名称。在 AISIX 中,该字段应填写模型别名。AISIX 会验证调用方 API Key,将别名解析为上游服务提供方配置,应用策略并记录网关遥测数据。
集成类型
| 客户端类型 | 适用场景 | 指南 |
|---|---|---|
| 编码 Agent | 本地编辑器、AI CLI、远程开发环境或自动化任务需要通过 AISIX 发送请求。 | 编码 Agent |
| 框架与库 | 应用框架、Agent 框架或 AI 库需要从应用代码调用 AISIX。 | LangChain 和 LangGraph、LlamaIndex、Haystack、Vercel AI SDK、Pydantic AI、Instructor、OpenAI Agents SDK、CrewAI、Microsoft Agent Framework |
前置条件
每份集成指南都假设网关已为客户端路径创建以下资源:
- 用于应用、开发者或自动化配置的调用方 API Key。
- 调用方 API Key 有权访问的模型别名。
- 与客户端兼容的代理 API 路由,例如兼容 OpenAI 的 Chat Completions、OpenAI Responses API 或 Anthropic Messages。
如果尚未创建这些资源,请先完成自托管快速开始、OpenAI SDK 快速开始或 Anthropic SDK 快速开始。