跳到主要内容

版本：1.7.0

AI 流量网关

AISIX AI 网关

在 AI 服务提供方前建立稳定的 API 契约

AISIX AI 网关为平台团队的 LLM 与 AI Agent 流量提供统一的网关边界。Rust 原生网关通过稳定的 API 契约统一管理模型服务提供方凭证、模型别名、路由、故障转移、限流、缓存、安全护栏和可观测性。选择 AISIX OSS 可直接运维采用 Apache-2.0 许可证的网关；选择 AISIX Enterprise 可在自有基础设施中运行控制面；选择 AISIX Cloud 则使用 API7 托管的控制面。

开始使用查看支持的端点

启动 AISIX Enterpriselocalhost:8080

curl -fSL https://run.api7.ai/aisix-self-hosted/aisix-self-hosted-1.7.0.tar.gz -o aisix-self-hosted-1.7.0.tar.gz
tar -xzf aisix-self-hosted-1.7.0.tar.gz
./aisix-self-hosted/run.sh

# 启动控制面和控制台
# 控制台：http://localhost:8080

请求如何流转

应用先调用 AISIX。AISIX 会完成调用方认证、模型别名解析、策略执行，并将请求转发到选定的服务提供方。

应用应用、智能体与后端服务使用网关签发的调用方 API Key，发送兼容 OpenAI 的请求。

AISIX 网关边界稳定契约，可治理的服务提供方访问

AISIX 让客户端流量保持同一套 API 形态，同时在每次请求中解析真实的服务提供方目标。

认证调用方解析模型别名执行限流、缓存和安全护栏选择服务提供方路由

服务提供方OpenAI、Anthropic、Bedrock、Vertex、Azure接收由网关携带服务提供方凭证发起的请求。

服务提供方响应会通过 AISIX 返回，并继续保持同一套面向客户端的契约。

当 AI 流量经过 AISIX，会发生什么变化

应用团队继续调用熟悉的 API，AI 平台团队则把模型服务提供方凭证、模型别名、路由和策略统一放到自行运维的网关中。AISIX Enterprise 和 AISIX Cloud 均提供集中的用量和预算控制。

访问控制调用方 API Key 与模型访问白名单认证应用身份，并决定每个 API Key 可以访问哪些模型别名。

服务提供方集中管理上游凭证将服务提供方密钥、base URL 和适配器细节从应用代码中解耦出来。

路由稳定别名与故障转移对外暴露一个模型别名，由 AISIX 在背后选择真实目标模型。

策略限流、缓存、安全护栏和遥测在请求离开网关边界前，执行面向 AI 场景的控制并提供用量可见性。

已经使用 APISIX 或 API7 Gateway，为什么还需要 AISIX？

APISIX 和 API7 Gateway 可以通过 AI 插件为常规网关路由添加 AI 能力。这适合以 API 流量为主、AI 调用只是现有 API 网关部署中的一部分的团队。

AISIX AI 网关面向以 AI 流量为核心负载的团队。它通过 AI 专用资源管理模型服务提供方密钥、模型别名、调用方 API Key、路由和策略，并生成 AI 用量遥测。AISIX Enterprise 和 AISIX Cloud 均提供集中的用量视图和预算。

为什么需要 AI 网关介绍了生产环境中的 AI 流量为什么适合使用专用网关，以及何时继续使用现有 API 网关更合适。

APISIX

为现有 API 路由增加 AI 能力。当现有 API 网关路由就是调用或转换 AI 服务的自然入口时，可以使用 AI 插件。

AISIX

让 AI 流量进入专门的网关域。当应用需要调用稳定模型名称，而 AI 平台团队需要统一管理模型服务提供方密钥、路由、策略和用量可见性时，请使用 AISIX。

继续阅读

选择下一条路径

首先根据控制面的运维方选择产品。三个产品都将网关和实时 AI 流量保留在你的基础设施中。

运行 AISIX OSS通过资源文件直接配置 AISIX，并发送第一个请求。

AISIX Enterprise

自行运维控制面部署客户托管的控制面，连接网关并配置模型。

使用 API7 托管的控制面集中管理网关，无需自行运维控制面。

为生产运行准备网关查看生产网关所需的部署、安全、健康状态、指标和故障排查指南。