跳到主要内容
版本:1.5.0

资源模型

AISIX 网关通过一组精简资源,将调用方请求转换为已完成上游认证的服务提供方请求。

核心资源包括调用方 API Key、模型和服务提供方密钥。当你需要目标选择、响应合成、限流、安全护栏、缓存、可观测性或 AISIX Cloud 预算检查时,可以在这条链路上继续叠加虚拟模型形态和策略资源。

核心流量资源​

大多数 AISIX 流量都从三个资源开始:调用方 API Key、模型和服务提供方密钥。它们共同决定谁可以调用网关、调用方可以使用哪个模型别名,以及 AISIX 会调用哪个上游服务提供方。对于单目标模型,AISIX Cloud 与开源 AISIX 网关都遵循相同的关系:

不同产品管理和引用这些资源的方式不同:

产品管理关系
AISIX Cloud调用方 API Key 和模型属于某个环境,并通过 ID 引用相关资源。服务提供方密钥属于组织,且必须允许目标环境使用。控制面会将生成的配置投射到已挂载的网关。
开源 AISIX 网关所有资源在 resources.yaml 中声明。调用方 API Key 引用模型的 display_name,模型引用服务提供方密钥的 display_name。

在 AISIX Cloud 中,通过控制台或 Admin API 创建或更新每个资源,然后使用资源投射确认更改已到达网关。在开源网关中,请校验完整资源文件,并将其作为一个配置快照重新加载。如果重新加载失败,网关会继续使用上一个有效快照。

在开源 AISIX 网关快速入门中,调用方 API Key 是 YOUR_CALLER_API_KEY,模型别名是 gpt-4o-mini,模型服务提供方密钥保存 OpenAI 凭证,上游模型同样是 gpt-4o-mini。

在生产环境中,别名和上游模型不必相同。例如,应用可以持续发送 prod-chat,而网关在该别名背后切换上游模型、服务提供方密钥或路由策略。

调用方 API Key​

调用方 API Key 是 AISIX 用于应用请求的授权身份。应用可以直接提供该 Key 的明文值,也可以提供 OIDC 签发的 JWT;该 JWT 的外部身份需绑定到此 Key。

解析出的 Key 决定调用方可以使用哪些模型别名,以及应用哪些 Key 范围的流量控制。关于 Key 哈希、轮换和模型允许列表,请参见调用方 API Key。关于将外部身份绑定到 Key,请参阅 JWT 身份认证。

模型​

模型是调用方在请求体中发送的、面向网关的模型别名。

对于直接模型,面向调用方的别名可以不同于上游服务提供方的模型 ID。模型还会指向 AISIX 调用上游时应使用的服务提供方密钥。虚拟模型会先通过路由、语义或合议决策解析别名,再到达直接模型。

有关各模型形态及其配置,请参阅模型别名。

服务提供方密钥​

服务提供方密钥保存 AISIX 解析模型后用于访问上游的凭证和连接设置。

服务提供方密钥可以让上游凭证不进入应用代码,并允许多个模型复用同一个上游账号、base URL 和适配器族。关于凭证字段、base URL 行为、服务提供方标签和适配器,请参见服务提供方密钥。如需更换共享上游凭证,请参见轮换服务提供方密钥。

在开源网关中,每个服务提供方密钥都显式声明适配器。AISIX Cloud 会为目录中的服务提供方推导适配器,并允许自带服务提供方显式指定适配器。

模型分发形态​

每个模型都有 display_name,它是调用方使用的别名。在 AISIX Cloud 中,模型资源之间通过资源 ID 引用;在开源 AISIX 网关的 resources.yaml 中,则通过 display_name 引用。其余字段定义一种分发形态:

形态资源关系
直接模型存储上游 model_name,并引用一个服务提供方密钥。
路由模型引用多个直接目标,并按路由策略选择一个目标。
语义模型引用一个支持向量嵌入的直接模型、一个默认直接模型,以及语义路由对应的直接目标。
合议模型引用直接合议成员模型和一个直接评审模型。

四种形态互斥。资源不能将直接上游字段与 routing、semantic 或 ensemble 块组合使用。

向量嵌入模型仍是直接模型。其 embedding 块记录向量维度和归一化行为,使该模型能够提供向量嵌入并支持语义路由。

调用方可以继续使用一个稳定别名,运维人员则可以更改别名背后的直接上游、路由目标、语义路由或合议成员。调用方 API Key 必须允许请求中指定的别名;AISIX 会在内部选择或调用被引用的模型。

有关详细行为,请参阅路由与故障转移、语义路由和合议模型。

策略资源​

策略资源会围绕调用方 API Key、模型和服务提供方密钥组成的链路添加网关行为。

限流用于控制请求速率和并发。安全护栏用于检查请求或响应内容。缓存可以复用 Chat Completions 响应。可观测性导出器会将网关请求遥测发送到 OTLP/HTTP、对象存储、阿里云 SLS 或 Datadog 目的地。

预算检查通过 AISIX Cloud 控制面策略执行。开源 AISIX 网关不会暴露本地预算资源。