请求生命周期
AISIX 位于应用和 AI 服务提供方之间。应用携带调用方凭证和模型别名向代理 API 发送请求,AISIX 会据此执行访问控制、解析上游目标、应用 AI 流量策略,并记录请求过程中发生的事件。
每个请求都会经历以下阶段:
调用方应用请求
AISIX 网关
调用方身份认证通过哈希值验证调用方 API Key,或将 JWT 映射到调用方 Key
模型解析将别名解析为直接、路由、语义或合议形态
请求控制输入安全护栏、AISIX Cloud 预算、限流和缓存查找——请求被拒绝或缓存命中时会提前结束
服务提供方分发服务提供方凭证、上游模型名称和服务提供方适配器
上游 · 网关之外服务提供方模型 API重试与故障转移
响应处理输出安全护栏、用量和遥测
调用方返回响应