跳到主要内容

发布说明

本页记录 AISIX AI 网关的发布说明。每个版本都是网关(数据面)和控制面的协同发布,会通过容器镜像(docker.io/api7/aisixdocker.io/api7/aisix-cp-*)、离线安装包以及 aisix-cp Helm chart 分发。版本按从新到旧排列。

0.3.1

该维护版本汇总了 0.3.0 质量验证阶段发现的问题,并新增基于目录的用户预配能力。

新功能

  • SCIM 2.0 目录同步:通过新的 /scim/v2 端点,从身份提供方(任意 SCIM 2.0 服务提供方,例如 Okta 或 Microsoft Entra ID)自动预配和取消预配成员。

改进和修复

  • 网关镜像现在会自报告发布版本:包括 Server 响应头、aisix --version 以及 Dashboard 中展示的数据面版本,不再显示静态构建版本。
  • Anthropic 提示词缓存 Token 现在会计入原生 /v1/messages/v1/responses 端点的限流 Token 预算。
  • 按客户端统计 Token 的指标新增包含缓存 Token 的 total 序列。
  • 在自托管安装中,Dashboard Playground 现在可以访问私有或内部网络中的 LLM 端点(通过 AISIX_PLAYGROUND_ALLOW_PRIVATE_IPS 环境变量显式启用)。
  • 登录现在会信任部署自身源站及其 loopback 对应源站,并在遇到限流或不可信源站登录尝试时给出更清晰的提示。
  • 安全护栏管理 API 现在纳入 Cloud Admin API 合约。
  • 每个代理响应现在都会携带 x-aisix-request-id 响应头,便于关联排查。
  • 健康状态变化时会发出 deployment cooldown 指标。
  • 单个格式错误的遥测事件不再导致整批用量事件被丢弃。
  • 控制面重启时不再记录无害的 “constraint already exists” 错误。

0.3.0

该大型功能版本引入 MCP 和 A2A 网关、多个新的 API 表面、扩展后的安全护栏目录,以及基于指标的路由能力。

MCP 网关

  • 新增聚合型 /mcp 端点,可在一个 AISIX API Key 后统一代理多个上游 MCP 服务器。
  • 将上游 MCP 服务器作为一等资源管理:可在控制面和 Dashboard 中注册和完整 CRUD,支持启用/禁用开关以及可配置的上游超时。
  • 基于 API Key 和工具的访问控制:治理每个 MCP 工具可以被哪些 API Key 调用。
  • 通过 API Key 或 OAuth2 客户端凭证对上游 MCP 服务器进行认证。
  • MCP 工具调用受与 LLM 流量相同的限流、预算和安全护栏(输入与输出)策略治理,并产生用量事件和访问日志。

A2A 网关

  • 新增 Agent-to-Agent(A2A)网关,支持在控制面和 Dashboard 中管理组织范围内的 Agent。
  • 每个 API Key 可通过 allowed_agents 控制允许访问哪些 Agent。

新 API 表面

  • /v1/realtime WebSocket 转发,用于 OpenAI realtime API(OpenAI 系列和 Azure),支持浏览器子协议认证和按会话统计用量。
  • 一等支持 /v1/files/v1/batches/v1/fine_tuning 端点(OpenAI 系列和 Azure),并支持 batch job 成本归因。
  • 原生(非 OpenAI)embeddings 支持 Vertex/Gemini 和 Bedrock(Titan 与 Cohere)。
  • /v1/messages 支持跨服务提供方的内容块,包括图像、工具调用、工具结果和文档。

安全护栏

  • 新增安全护栏类型:LakeraPresidioOpenAI Moderation
  • 支持对请求和响应体进行 PII 检测与脱敏(mask 或 block),包括流式响应和非聊天端点。
  • 监控模式下的安全护栏命中会体现在用量事件和 Dashboard Logs 视图中。

路由

  • 新增基于指标的目标选择策略:最低成本最低延迟最低负载
  • 支持 Tag / metadata 条件路由通配模型名路由provider/* 别名)。
  • 支持用于 A/B 测试和灰度发布的 粘性加权路由

流量控制与认证

  • API Key 生命周期:支持设置过期时间、禁用 Key,并在一次操作中轮换 Key。
  • 基于共享 Redis 的 集群限流,在现有每分钟(rpm)和每天(rpd)限制之外,新增每秒(rps)和每小时(rph)请求限制。
  • 缓存和限流 Key 会按环境隔离,因此共享 Redis 不会跨环境泄漏状态。

可观测性

  • 请求和响应内容采集扩展到 embeddings、rerank、images 和 audio。
  • 透传端点会针对成功和失败请求发出带 API Key 归因的用量事件。

部署

  • 容器镜像以非 root 用户运行,同时仍可通过 CAP_NET_BIND_SERVICE 文件能力绑定特权端口(:80:443)。

Dashboard

  • 统一且可筛选的模型页面,以及单一的 “Create model” 类型选择器。
  • MCP 服务器管理页面,并在限流、预算和安全护栏视图中展示 MCP 治理能力。
  • 支持拖拽调整路由目标顺序,并在 least-cost 策略下展示每个目标的成本标记。
  • 支持按组织配置用量日志保留时间。
  • 成员和团队列表支持分页。