跳到主要内容

生产部署

生产部署意味着可工作的网关开始成为真实流量路径的一部分。在扩大流量前,请确认部署模式、依赖位置、监听器暴露、就绪检查和关闭行为。

选择部署模式

首先决定配置由哪里管理。

在自托管部署中,AISIX 会运行本地 Admin 监听器。你通过 Admin API 管理服务提供方密钥、模型别名、调用方 API Key 和策略资源,AISIX 将这些资源存储在 etcd 中。

在托管部署中,AISIX Cloud 管理资源并将其投射到托管网关。本地 Admin 监听器和本地 playground 不会暴露。网关通过托管 mTLS 路径连接回 AISIX Cloud。

后续部署计划需要与该选择保持一致。自托管部署需要私有 Admin 路径和可达的 etcd 配置存储;托管部署需要 Cloud 证书包、托管连接和实时代理路径检查。

准备运行时依赖

请将配置存储运行在网关进程之外。在自托管部署中,etcd 是网关控制面的一部分,因此应仅对 AISIX 和管理网关配置的系统开放。

接入生产流量前,请规划 etcd 持久化、备份和访问控制。自托管 etcd 会存储动态资源,包括敏感的服务提供方凭证和策略配置。

除非多个网关实例需要共享响应缓存,否则可以先使用内存缓存策略。如果缓存策略需要使用 Redis,请配置 cache.redis.url;选择 Redis 的策略不会在 Redis 不可用时静默回退到内存。

限流计数器默认使用本地进程内存。对于多实例部署,如果请求、token 或并发上限需要作用于整个网关组,请配置 ratelimit.backend: redis,并让每个实例指向同一个 Redis 后端。

启动配置只应用于进程级设置。服务提供方密钥、模型别名、调用方 API Key、安全护栏、缓存策略和可观测性导出器等动态资源应来自配置存储。

设置监听器基线

代理监听器只应暴露给预期调用方,或暴露给调用方流量前置的入口层。

对于自托管部署,请将 Admin 监听器保留在 loopback、私有子网或仅管理员可访问的网络中。不要将 Admin 或 OpenAPI 端点暴露到公网。

指标端点不做认证,并通过专用指标监听器提供。请保持指标端点私有,只允许可信监控基础设施抓取。

请验证启动配置暴露的专用指标监听器。

当代理或 Admin 流量离开本地开发环境时,请启用监听器 TLS。当配置存储要求加密传输或双向认证时,请使用 etcd TLS 或 mTLS。在托管部署中,排查更高层级投射问题前,请先验证托管证书包和 Cloud 管理端 URL。

路由流量前验证

存活检查是必要的,但并不足够。进程可以存活,但调用方认证、模型解析、服务提供方凭证或上游网络访问仍可能出错。

设置当前部署的监听器 URL:

PROXY_URL="https://gateway.example.com"
ADMIN_URL="https://admin.internal.example.com"

在代理监听器上检查代理存活状态:

curl -i "${PROXY_URL}/livez"

对于自托管部署,还需要在私有 Admin 监听器上检查 Admin 存活状态:

curl -i "${ADMIN_URL}/livez"

在自托管部署中,请检查 Admin 健康状态,以确认模型健康状态和配置新鲜度:

curl -sS "${ADMIN_URL}/admin/v1/health" \
-H "Authorization: Bearer ${AISIX_ADMIN_KEY}"

然后验证真实请求链路:

  • 使用应用将要使用的同一个调用方 API Key 调用 GET /v1/models
  • 对计划暴露的每个端点族发送一次真实代理请求。
  • 能够显示冒烟测试请求的日志、指标、响应头、用量事件或导出器输出。
  • 使用无效或未授权调用方 API Key 发送一次应被拒绝的请求,以便在扩大流量前确认访问控制有效。

关闭行为

AISIX 会在收到 SIGINTSIGTERM 时执行优雅关闭。关闭期间,服务器会停止接受新任务,协调监听器与后台任务关闭,并将存活状态标记为失败。

在主动流量排空期间,AISIX 会将 /livez 标记为失败,以便负载均衡器或编排探针将实例移出服务。GET /livez 是存活信号,不是完整的就绪或流量排空契约。

扩大流量前检查

广泛暴露生产流量前,请确认以下条件:

  • 启动配置与预期部署模式匹配。
  • 代理监听器只能通过预期网络路径访问。
  • 自托管部署中的 Admin 监听器是私有的。
  • 配置存储是私有的,并且网关可以访问。
  • TLS、mTLS 和证书文件路径对使用它们的传输链路有效。
  • 已至少创建一个服务提供方密钥、模型别名和调用方 API Key。
  • 模型别名能通过面向调用方的代理路径看到。
  • 真实服务提供方后端请求能够通过网关成功。
  • 运维信号能显示冒烟测试请求。

如果进程已经启动但真实请求失败,请将其视为请求链路问题。扩大流量前,请检查模型可见性、配置传播、调用方 API Key 访问权限、服务提供方凭证和上游连接。

下一步

你已经了解将 AISIX 接入真实流量前的生产基线。接下来阅读网络与安全了解监听器和密钥处理,阅读 TLS 与 mTLS了解传输安全,阅读健康检查了解就绪检查。