健康检查
AISIX 为进程、流量、配置和模型状态分别提供健康与状态端点。这些端点同时适用于开源 AISIX 网关和连接 AISIX Cloud 的 AISIX 网关。请使用与所监控条件对应的端点。要验证从调用方到模型服务提供方的完整路径,请通过网关发送测试请求。
| 问题 | 端点 | 监听器 |
|---|---|---|
| 进程是否正在运行且未在关闭? | GET /livez | 代理 |
| 此实例是否应接收代理流量? | GET /readyz | 代理 |
| 此实例是否已应用任何有效配置? | GET /status/ready | 指标/状态 |
| 此实例当前使用什么配置提供服务? | GET /status/config | 指标/状态 |
| 模型是否可用于路由? | GET /status/models | 指标/状态 |
这些端点不需要身份认证。启用 Prometheus 指标时会提供指标/状态端点;默认情况下已启用。请确保该监听器仅对监控和运维系统开放。
代理存活检查
使用 /livez 检查进程存活状态:
curl -i "http://127.0.0.1:3000/livez"
健康进程返回 200 OK,响应体为 ok。在优雅关闭期间,存活检查返回 503 Service Unavailable,使编排和流量系统可以替换或移除该实例。
手动排查时可以追加 ?verbose=1。自动化探针不要依赖 verbose 响应体。
存活检查刻意保持较窄范围。它不能证明网关已经加载配置、模型可用或模型服务提供方请求能够成功。
流量就绪
使用 /readyz 判断实例是否应接收流量:
curl -i "http://127.0.0.1:3000/readyz"
实例正在排空或尚未应用第一个配置时,该 端点返回 503 Service Unavailable。有效配置可用后,只要网关仍能使用该配置提供服务,实例就会保持就绪。
控制面或配置存储中断不会仅仅因为最近没有更新就让运行中的网关变为未就绪。来源停滞通常会影响所有实例,将它们全部移出流量会中断流量路径,而不是把流量转移到健康实例。请单独监控配置新鲜度。
排查实例未就绪的原因时可以追加 ?verbose=1。自动化探针不要依赖 verbose 响应体。
在 Kubernetes 中,请将存活和就绪探针分别指向代理监听器上的 /livez 和 /readyz。请为网关留出足够的终止时间,以排空进行中的请求和流式请求。
配置状态
指标/状态监听器提供两个配置检查。
GET /status/ready 是仅检查配置的启动门禁:
- 应用第一个有效配置之前返回
503 Service Unavailable; - 有效配置可用后返回
200 OK;后续更新失败而 AISIX 使用最后已知的有效快照时也会返回200 OK。
GET /status/config 用于说明 AISIX 观察到和应用的内容:
curl -sS "http://127.0.0.1:9090/status/config"
当资源更新没有反映到代理行为中时,请使用该端点。比较来源状态与已应用状态,然后检查被拒绝的资源和最近一次加载失败。有关完整响应字段、状态含义、Prometheus 指标和告警示例,请参阅配置状态。
配置状态不能替代调用方路径验证。预期快照应用后,请查询 GET /v1/models,并发送行为发生变更的请求。请参阅配置传播。
按模型检查运行时健康状态
当网关已就绪,但路由避开某个模型或报告没有符合条件的目标时,请使用 GET /status/models:
curl -sS "http://127.0.0.1:9090/status/models"
每个已配置模型会报告以下高层状态之一:
healthy:可用于路由;cooldown:在最近的上游失败后暂时移出路由;unhealthy:后台模型检查失败后被排除;not_applicable:可用性由其目标决定的虚拟模型。
状态视图有助于识别冷却和后台检查失败,但不会验证调用方访问权限或模型服务提供方凭证。即使模型报告为健康,调用方 API Key、模型服务提供方密钥或上游响应仍可能导致请求失败。
有关完整响应字段,请参阅配置状态。
组合健康信号
请从最早失败的层级开始排查:
| 信号 | 下一项检查 |
|---|---|
/livez 失败。 | 进程状态、监听器绑定、监听器 TLS 和关闭状态 |
/readyz 失败。 | 排空状态和初始配置可用性 |
/status/ready 失败。 | 初始配置来源和加载错误 |
/status/config 为 degraded 或 out_of_sync。 | 被拒绝的资源、来源连接和 last_failure |
/status/models 报告 cooldown 或 unhealthy。 | 模型服务提供方凭证、提供方可用性、模型检查和出站网络 |
| 所有健康端点均成功,但请求失败。 | 调用方访问权限、模型服务提供方路径、策略执行和上游响应 |
最后,请使用与应用相同的路径进行检查:
AISIX_API_KEY="YOUR_CALLER_API_KEY"
curl -sS "http://127.0.0.1:3000/v1/models" \
-H "Authorization: Bearer ${AISIX_API_KEY}"
然后通过所需的端点和模型发送真实请求。最后这项探测会验证运行时健康端点刻意不检查的条件。
下一步
使用故障排除,将失败的健康检查或请求路径检查进一步定位到配置、调用方策略、AISIX Cloud 投射或上游模型服务提供方。