上游高可用
API7 网关将 API 请求转发给上游。上游系统发生故障时,可能影响 API 的可用性和可靠性。本指南介绍如何保障上游依赖的高可用性。
前提条件
添加多个上游节点
使用多个上游节点可以防止单节点故障。在一个网关组中修改上游节点,不会影响同一服务版本在其他网关组中的部署。
- 控制台
- Ingress Controller
- 从侧边栏选择网关组的已发布服务,然后选择要修改的服务,例如版本为
1.0.0的httpbin。 - 在已发布的服务下,从侧边栏选择上游。
- 点击节点 > 新增节点。
- 在对话框中完成以下操作。
- 在主机和端口字段中输入另一个 API 端点。
- 在权重字段中输入
100,与第一个节点的权重相同。 - 点击新增。
创建 Kubernetes 清单文件,使用 ApisixRoute 自定义资源配置一条指向多个上游服务的路由。
multiple-upstream-nodes.yaml
apiVersion: apisix.apache.org/v2
kind: ApisixRoute
metadata:
name: multiple-upstream-nodes
# namespace: api7 # 替换为你的命名空间
spec:
http:
- name: multiple-upstream-nodes
match:
paths:
- /*
backends:
- serviceName: upstream1
servicePort: 80
- serviceName: upstream2
servicePort: 80
将配置应用到集群。
kubectl apply -f multiple-upstream-nodes.yaml
修改负载均衡类型
负载均衡将网络请求分发给多个节点。对于处理大量流量的系统,负载均衡有助于提高性能、可扩展性和可靠性。
API7 网关支持以下负载均衡算法。
- 加权轮询(WRR)
- 一致性哈希
- 指数加权移动平均(EWMA)
- 最少连接
API7 网关默认使用 WRR,按各节点的权重轮流分发传入请求。
- 控制台
- Ingress Controller
- 从侧边栏选择网关组的已发布服务,然后选择要修改的服务,例如版本为
1.0.0的httpbin。 - 在已发布的服务下,从侧边栏选择上游。
- 在上游配置字段中点击编辑。
- 在对话框中将负载均衡类型设为
Least Connection。 - 点击保存。
loadbalancer.yaml
apiVersion: apisix.apache.org/v2
kind: ApisixUpstream
metadata:
name: httpbin # 对应服务名称
# namespace: api7 # 替换为你的命名空间
spec:
loadbalancer:
type: least_conn
将配置应用到集群。
kubectl apply -f loadbalancer.yaml
启用健康检查
健康检查根据上游节点的响应情况判断其是否健康。启用健康检查后,API7 企业版只会将请求转发给判定为健康的上游节点。
健康检查通常有两种方式。
- 主动健康检查通过主动探测上游节点来判断其健康状况。
- 主动健康检查通过主动探测上游节点来判断其健康状况。
信息
启用健康检查前,请确保 API 后端已实现健康检查端点。
- 控制台
- Ingress Controller
- 从侧边栏选择网关组的已发布服务,然后选择要修改的服务,例如版本为
1.0.0的httpbin。 - 在已发布的服务下,从侧边栏选择上游。
- 在健康检查字段中点击启用。
- 在对话框中完成以下操作。
- 在探针协议字段中选择
HTTP。 - 在HTTP 探针路径字段中输入
/health。 - 其余字段使用默认值。
- 点击启用。
创建 Kubernetes 清单文件,为上游启用健康检查。
upstream-healthcheck.yaml
apiVersion: apisix.apache.org/v2
kind: ApisixUpstream
metadata:
name: httpbin # 对应服务名称
# namespace: api7 # 替换为你的命名空间
spec:
healthCheck:
passive:
unhealthy:
httpCodes:
- 429
- 404
- 500
- 501
- 502
- 503
- 504
- 505
httpFailures: 5
active:
type: http
httpPath: /health
timeout: 3
healthy:
successes: 2
interval: 1s
httpCodes:
- 200
- 302
将配置应用到集群。
kubectl apply -f upstream-healthcheck.yaml