确保上游高可用
当 API7 网关向上游发送 API 请求时,如果上游系统发生故障,可能会出现可用性和可靠性问题。本指南介绍保障上游依赖系统高可用性的策略。
前提条件
添加多个上游节点
使用多个上游节点可以防止单节点故障。对网关组中的上游节点所做的修改,不会影响发布到其他网关组的同一服务版本。
- 控制台
- Ingress Controller
- 从侧边导航栏选择网关组的已发布服务,然后点击要修改的服务,例如版本为
1.0.0的httpbin。 - 在已发布的服务下,从侧边导航栏选择上游。
- 点击节点 > 新增节点。
- 在对话框中执行以下操作:
- 在主机和端口字段中,输入另一个 API 端点。
- 在权重字段中输入
100,与第一个节点相同。 - 点击新增。
创建 Kubernetes 清单文件,配置指向多个上游服务的路由:
- Gateway API
- APISIX CRD
multiple-upstream-nodes.yaml
apiVersion: gateway.networking.k8s.io/v1
kind: HTTPRoute
metadata:
namespace: api7
name: multiple-upstream-nodes
spec:
parentRefs:
- name: apisix
rules:
- matches:
- path:
type: PathPrefix
value: /
backendRefs:
- name: upstream1
port: 80
- name: upstream2
port: 80
multiple-upstream-nodes.yaml
apiVersion: apisix.apache.org/v2
kind: ApisixRoute
metadata:
namespace: api7
name: httpbin
spec:
ingressClassName: apisix
http:
- name: httpbin
match:
paths:
- /*
backends:
- serviceName: upstream1
servicePort: 80
- serviceName: upstream2
servicePort: 80
将配置应用到集群:
kubectl apply -f multiple-upstream-nodes.yaml
修改负载均衡类型
负载均衡将网络请求分配到多个节点。它对于处理高流量的系统至关重要,可以提高性能、可扩展性和可靠性。
API7 网关支持多种负载均衡算法:
- 加权轮询(WRR)
- 一致性哈希
- 指数加权移动平均(EWMA)
- 最少连接
默认情况下,API7 网关支持 WRR 算法。该算法以循环方式,根据一组节点的权重分配传入请求。
- 控制台
- Ingress Controller
- 从侧边导航栏选择网关组的已发布服务,然后点击要修改的服务,例如版本为
1.0.0的httpbin。 - 在已发布的服务下,从侧边导航栏选择上游。
- 在上游配置字段中,点击编辑。
- 在对话框中,将负载均衡类型修改为
Least Connection。 - 点击保存。
创建 Kubernetes 清单文件,配置负载均衡算法:
- Gateway API
- APISIX CRD
upstream-lb.yaml
apiVersion: apisix.apache.org/v1alpha1
kind: BackendTrafficPolicy
metadata:
namespace: api7
name: httpbin
spec:
targetRefs:
- name: httpbin
kind: Service
group: ""
loadbalancer:
type: least_conn
upstream-lb.yaml
apiVersion: apisix.apache.org/v2
kind: ApisixUpstream
metadata:
namespace: api7
name: httpbin
spec:
ingressClassName: apisix
loadbalancer:
type: least_conn
将配置应用到集群:
kubectl apply -f upstream-lb.yaml
启用健康检查
健康检查是一种根据上游节点的响应情况判断其是否健康的机制。配置健康检查后,API7 企业版只会将请求转发到被判定为健康的上游节点,不会转发到被判定为不健康的节点。
健康检查通常有两种方式:
- 主动健康检查:通过主动探测节点来判断上游节点的健康状况。
- 被动健康检查:根据节点对用户请求的响应来判断上游节点的健康状况,不发起额外探测。被动健康检查必须与主动健康检查一起使用,不能单独使用。
API7 企业版同时支持七层(HTTPS 和 HTTP)和四层(TCP)健康检查。
默认情况下,上游健康检查在全局启用:
config.yaml
apisix:
disable_upstream_healthcheck: false
按照以下步骤配置健康检查的详细设置。
信息
继续操作之前,请确保 API 后端已实现健康检查端点。
- 控制台
- Ingress Controller