graphql-limit-count
graphql-limit-count 插件使用固定窗口限制 GraphQL 查询(Queries)和变更(Mutations)的累计成本。查 询深度是默认成本,保持了插件的原有行为。API7 企业版还提供 complexity 和 node_quantifier 策略,用于度量文档要求执行的工作量。
在 GraphQL 中,深度是指查询或变更中的嵌套层级数。以下是一个深度为 3 的查询示例:
{
a {
b {
c
}
}
}
使用默认深度策略时,插件会在每个时间间隔内消耗深度配额。例如,如果 30 秒间隔内的配额为 4,则深度为 3 的请求会被允许,并剩余 1。同一间隔内深度为 2 的请求会被拒绝。
该插件接受包含 query 字段的 JSON 请求体,或正文直接包含 GraphQL 文档且媒体类型为 application/graphql 的 POST 请求。片段(fragment)会计入查询深度。不支持的方法返回 405 Method Not Allowed;无法读取、格式错误或无效的 GraphQL 请求返回 400 Bad Request。
APISIX 默认最多读取 1 MiB 的 GraphQL 请求数据。若要调整 该限制,请在 config.yaml 中配置 graphql.max_size 并重新加载 APISIX:
graphql:
max_size: 1048576
本地限速与基于 Redis 的限速
graphql-limit-count 插件支持两种限速模式:
- 本地限速:每个网关实例独立实施限速。每个实例维护自己的计数器,因此当流量分散到多个实例时,实际限额约为“限额 × 实例数”。未设置
policy或将其设置为local时,这是默认模式。 - 基于 Redis 的限速:通过 Redis 在所有网关实例之间共享限额。所有实例共享同一配额,因此配置的限额适用于全部网关实例。
查询成本
complexity、node_quantifier 策略及其支持字段在 API7 企业版 3.10.6 中引入。
默认情况下,一个请求按其查询深度计费。cost_strategy 可以选择不同的成本模型,使请求按其向上游要求的工作量消耗配额:
depth按选择集的嵌套深度计费。这是该插件一直以来的行为,也仍是默认值,因此升级后已有配置的行为不变。complexity根据查询解析的节点计算原始分数。每个节点贡献的分数为(其所有子节点之和) × mul + add,其中add与mul默认为1。node_quantifier只根据匹配成本装饰能在mul_arguments中找到可用量词的节点计算原始分数。例如,带有mul_arguments: ["first"]的装饰会把first: 10作为更深层量化节点的乘数。如果没有节点同时具备匹配装饰和可用量词,文档的原始分数为0。默认score_factor会产生计费成本1;执行0.01调整后,大于100的系数会提高该成本。
插件会把策略原始分数转换为计入配额的整数。对于 complexity 和 node_quantifier,它会先给原始分数加 0.01,再应用 score_factor 并向上取整。因此,使用默认系数 1 时,原始整数分数 3 会按 4 计费。depth 策略不执行 0.01 调整,但仍会应用系数并向上取整。
max_cost 会在查询到达上游前,以 403 Forbidden 拒绝计 费成本超过配置值的查询。插件会先计入配额,再执行该检查,因此因成本过高而被拒绝的查询仍会消耗计算出的配额。启用 show_limit_quota_header 时,X-Graphql-Query-Cost 会报告该数值。
resolve_variables 默认开启,此时插件会先解析已提供的 GraphQL 变量、操作声明的变量默认值,以及上游 schema 中的参数默认值,再计算成本。关闭它会把 first: $n 当作未提供参数,从而可能低估通过变量提交量词的查询成本。
把成本装饰与查询匹配需要上游 schema。每个网关 Worker 会在第一次处理适用请求时内省配置了装饰的服务,并缓存 schema,直到插件重新加载。没有装饰的路由从不触发内省。在这种情况下,complexity 使用默认权重计算每个节点,而 node_quantifier 的原始分数为 0;其计费成本遵循上述调整和缩放规则。当内省端点不是上游本身时,请设置 introspection_endpoint;当该端点需要凭据时,请设置 introspection_headers。凭据取自配置而不是请求,因为每个缓存的 schema 会被该 Worker 处理的所有调用方复用。
成本装饰
一条装饰用于调整上游 schema 中某个位置对成本的贡献。装饰在服务上以 graphql_cost_decorations 管理,因此由该服务下的所有路由共享,并且无需编辑承载该插件的路由即可修改。
一条装饰指定一个 field_path,它可以标识 GraphQL 类型(如 Product)、类型加字段(如 Product.name),也可以标识一条字段链(如 Query.products.nodes)。装饰 会调整它匹配到的节点:
| 字段 | 作用 |
|---|---|
add_value | 加到该节点自身的成本上。 |
mul_value | 对该节点子节点的成本做乘法。 |
add_arguments | 指定若干参数,其取值会加到该节点自身的成本上。 |
mul_arguments | 指定若干参数,其取值会乘以后代成本。在 node_quantifier 策略下,该乘数会传递到更深层的量化节点。 |
同一个服务上,一个 field_path 只能被装饰一次。
示例
以下示例使用 GitHub GraphQL API 端点作为上游,并演示了如何在不同场景下配置 graphql-limit-count。
要进行后续操作,请创建一个 GitHub 个人访问令牌(Personal Access Token),并为你想要交互的资源配置适当的权限范围。
基于远程地址进行速率限制
以下示例演示了如何通过单个变量 remote_addr 对 GraphQL 请求进行速率限制。
创建一个启用了 graphql-limit-count 插件的路由,配置为每个远程地址在 30 秒窗口内允许的深度配额为 2:
- Admin API
- ADC
- Ingress Controller
curl "http://127.0.0.1:9180/apisix/admin/routes" -X PUT \
-H "X-API-KEY: ${ADMIN_API_KEY}" \
-d '{
"id": "graphql-limit-count-route",
"uri": "/graphql",
"plugins": {
"graphql-limit-count": {
"count": 2,
"time_window": 30,
"rejected_code": 429,
"key_type": "var",
"key": "remote_addr",
"policy": "local"
}
},
"upstream": {
"type": "roundrobin",
"pass_host": "node",
"scheme": "https",
"nodes": {
"api.github.com:443": 1
}
}
}'
services:
- name: graphql-service
routes:
- uris:
- /graphql
name: graphql-limit-count-route
plugins:
graphql-limit-count:
count: 2
time_window: 30
rejected_code: 429
key_type: var
key: remote_addr
policy: local
upstream:
type: roundrobin
scheme: https
nodes:
- host: api.github.com
port: 443
weight: 1
将配置同步到网关:
adc sync -f adc.yaml
- Gateway API
- APISIX CRD
apiVersion: v1
kind: Service
metadata:
namespace: aic
name: github-graphql-external-domain
spec:
type: ExternalName
externalName: api.github.com
---
apiVersion: apisix.apache.org/v1alpha1
kind: BackendTrafficPolicy
metadata:
namespace: aic
name: github-graphql-https
spec:
targetRefs:
- name: github-graphql-external-domain
kind: Service
group: ""
passHost: node
scheme: https
---
apiVersion: apisix.apache.org/v1alpha1
kind: PluginConfig
metadata:
namespace: aic
name: graphql-limit-count-plugin-config
spec:
plugins:
- name: graphql-limit-count
config:
count: 2
time_window: 30
rejected_code: 429
key_type: var
key: remote_addr
policy: local
---
apiVersion: gateway.networking.k8s.io/v1
kind: HTTPRoute
metadata:
namespace: aic
name: graphql-limit-count-route
spec:
parentRefs:
- name: apisix
rules:
- matches:
- path:
type: Exact
value: /graphql
filters:
- type: ExtensionRef
extensionRef:
group: apisix.apache.org
kind: PluginConfig
name: graphql-limit-count-plugin-config
backendRefs:
- name: github-graphql-external-domain
port: 443
apiVersion: apisix.apache.org/v2
kind: ApisixUpstream
metadata:
namespace: aic
name: github-graphql-external-domain
spec:
ingressClassName: apisix
scheme: https
passHost: node
externalNodes:
- type: Domain
name: api.github.com
port: 443
---
apiVersion: apisix.apache.org/v2
kind: ApisixRoute
metadata:
namespace: aic
name: graphql-limit-count-route
spec:
ingressClassName: apisix
http:
- name: graphql-limit-count-route
match:
paths:
- /graphql
upstreams:
- name: github-graphql-external-domain
plugins:
- name: graphql-limit-count
enable: true
config:
count: 2
time_window: 30
rejected_code: 429
key_type: var
key: remote_addr
policy: local
将配置应用到集群:
kubectl apply -f graphql-limit-count-ic.yaml
使用 GraphQL 查询进行验证
发送一个深度为 2 的 GraphQL 查询请求进行验证:
curl -i "http://127.0.0.1:9080/graphql" -X POST \
-H "Content-Type: application/json" \
-H "Authorization: Bearer ${GH_ACCESS_TOKEN}" \
-d '{"query": "query {viewer{login}}"}'
你应看到 HTTP/1.1 200 OK 响应及对应的响应体。
该请求已消耗了时间窗口内允许的所有配额。如果你在同一个 30 秒时间间隔内再次发送请求,应该会收到 HTTP/1.1 429 Too Many Requests 响应,表明请求超过了配额阈值。
使用 GraphQL 变更进行验证
你也可以发送一个深度为 3 的 GraphQL 变更请求进行验证:
curl -i "http://127.0.0.1:9080/graphql" -X POST \
-H "Content-Type: application/json" \
-H "Authorization: Bearer ${GH_ACCESS_TOKEN}" \
-d '{"query": "mutation AddReactionToIssue {addReaction(input:{subjectId:\"MDU6SXNzdWUyMzEzOTE1NTE=\",content:HOORAY}) {reaction {content} subject {id}}}"}'
你会随时看到 HTTP/1.1 429 Too Many Requests 响应,因为深度 3 总是超过深度 2 的配额。
基于远程地址和消费者名称进行速率限制
以下示例演示了如何通过变量组合 remote_addr 和 consumer_name 对 GraphQL 请求进行速率限制。它允许每个远程地址和每个消费者在 30 秒窗口内的深度配额为 2。
- Admin API
- ADC
- Ingress Controller
创建消费者 john:
curl "http://127.0.0.1:9180/apisix/admin/consumers" -X PUT \
-H "X-API-KEY: ${ADMIN_API_KEY}" \
-d '{
"username": "john"
}'
为该消费者创建 key-auth 凭证:
curl "http://127.0.0.1:9180/apisix/admin/consumers/john/credentials" -X PUT \
-H "X-API-KEY: ${ADMIN_API_KEY}" \
-d '{
"id": "cred-john-key-auth",
"plugins": {
"key-auth": {
"key": "john-key"
}
}
}'
创建第二个消费者 jane:
curl "http://127.0.0.1:9180/apisix/admin/consumers" -X PUT \
-H "X-API-KEY: ${ADMIN_API_KEY}" \
-d '{
"username": "jane"
}'
为该消费者创建 key-auth 凭证:
curl "http://127.0.0.1:9180/apisix/admin/consumers/jane/credentials" -X PUT \
-H "X-API-KEY: ${ADMIN_API_KEY}" \
-d '{
"id": "cred-jane-key-auth",
"plugins": {
"key-auth": {
"key": "jane-key"
}
}
}'
创建一个启用了 key-auth 和 graphql-limit-count 插件的路由:
curl "http://127.0.0.1:9180/apisix/admin/routes" -X PUT \
-H "X-API-KEY: ${ADMIN_API_KEY}" \
-d '{
"id": "graphql-limit-count-route",
"uri": "/graphql",
"plugins": {
"key-auth": {},
"graphql-limit-count": {
"count": 2,
"time_window": 30,
"rejected_code": 429,
"policy": "local",
"key_type": "var_combination",
"key": "$remote_addr $consumer_name"
}
},
"upstream": {
"type": "roundrobin",
"pass_host": "node",
"scheme": "https",
"nodes": {
"api.github.com:443": 1
}
}
}'
创建两个消费者和一个按消费者启用限速的路由:
consumers:
- username: john
credentials:
- name: key-auth
type: key-auth
config:
key: john-key
- username: jane
credentials:
- name: key-auth
type: key-auth
config:
key: jane-key
services:
- name: graphql-limit-service
routes:
- name: graphql-limit-count-route
uris:
- /graphql
plugins:
key-auth: {}
graphql-limit-count:
count: 2
time_window: 30
rejected_code: 429
policy: local
key_type: var_combination
key: "$remote_addr $consumer_name"
upstream:
type: roundrobin
scheme: https
nodes:
- host: api.github.com
port: 443
weight: 1
将配置同步到网关:
adc sync -f adc.yaml
创建两个消费者和一个按消费者启用限速的路由:
- Gateway API
- APISIX CRD
apiVersion: apisix.apache.org/v1alpha1
kind: Consumer
metadata:
namespace: aic
name: john
spec:
gatewayRef:
name: apisix
credentials:
- type: key-auth
name: primary-key
config:
key: john-key
---
apiVersion: apisix.apache.org/v1alpha1
kind: Consumer
metadata:
namespace: aic
name: jane
spec:
gatewayRef:
name: apisix
credentials:
- type: key-auth
name: primary-key
config:
key: jane-key
---
apiVersion: v1
kind: Service
metadata:
namespace: aic
name: github-graphql-external-domain
spec:
type: ExternalName
externalName: api.github.com
---
apiVersion: apisix.apache.org/v1alpha1
kind: BackendTrafficPolicy
metadata:
namespace: aic
name: github-graphql-https
spec:
targetRefs:
- name: github-graphql-external-domain
kind: Service
group: ""
passHost: node
scheme: https
---
apiVersion: apisix.apache.org/v1alpha1
kind: PluginConfig
metadata:
namespace: aic
name: graphql-limit-count-plugin-config
spec:
plugins:
- name: key-auth
config:
_meta:
disable: false
- name: graphql-limit-count
config:
count: 2
time_window: 30
rejected_code: 429
policy: local
key_type: var_combination
key: "$remote_addr $consumer_name"
---
apiVersion: gateway.networking.k8s.io/v1
kind: HTTPRoute
metadata:
namespace: aic
name: graphql-limit-count-route
spec:
parentRefs:
- name: apisix
rules:
- matches:
- path:
type: Exact
value: /graphql
filters:
- type: ExtensionRef
extensionRef:
group: apisix.apache.org
kind: PluginConfig
name: graphql-limit-count-plugin-config
backendRefs:
- name: github-graphql-external-domain
port: 443
apiVersion: apisix.apache.org/v2
kind: ApisixConsumer
metadata:
namespace: aic
name: john
spec:
ingressClassName: apisix
authParameter:
keyAuth:
value:
key: john-key
---
apiVersion: apisix.apache.org/v2
kind: ApisixConsumer
metadata:
namespace: aic
name: jane
spec:
ingressClassName: apisix
authParameter:
keyAuth:
value:
key: jane-key
---
apiVersion: apisix.apache.org/v2
kind: ApisixUpstream
metadata:
namespace: aic
name: github-graphql-external-domain
spec:
ingressClassName: apisix
scheme: https
passHost: node
externalNodes:
- type: Domain
name: api.github.com
port: 443
---
apiVersion: apisix.apache.org/v2
kind: ApisixRoute
metadata:
namespace: aic
name: graphql-limit-count-route
spec:
ingressClassName: apisix
http:
- name: graphql-limit-count-route
match:
paths:
- /graphql
upstreams:
- name: github-graphql-external-domain
plugins:
- name: key-auth
enable: true
- name: graphql-limit-count
enable: true
config:
count: 2
time_window: 30
rejected_code: 429
policy: local
key_type: var_combination
key: "$remote_addr $consumer_name"
将配置应用到集群:
kubectl apply -f graphql-limit-count-ic.yaml
❶ key-auth:在路由上启用密钥认证。
❷ key_type:设置为 var_combination,将 key 解释为变量组合。
❸ key: 设置为 $remote_addr $consumer_name 以根据远程地址和消费者应用限速配额。
作为消费者 jane 发送一个深度为 2 的 GraphQL 查询请求:
curl -i "http://127.0.0.1:9080/graphql" -X POST \
-H "Content-Type: application/json" \
-H "Authorization: Bearer ${GH_ACCESS_TOKEN}" \
-H 'apikey: jane-key' \
-d '{"query": "query {viewer{login}}"}'
你应看到 HTTP/1.1 200 OK 响应及对应的响应体。
此请求已消耗了该时间窗口的所有配额。如果你在同一个 30 秒时间间隔内再次以消费者 jane 的身份发送相同的请求,应该会收到 HTTP/1.1 429 Too Many Requests 响应,表明请求超过了配额阈值。
在同一个 30 秒时间间隔内以消费者 john 的身份发送相同的请求:
curl -i "http://127.0.0.1:9080/graphql" -X POST \
-H "Content-Type: application/json" \
-H "Authorization: Bearer ${GH_ACCESS_TOKEN}" \
-H 'apikey: john-key' \
-d '{"query": "query {viewer{login}}"}'
你应该会看到带有相应响应体的 HTTP/1.1 200 OK 响应,表明该请求未被限速。
在同一个 30 秒时间间隔内再次以消费者 john 的身份发送相同的请求,你应该会收到 HTTP/1.1 429 Too Many Requests 响应。
这验证了插件是根据变量组合 remote_addr 和 consumer_name 进行速率限制的。