建立性能基准
为确保 API7 网关性能评估的准确性,请在开展基准测试前遵循以下关键建议和步骤。
前提条件
- 选择合适的网关节点数量:
- 使用单个 API7 网关节点,根据机器资源(CPU 核心或 vCPU 核心)配置
worker_processes数量。建议先配置 1 个worker_processes进行基线测试,确认结果后再开展多核性能测试。 - 避免使用多个配置较少
worker_processes的 API7 网关节点。
- 使用单个 API7 网关节点,根据机器资源(CPU 核心或 vCPU 核心)配置
- 逐步增加
worker_processes数量:- 初始测试时,将
worker_processes设为1,获取单核性能基线。 - 建立单核性能基线后,逐步增加
worker_processes数量,评估多核性能。
- 初始测试时,将
- 排除上游网络干扰:
- 仅启用
mocking插件,获取 API7 网关的性能基线。该插件返回指定格式的模拟数据,不会将请求转发给上游服务器。
- 仅启用
- 确保上游服务器性能:
- 测试时密切监控 API7 网关和上游服务器的性能,确保上游服务器不是性能瓶颈。
- 收集基线结果:
- 在测试其他场景之前收集基线结果。配置 1 个 API7 网关节点,并启用 1 个
worker_processes。 - 排除网关延迟干扰。将上游服务器和 API7 网关部署在同一台机器上,使用 Host 网络。
- 确保收集的基线结果与提供的参考结果基本一致。
- 在测试其他场景之前收集基线结果。配置 1 个 API7 网关节点,并启用 1 个
- 收集并分析测试结果:
- 收集多组测试结果,使用标准差等统计方法分析数据差异,确保测试结果稳定可靠。
- 参考优化建议:
- 遵循上述建议并完成测试后,可以按实际需求开展其他场景的基准测试。在此之前,请确保收集的性能基线测试结果与参考数据基本一致,并仔细阅读下方的优化建议,根据实际测试需求调整配置。
性能基线测试部署拓扑

性能基线测试结果
收集基线测试结果时,API7 网关(配置 1 个 worker_process)、NGINX 上游服务器和基准测试工具 wrk2 部署在同一台机器上,通过 Host 网络通信。
| 测试场景 | 路由/消费者数量 | QPS | P99 (MS) | P95 (MS) |
|---|---|---|---|---|
| 未启用任何插件 | 1 条路由,0 个消费者 | 24,129.22 | 0.093 | 0.082 |
| 未启用任何插件 | 100 条路由,0 个消费者 | 23,652.91 | 0.096 | 0.084 |
仅启用 limit-count | 1 条路由,0 个消费者 | 20,495.10 | 0.104 | 0.092 |
仅启用 limit-count | 100 条路由,0 个消费者 | 20,462.31 | 0.104 | 0.094 |
仅启用 key-auth | 1 条路由,1 个消费者 | 21,019.04 | 0.100 | 0.089 |
仅启用 key-auth | 100 条路由,100 个消费者 | 20,444.81 | 0.109 | 0.095 |
同时启用 key-auth 和 limit-count | 1 条路由,1 个消费者 | 18,940.39 | 0.110 | 0.097 |
同时启用 key-auth 和 limit-count | 100 条路由,100 个消费者 | 18,193.88 | 0.110 | 0.098 |
遵循上述步骤和建议,可以更准确地评估 API7 网关在不同场景下的性能,为后续优化和部署提供有价值的数据支持。
优化 API7 网关性能
检查最大打开文件数
检查当前系统的最大打开文件总数:
cat /proc/sys/fs/file-nr
3984 0 3255296
最后一个数字 3255296 表示最大打开文件数。如果机器上的这个数值太小,需要修改 /etc/sysctl.conf 文件以增大该值。
# /etc/sysctl.conf
fs.file-max = 1020000
net.ipv4.ip_conntrack_max = 1020000
net.ipv4.netfilter.ip_conntrack_max = 1020000
重新加载后,变更生效:
sudo sysctl -p /etc/sysctl.conf
检查 ulimit
每个用户请求对应一个文件句柄。压力测试会产生大量请求,因此需要增大该值。使用 ulimit -n 检查,如果数值较小(默认值为 1024),应将其修改为百万级数值,例如 1024000。
临时修改:
ulimit -n 1024000
永久修改:
vim /etc/security/limits.conf
# 添加以下行
* hard nofile 1024000
* soft nofile 1024000
避免资源争用
确保 wrk2、API7 网关和上游服务安装在不同机器上,并在同一局域网内测试,以减少网络延迟带来的开销。
如果这些资源运行在同一个 Kubernetes 集群中,应确保三个服务的 Pod 调度到不同节点,避免 CPU、网络等资源争用导致性能下降。
上游服务器达到极限
检查上游服务器是否达到极限。压力测试时监控上游服务器的 CPU 和内存使用情况,判断其是否达到最大容量。如果增加 API7 网关的 worker_processes 数量后,性能没有改善,可能是上游服务器或其他系统达到了瓶颈。
禁用访问日志 I/O
性能基准测试时,应尽量减少访问日志对性能的影响,尤其是在高流量场景下会产生大量日志写入操作时。禁用 access_log 可以缓解磁盘 I/O 压力。
云供应商性能问题
避免使用云服务器提供的可突发实例。此类实例的可用 CPU 会变化,可能对测试数据产生不必要的影响。
不同云供应商的实例类型中,vCPU(虚拟 CPU)与物理 CPU 的映射并不总是 1:1。一些实例使用超线程技术,因此实际物理 CPU 核心数可能只有 vCPU 数量的一半。
要准确了解特定实例类型的 vCPU 与物理 CPU 映射,建议查阅云供应商发布的官方文档。例如,参阅 AWS 实例信息。
API7 网关内部错误
开始性能基准测试前,应将 API7 网关的日志级别调整为 error,并确保错误日志中没有内部错误。
使用 c1000k 检查并发连接
安装 c1000k,检查测试环境是否满足 100 万并发连接的要求。
# 启动服务器,监听 7000 端口
./server 7000
# 运行客户端,模拟压力测试
./client 127.0.0.1 7000
API7 网关配置示例
nginx_config:
error_log_level: error
worker_processes: auto
http:
enable_access_log: false