跳到主要内容
版本:3.8.x

建立性能基准

为确保 API7 网关性能评估的准确性,请在开展基准测试前遵循以下关键建议和步骤。

前提条件​

  • 选择合适的网关节点数量:
    1. 使用单个 API7 网关节点,根据机器资源(CPU 核心或 vCPU 核心)配置 worker_processes 数量。建议先配置 1 个 worker_processes 进行基线测试,确认结果后再开展多核性能测试。
    2. 避免使用多个配置较少 worker_processes 的 API7 网关节点。
  • 逐步增加 worker_processes 数量:
    1. 初始测试时,将 worker_processes 设为 1,获取单核性能基线。
    2. 建立单核性能基线后,逐步增加 worker_processes 数量,评估多核性能。
  • 排除上游网络干扰:
    1. 仅启用 mocking 插件,获取 API7 网关的性能基线。该插件返回指定格式的模拟数据,不会将请求转发给上游服务器。
  • 确保上游服务器性能:
    1. 测试时密切监控 API7 网关和上游服务器的性能,确保上游服务器不是性能瓶颈。
  • 收集基线结果:
    1. 在测试其他场景之前收集基线结果。配置 1 个 API7 网关节点,并启用 1 个 worker_processes。
    2. 排除网关延迟干扰。将上游服务器和 API7 网关部署在同一台机器上,使用 Host 网络。
    3. 确保收集的基线结果与提供的参考结果基本一致。
  • 收集并分析测试结果:
    1. 收集多组测试结果,使用标准差等统计方法分析数据差异,确保测试结果稳定可靠。
  • 参考优化建议:
    1. 遵循上述建议并完成测试后,可以按实际需求开展其他场景的基准测试。在此之前,请确保收集的性能基线测试结果与参考数据基本一致,并仔细阅读下方的优化建议,根据实际测试需求调整配置。

性能基线测试部署拓扑​

EC2 部署

性能基线测试结果​

收集基线测试结果时,API7 网关(配置 1 个 worker_process)、NGINX 上游服务器和基准测试工具 wrk2 部署在同一台机器上,通过 Host 网络通信。

测试场景路由/消费者数量QPSP99 (MS)P95 (MS)
未启用任何插件1 条路由,0 个消费者24,129.220.0930.082
未启用任何插件100 条路由,0 个消费者23,652.910.0960.084
仅启用 limit-count1 条路由,0 个消费者20,495.100.1040.092
仅启用 limit-count100 条路由,0 个消费者20,462.310.1040.094
仅启用 key-auth1 条路由,1 个消费者21,019.040.1000.089
仅启用 key-auth100 条路由,100 个消费者20,444.810.1090.095
同时启用 key-auth 和 limit-count1 条路由,1 个消费者18,940.390.1100.097
同时启用 key-auth 和 limit-count100 条路由,100 个消费者18,193.880.1100.098

遵循上述步骤和建议,可以更准确地评估 API7 网关在不同场景下的性能,为后续优化和部署提供有价值的数据支持。

优化 API7 网关性能​

检查最大打开文件数​

检查当前系统的最大打开文件总数:

cat /proc/sys/fs/file-nr
3984 0 3255296

最后一个数字 3255296 表示最大打开文件数。如果机器上的这个数值太小,需要修改 /etc/sysctl.conf 文件以增大该值。

# /etc/sysctl.conf
fs.file-max = 1020000
net.ipv4.ip_conntrack_max = 1020000
net.ipv4.netfilter.ip_conntrack_max = 1020000

重新加载后,变更生效:

sudo sysctl -p /etc/sysctl.conf

检查 ulimit​

每个用户请求对应一个文件句柄。压力测试会产生大量请求,因此需要增大该值。使用 ulimit -n 检查,如果数值较小(默认值为 1024),应将其修改为百万级数值,例如 1024000。

临时修改:

ulimit -n 1024000

永久修改:

vim /etc/security/limits.conf

# 添加以下行
* hard nofile 1024000
* soft nofile 1024000

避免资源争用​

确保 wrk2、API7 网关和上游服务安装在不同机器上,并在同一局域网内测试,以减少网络延迟带来的开销。

如果这些资源运行在同一个 Kubernetes 集群中,应确保三个服务的 Pod 调度到不同节点,避免 CPU、网络等资源争用导致性能下降。

上游服务器达到极限​

检查上游服务器是否达到极限。压力测试时监控上游服务器的 CPU 和内存使用情况,判断其是否达到最大容量。如果增加 API7 网关的 worker_processes 数量后,性能没有改善,可能是上游服务器或其他系统达到了瓶颈。

禁用访问日志 I/O​

性能基准测试时,应尽量减少访问日志对性能的影响,尤其是在高流量场景下会产生大量日志写入操作时。禁用 access_log 可以缓解磁盘 I/O 压力。

云供应商性能问题​

避免使用云服务器提供的可突发实例。此类实例的可用 CPU 会变化,可能对测试数据产生不必要的影响。

信息

不同云供应商的实例类型中,vCPU(虚拟 CPU)与物理 CPU 的映射并不总是 1:1。一些实例使用超线程技术,因此实际物理 CPU 核心数可能只有 vCPU 数量的一半。

要准确了解特定实例类型的 vCPU 与物理 CPU 映射,建议查阅云供应商发布的官方文档。例如,参阅 AWS 实例信息。

API7 网关内部错误​

开始性能基准测试前,应将 API7 网关的日志级别调整为 error,并确保错误日志中没有内部错误。

使用 c1000k 检查并发连接​

安装 c1000k,检查测试环境是否满足 100 万并发连接的要求。

# 启动服务器,监听 7000 端口
./server 7000

# 运行客户端,模拟压力测试
./client 127.0.0.1 7000

API7 网关配置示例​

config.yaml
nginx_config:
error_log_level: error
worker_processes: auto

http:
enable_access_log: false