跳到主要内容
版本：3.10.x

接入 OpenAI

OpenAI 提供 GPT-4o、o1 等模型能力。通过 API7 AI 网关，你可以把业务应用对 OpenAI 的调用统一收敛到网关入口，在网关层集中维护模型凭证、访问控制、日志审计和用量治理。

前提条件​

  • 已安装 Docker 和 cURL。

  • 已有可用的 API7 企业版网关环境。

  • 已获取 Admin API Key，并写入环境变量：

    export ADMIN_API_KEY=your-admin-api-key

  • 已获取需要配置的服务 ID，并写入环境变量：

    export SERVICE_ID=your-service-id

获取 OpenAI 访问密钥​

在 OpenAI 控制台创建访问密钥，并写入环境变量：

export OPENAI_API_KEY=sk-proj-xxxxxxxxxxxxxxxxxxxxxxxx

配置 OpenAI 代理​

在路由上启用 ai-proxy 插件：

curl "http://127.0.0.1:7080/apisix/admin/routes?gateway_group_id=default" -X PUT \
  -H "X-API-KEY: $ADMIN_API_KEY" \
  -d '{
  "id": "openai-route",
  "service_id": "'"$SERVICE_ID"'",
  "paths": ["/openai"],
  "plugins": {
    "ai-proxy": {
      "provider": "openai",
      "auth": {
        "header": {
          "Authorization": "Bearer '"$OPENAI_API_KEY"'"
        }
      },
      "options": {
        "model": "gpt-4o"
      }
    }
  }
}'

验证请求​

curl "http://127.0.0.1:9080/openai" \
  -H "Content-Type: application/json" \
  -d '{
  "messages": [
    {"role": "user", "content": "用一句话介绍 API7 AI 网关"}
  ]
}'

后续建议​

  • 为 OpenAI 路由增加 ai-rate-limiting，按令牌用量控制成本。
  • 使用 ai-proxy-multi 配置备用模型或备用供应商。
  • 打开日志与指标采集，按模型、消费者和路由分析调用量与费用。