跳到主要内容
版本：1.6.0

Playground

Playground 允许你从 AISIX Cloud 控制面测试单目标模型。在通过网关发送应用流量之前，可以使用它确认模型能够访问上游模型服务提供方并返回聊天响应。

AISIX Cloud Playground 展示成功的模型测试

在 Playground 中测试模型​

Playground 请求从控制面发送到上游服务提供方。它适合在 Cloud UI 中验证服务提供方密钥、上游 base URL、模型名称和基础提示词响应。

Playground 会发送 OpenAI 兼容的 Chat Completions 请求。请将它用于单目标模型，并确保该模型的服务提供方密钥指向 OpenAI 兼容的上游 base URL；这也包括通过 OpenAI 兼容端点暴露的 Anthropic 后端模型。

Playground 是一个直接调用服务提供方的简单测试工具，不会复现网关行为：它只应用请求在常见模型上成功所需的处理，详见请求参数。

Playground 请求会绕过 AISIX 网关，因此不会记录在 Request Logs、Usage、AISIX 网关指标或外部遥测导出器输出中。在 AISIX Cloud 中配置的预算和限流不会应用到 Playground 请求。每次运行仍会使用模型的服务提供方密钥调用上游模型服务提供方，因此会像普通 API 调用一样消耗服务提供方配额并由服务提供方计费。

AISIX 网关请求会经过应用实际使用的运行时。请通过 AISIX 网关发送流量，以验证调用方 API Key、模型别名、路由规则与故障转移、缓存行为、安全护栏、预算、限流、流式行为、日志、用量上报和指标。当需要验证 Chat Completions 之外的端点族或模型服务提供方专属的协议行为时，也应使用 AISIX 网关流量。

请求参数​

Playground 按以下方式构造每个请求：

  • 温度。 该字段初始为空，显示供应商默认。字段为空时，请求不携带 temperature，模型使用自身的默认值；有些模型只接受默认值，会拒绝任何显式取值。输入 0 到 2 之间的值即可发送该参数，选择恢复默认可清空字段并停止发送。
  • 最大 Token 数。 Playground 发送 max_tokens，默认值为 1024。对于使用 openai 或 azure-openai 适配器的服务提供方密钥，它会应用与网关相同的推理模型 Token 上限规则：推理模型会以 max_completion_tokens 的形式收到该值。
  • 参数重命名。 在上述规则之后，Playground 会应用服务提供方密钥的 request.param_renames，因此与网关一样，密钥上显式配置的重命名具有最终决定权。

服务提供方密钥的其他请求设置，例如 request.param_constraints、request.default_headers 和 request.default_body_fields，不会应用到 Playground 请求。如需测试这些设置，请通过 AISIX 网关发送流量。

访问私有网络端点​

Playground 代理从控制面连接服务提供方密钥的 api_base。On-Premises 控制面默认允许它访问私有、内部和 loopback 地址，因此部署在内部网络中的模型无需额外配置即可在 Playground 中使用。

如需改为拒绝私有目标，作为服务端请求伪造（SSRF）防护，请在控制面 API 服务上设置 AISIX_PLAYGROUND_ALLOW_PRIVATE_IPS=false 并重启：

  • 离线包（Docker Compose）： 在 .env 中添加 AISIX_PLAYGROUND_ALLOW_PRIVATE_IPS=false，然后运行 docker compose up -d api。
  • Helm chart： 设置 api.playgroundAllowPrivateIPs=false。

被拒绝的请求会失败并返回错误码 UPSTREAM_PRIVATE_IP_BLOCKED，错误信息会说明是部署的出站策略阻止了该地址。使用 helm upgrade --reuse-values 从 Chart 1.5.0 升级的 Release 会保留该 Chart 的显式 false，直到你清除该值；参见私有网络目标。

该设置只影响 Playground 代理；数据面始终直接访问上游服务提供方，不受此设置影响。

下一步​

继续阅读用量上报，了解网关用量、支出和预算相关信号。