跳到主要内容

Playground

Playground 允许你从 AISIX Cloud 控制面测试单目标模型。在通过网关发送应用流量之前，可以使用它确认模型能够访问上游模型服务提供方并返回聊天响应。

AISIX Cloud 控制面 Playground 展示成功的模型测试

在 Playground 中测试模型​

Playground 请求从控制面发送到上游服务提供方。它适合在 Cloud UI 中验证服务提供方密钥、上游 base URL、模型名称和基础提示词响应。

Playground 会发送 OpenAI 兼容的 Chat Completions 请求。请将它用于单目标模型，并确保该模型的服务提供方密钥指向 OpenAI 兼容的上游 base URL；这也包括通过 OpenAI 兼容端点暴露的 Anthropic 后端模型。

Playground 请求会绕过 AISIX 网关，因此不会记录在 Request Logs、Usage、AISIX 网关指标或外部遥测导出器输出中。在 AISIX Cloud 中配置的预算和限流不会应用到 Playground 请求。每次运行仍会使用模型的服务提供方密钥调用上游模型服务提供方，因此会像普通 API 调用一样消耗服务提供方配额并由服务提供方计费。

AISIX 网关请求会经过应用实际使用的运行时。请通过 AISIX 网关发送流量，以验证调用方 API Key、模型别名、路由规则与故障转移、缓存行为、安全护栏、预算、限流、流式行为、日志、用量上报和指标。当需要验证 Chat Completions 之外的端点族或模型服务提供方专属的协议行为时，也应使用 AISIX 网关流量。

在私有化部署中访问私有网络端点​

Playground 代理默认拒绝连接私有、内部或 loopback IP 地址。这项服务端请求伪造（SSRF）防护可以避免控制面通过构造的模型端点访问内部网络服务。On-Premises 可能需要访问内部网络中的 LLM 端点，而 Hybrid Cloud 预期使用公共上游端点。被阻止的请求会失败，并返回错误码 UPSTREAM_PRIVATE_IP_BLOCKED。

如需允许 Playground 访问私有网络端点，请在控制面 API 服务上设置 AISIX_PLAYGROUND_ALLOW_PRIVATE_IPS=1 并重启：

  • 离线包（Docker Compose）： 在 .env 中取消注释 AISIX_PLAYGROUND_ALLOW_PRIVATE_IPS=1，然后运行 docker compose up -d api。
  • Helm chart： 设置 api.playgroundAllowPrivateIPs=true。

如果模型端点是公开地址，请保留默认配置。该设置只影响 Playground 代理；数据面始终直接访问上游服务提供方，不受此设置影响。

下一步​

继续阅读用量上报，了解网关用量、支出和预算相关信号。