跳到主要内容

Playground 使用说明

AISIX 控制面 Playground 允许你从控制面 UI 测试单目标模型。你可以在应用流量进入托管网关前，用它确认模型能够访问上游服务提供方并返回聊天响应。

AISIX Cloud Playground 展示成功的模型测试

在 Playground 中测试模型​

Playground 请求从控制面发送到上游服务提供方。它适合在 Cloud UI 中验证服务提供方密钥、上游 base URL、模型名称和基础提示词响应。

Playground 会发送 OpenAI 兼容的 Chat Completions 请求。请将它用于单目标模型，并确保该模型的服务提供方密钥指向 OpenAI 兼容的上游 base URL；这也包括通过 OpenAI 兼容端点暴露的 Anthropic 后端模型。

Playground 请求会绕过托管网关，因此不会记录在控制面 Logs、Usage、托管网关指标或外部遥测导出器输出中。控制面预算和限流不会应用到 Playground 请求。每次运行仍会使用模型的服务提供方密钥调用上游服务提供方，因此会像普通 API 调用一样消耗服务提供方配额并产生服务提供方侧费用。

托管网关请求会经过应用实际使用的运行时。请通过托管网关发送流量，验证调用方 API Key、模型别名、路由规则与故障转移、缓存行为、安全护栏、预算、限流、流式行为、日志、用量上报和指标。当你需要验证 Chat Completions 之外的端点族，或服务提供方专属协议行为时，也应使用托管网关流量。

在私有化部署中访问私有网络端点​

Playground 代理默认拒绝连接私有、内部或 loopback IP 地址。这个限制用于防止控制面被构造的模型端点用来访问内部网络服务，也就是服务端请求伪造（SSRF）防护。在 AISIX 托管环境中，真实上游都是公开服务提供方，因此该限制不会影响使用。在模型指向内网 LLM 端点的私有化部署中，同一限制会阻止 Playground 访问该端点，请求会失败并返回错误码 UPSTREAM_PRIVATE_IP_BLOCKED。

如需允许 Playground 访问私有网络端点，请在控制面 API 服务上设置 AISIX_PLAYGROUND_ALLOW_PRIVATE_IPS=1 并重启：

  • 离线包（Docker Compose）： 在 .env 中取消注释 AISIX_PLAYGROUND_ALLOW_PRIVATE_IPS=1，然后运行 docker compose up -d api。
  • Helm chart： 设置 api.playgroundAllowPrivateIPs=true。

如果模型端点是公开地址，请保留默认配置。该设置只影响 Playground 代理；数据面始终直接访问上游服务提供方，不受此设置影响。

下一步​

继续阅读用量上报，了解控制面如何报告托管网关用量、费用和预算相关信号。