Cloud Playground 使用说明
AISIX Cloud Playground 允许你从 Cloud UI 测试单目标模型。你可以在应用流量进入托管网关前,用它确认模型能够访问上游服务提供方并返回聊天响应。

在 Playground 中测试模型
Playground 请求从控制面发送到上游服务提供方。它适合在 Cloud UI 中验证服务提供方密钥、上游 base URL、模型名称和基础 prompt 响应。
Playground 会发送 OpenAI 兼容的 Chat Completions 请求。请将它用于单目标模型,并确保该模型的服务提供方密钥指向 OpenAI 兼容的上游 base URL;这也包括通过 OpenAI 兼容端点暴露的 Anthropic 后端模型。
Playground 请求会绕过托管网关,因此会消耗服务提供方额度或产生服务提供方侧费用,但不会记录在 AISIX Cloud Logs、Usage、托管网关指标或外部遥测导出器输出中。AISIX Cloud 预算和限流不会应用到 Playground 请求。每次运行仍会使用模型的服务提供方密钥调用上游服务提供方,因此会像普通 API 调用一样消耗服务提供方配额并产生服务提供方侧费用。
托管网关请求会经过应用实际使用的运行时。请通过托管网关发送流量,验证调用方 API Key、模型别名、路由规则与故障转移、缓存行为、安全护栏、预算、限流、流式行为、日志、用量上报和指标。当你需要验证 Chat Completions 之外的端点族,或服务提供方专属协议行为时,也应使用托管网关流量。
下一步
继续阅读用量 上报,了解 AISIX Cloud 如何报告托管网关用量、费用和预算相关信号。