跳到主要内容

模型定价

AISIX Cloud 控制面根据观测到的 Token 数以及上游模型服务提供方和模型对应的价格计算请求成本。当模型没有目录价格,或组织采用不同费率时,可以配置价格覆盖项。

定价会影响 Usage 中显示的支出和 AISIX Cloud 预算评估的总额。提示词和补全费率也会影响使用 least_cost 路由组时的目标顺序。定价不会改变上游模型服务提供方实际收取的费用。

AISIX 如何解析价格

AISIX 会直接应用配置费率,不添加隐藏乘数。每个用量事件都会按精确的 (provider, model name) 组合解析价格:

  1. 与服务提供方和模型名称匹配的组织覆盖价格优先。
  2. 否则,AISIX 使用 models.dev 中匹配的目录默认价格。联网部署会自动刷新目录;离线部署使用启动时加载的内置目录快照。
  3. 如果两者都不匹配,用量事件会保留 Token 数,但将支出记录为 $0.00

成本在记录用量事件时计算,并与事件一起保存。修改价格只影响修改后记录的事件,不会重新计算历史事件的价格。

识别缺失的价格

先在请求日志中展开事件。请求日志会以六位小数显示每个用量事件或路由尝试的成本;聚合 Usage 视图会把支出四舍五入到两位小数,并且只显示前 10 个环境/模型组合。因此,看到 $0.00 或模型未出现在 Usage 中,并不能证明定价缺失。对于价格很低的请求,应产生足够的 Token 用量后再判断。

以下情况可能缺少目录价格:

  • 模型运行在 models.dev 未定价的自托管或转售商上游中。
  • 配置的模型名称是自定义别名。
  • 服务提供方提供了较新的模型,但目录尚未在该服务提供方名下收录该模型。

添加覆盖项前,请准确记录模型配置中的服务提供方和模型名称。任一值不同,定价行都不会匹配用量事件。

添加价格覆盖项

  1. 从组织导航中打开 Model pricing
  2. 选择 Add pricing
  3. 按模型配置中的值准确填写 ProviderModel name。成本按这对 (provider, model name) 匹配用量事件,因此不匹配的值不会生效。Provider 字段会建议已知目录服务提供方,但也可以输入任意值,包括自定义值。
  4. 输入每 1M Token 的 USD PromptCompletion 费率。
  5. 可选:分别设置 Cache readCache writeReasoning 费率。
  6. 保存覆盖项。

缓存或推理费率为 0 表示没有设置独立费率:缓存 Token 回退到提示词费率,推理 Token 回退到补全费率。

验证覆盖项

最直接的验证方式是向匹配模型发送一个新请求,然后在 Request Logs 中展开事件,确认模型、Token 数和事件成本符合预期。如果验证的是路由或合议请求,请找到共享同一请求 ID 的事件或尝试行,将成本相加后再与预期值比较。

Request Logs 显示六位小数。如果预期成本会四舍五入为 $0.000000,请增加 Token 用量,使成本在该精度下可见。

产生足够流量后,也可以在 Usage 中确认聚合支出。Usage 只显示两位小数和前 10 个模型,因此不适合验证单个低成本请求。

保存覆盖项后,历史记录不会变化。应比较修改后创建的新事件,不要期待先前的 $0.00 事件被重新计算。

编辑或重置价格

Model pricing 页面中的每一行都可以编辑。来源为覆盖价格的行还可以选择 Reset to catalog default;重置会删除覆盖价格,使目录价格从下一个用量事件开始生效。

下一步

继续阅读预算,了解如何强制执行支出限制,然后配置预算告警与通知。使用日志与审计调查单个请求的结果。