跳到主要内容

模型定价

AISIX 托管控制面根据每个用量事件的 Token 数和每个模型的单价计算成本,并在用量和预算中显示支出。本页说明价格来源,以及如何为目录尚未覆盖的模型设置价格。

当用量中显示某个模型的 Token 数但花费仍为零,或者你需要为自托管或转售商上游设置自定义费率时,请使用 Model pricing 页面。

价格来源

每个价格都是数据,AISIX 不会应用隐藏的乘数。价格根据 (provider, model name) 这对值从以下两个来源之一解析:

  • 目录默认价格来自 models.dev,并自动刷新。它们覆盖常见的服务提供方和模型,因此目录中的大多数模型无需额外操作即可定价。
  • 组织覆盖价格是你自行设置的价格。对于组织中相同的 (provider, model name),覆盖价格优先于目录默认价格。

成本在记录用量事件时计算,并与事件一起保存。修改价格只影响修改后记录的事件,不会重新计算历史事件的价格。

没有目录价格的模型

目录只为 models.dev 发布的 (provider, model name) 对定价。以下情况可能没有目录价格:

  • 模型运行在 models.dev 未定价的自托管或转售商上游中;或者
  • 模型名称是自定义别名,或目录尚未为该服务提供方收录的新模型。

当模型没有匹配的目录默认价格和组织覆盖价格时,AISIX 无法计算成本,因此即使 Token 数正确,该模型的花费也会显示为 $0.00。如需开始统计该模型的支出,请为其设置价格。

设置价格

  1. 从组织导航中打开 Model pricing
  2. 选择 Add pricing
  3. 按模型配置中的值准确填写 ProviderModel name。成本按这对 (provider, model name) 匹配用量事件,因此不匹配的值不会生效。Provider 字段会建议已知目录服务提供方,但也可以输入任意值,包括自定义值。
  4. 输入每 1M Token 的 USD PromptCompletion 费率。还可以分别设置 Cache readCache writeReasoning 费率。
  5. 保存。价格从下一个用量事件开始应用于该模型。

价格单位是每 1M Token 的 USD。将缓存或推理费率保留为 0 时,这些 Token 类型会回退到 Prompt 或 Completion 费率。

编辑或重置价格

Model pricing 页面中的每一行都可以编辑。来源为覆盖价格的行还可以重置为目录默认价格;重置会删除覆盖价格,使目录价格从下一个用量事件开始生效。

后续步骤

请参阅用量上报,了解解析后的成本如何显示在支出、预算和热门模型视图中,然后继续阅读日志与审计,调查单个请求结果。