模型定价
AISIX 托管控制面根据每个用量事件的 Token 数和每个模型的单价计算成本,并在用量和预算中显示支出。本页说明价格来源,以及如何为目录尚未覆盖的模型设置价格。
当用量中显示某个模型的 Token 数但花费仍为零,或者你需要为自托管或转售商上游设置自定义费率时,请使用 Model pricing 页面。
价格来源
每个价格都是数据,AISIX 不会应用隐藏的乘数。价格根据 (provider, model name) 这对值从以下两个来源之一解析:
- 目录默认价格来自 models.dev,并自动刷新。它们覆盖常见的服务提供方和模型,因此目录中的大多数模型无需额外操作即可定价。
- 组织覆盖价格是你自行设置的价格。对于组织中相同的
(provider, model name),覆盖价格优先于目录默认价格。
成本在记录用量事件时计算,并与事件一起保存。修改价格只影响修改后记录的事件,不会重新计算历史事件的价格。
没有目录价格的模型
目录只为 models.dev 发布的 (provider, model name) 对定价。以下情况可能没有目录价格:
- 模型运行在 models.dev 未定价的自托管或转售商上游中;或者
- 模型名称是自定义别名,或目录尚未为该服务提供方收录的新模型。
当模型没有匹配的目录默认价格和组织覆盖价格时,AISIX 无法计算成本,因此即使 Token 数正确,该模型的花费也会显示为 $0.00。如需开始统计该模型的支出,请为其设置价格。
设置价格
- 从组织导航中打开 Model pricing。
- 选择 Add pricing。
- 按模型配置中的值准确填写 Provider 和 Model name。成本按这对
(provider, model name)匹配用量事件,因此不匹配的值不会生效。Provider 字段会建议已知目录服务提供方,但也可以输入任意值,包括自定义值。 - 输入每 1M Token 的 USD Prompt 和 Completion 费率。还可以分别设置 Cache read、Cache write 和 Reasoning 费率。
- 保存。价格从下一个用量事件开始应用于该模型。
价格单位是每 1M Token 的 USD。将缓存或推理费率保留为 0 时,这些 Token 类型会回退到 Prompt 或 Completion 费率。
编辑或重置价格
Model pricing 页面中的每一行都可以编辑。来源为覆盖价格的行还可以重置为目录默认价格;重置会删除覆盖价格,使目录价格从下一个用量事件开始生效。