模型定价
AISIX Cloud 控制面根据观测到的 Token 数以及上游模型服务提供方和模型对应的价格计算请求成本。当模型没有目录价格,或组织采用不同费率时,可以配置价格覆盖项。
定价会影响 Usage 中显示的支出和 AISIX Cloud 预算评估的总额。提示词和补全费率也会影响使用 least_cost 路由组时的目标顺序。定价不会改变上游模型服务提供方实际收取的费用。
AISIX 如何解析价格
AISIX 会直接应用配置费率,不添加隐藏乘数。每个用量事件都会按精确的 (provider, model name) 组合解析价格:
- 与服务提供方和模型名称匹配的组织覆盖价格优先。
- 否则,AISIX 使用 models.dev 中匹配的目录默认价格。联网部署会自动刷新目录;离线部署使用启动时加载的内置目录快照。
- 如果两者都不匹配,用量事件会保留 Token 数,但将支出记录为
$0.00。
成本在记录用量事件时计算,并与事件一起保存。修改价格只影响修改后记录的事件,不会重新计算历史事件的价格。
识别缺失的价格
先在请求日志中展开事件。请求日志会以六位小数显示每个用量事件或路由尝试的成本;聚合 Usage 视图会把支出四舍五入到两位小数,并且只显示前 10 个环境/模型组合。因此,看到 $0.00 或模型未出现在 Usage 中,并不能证明定价缺失。对于价格很低的请求,应产生足够的 Token 用量后再判断。
以下情况可能缺少目录价格:
- 模型运行在 models.dev 未定价的自托管或转售商上游中。
- 配置的模型名称是自定义别名。
- 服务提供方提供了较新的模型,但目录尚未在该服务提供方名下收录该模型。
添加覆盖项前,请准确记录模型配置中的服务提供方和模型名称。任一值不同,定价行都不会匹配用量事件。
添加价格覆盖项
- 从组织导航中打开 Model pricing。
- 选择 Add pricing。
- 按模型配置中的值准确填写 Provider 和 Model name。成本按这对
(provider, model name)匹配用量事件,因此不匹配的值不会生效。Provider 字段会建议已知 目录服务提供方,但也可以输入任意值,包括自定义值。 - 输入每 1M Token 的 USD Prompt 和 Completion 费率。
- 可选:分别设置 Cache read、Cache write 和 Reasoning 费率。
- 保存覆盖项。
缓存或推理费率为 0 表示没有设置独立费率:缓存 Token 回退到提示词费率,推理 Token 回退到补全费率。
验证覆盖项
最直接的验证方式是向匹配模型发送一个新请求,然后在 Request Logs 中展开事件,确认模型、Token 数和事件成本符合预期。如果验证的是路由或合议请求,请找到共享同一请求 ID 的事件或尝试行,将成本相加后再与预期值比较。
Request Logs 显示六位小数。如果预期成本会四舍五入为 $0.000000,请增加 Token 用量,使成本在该精度下可见。
产生足够流量后,也可以在 Usage 中确认聚合支出。Usage 只显示两位小数和前 10 个模型,因此不适合验证单个低成本请求。
保存覆盖项后,历史记录不会变化。应比较修改后创建的新事件,不要期待先前的 $0.00 事件被重新计算。
编辑或重置价格
Model pricing 页面中的每一行都可以编辑。来源为覆盖价格的行还可以选择 Reset to catalog default;重置会 删除覆盖价格,使目录价格从下一个用量事件开始生效。