Novita AI
Novita AI 为语言模型目录提供托管推理服务。应用通过稳定的 AISIX 别名选择这些模型,并使用网关颁发的调用方密钥进行身份认证。
准备工作
开始前,请准备以下内容:
- 一套 AISIX 环境:
- 对于 AISIX Cloud,需要一个已关联网关的环境和具备写入权限的 Admin Token。对于 On-Premises,请按照 AISIX Cloud 快速入门操作。如需申请 Hybrid Cloud 访问权限,请联系 API7。
- 对于开源 AISIX 网关,请准备本地 AISIX 安装,或使用开源 AISIX 网关快速入门中的 Docker 环境。配置网关以加载声明式资源文件。
- 一个 Novita AI API Key。
curl和jq。
使用 AISIX Cloud 配置
导出 AISIX Cloud 连接信息:
# AISIX_CP 是 Admin API 基础 URL;需要包含 /api,且末尾不包含斜杠
# 本地 On-Premises 快速入门使用 http://localhost:8080/api
export AISIX_CP="YOUR_AISIX_CLOUD_ADMIN_API_URL"
export AISIX_TOKEN="YOUR_ADMIN_TOKEN"
export ENV_ID="YOUR_ENVIRONMENT_ID"
Novita AI 是提供 OpenAI 兼容 API 的社区目录服务提供方。AISIX 通过 openai 适配器连接,并使用 Bearer Token 对上游请求进行身份认证。
创建服务提供方密钥
export NOVITA_API_KEY="YOUR_NOVITA_API_KEY"
PROVIDER_KEY_ID=$(
curl -sS -X POST "$AISIX_CP/provider_keys" \
-H "Authorization: Bearer $AISIX_TOKEN" \
-H "Content-Type: application/json" \
-d '{
"display_name": "novita-prod",
"provider": "novita-ai",
"api_key": "'"${NOVITA_API_KEY}"'",
"api_base": "https://api.novita.ai/openai/v1",
"allowed_environments": ["'"${ENV_ID}"'"]
}' | jq -er '.provider_key.id'
)
echo "$PROVIDER_KEY_ID"
服务提供方 ID 包含 -ai 后缀。novita 不是 AISIX 目录 ID。
API Base 还包含 /openai/v1。AISIX 会追加 /chat/completions,生成 https://api.novita.ai/openai/v1/chat/completions。使用裸主机会将流量发送到 Novita 文档未列出的路由。
AISIX 会为此目录服务提供方派生 openai 适配器。请从请求中省略 adapter。
创建模型
使用包含发布方命名空间的 Novita 模型 ID 创建别名:
MODEL_ID=$(
curl -sS -X POST "$AISIX_CP/environments/$ENV_ID/models" \
-H "Authorization: Bearer $AISIX_TOKEN" \
-H "Content-Type: application/json" \
-d '{
"display_name": "novita-deepseek-prod",
"model_name": "deepseek/deepseek-v3.2",
"provider_key_id": "'"${PROVIDER_KEY_ID}"'"
}' | jq -er '.model.id'
)
echo "$MODEL_ID"
模型 ID 和可用性会随 Novita 目录更新而变化。请从 Novita 模型列表复制当前 ID,并保留其发布方前缀和大小写。
创建调用方 API Key
AISIX_API_KEY=$(
curl -sS -X POST "$AISIX_CP/environments/$ENV_ID/api_keys" \
-H "Authorization: Bearer $AISIX_TOKEN" \
-H "Content-Type: application/json" \
-d '{
"display_name": "novita-caller",
"allowed_models": ["'"${MODEL_ID}"'"]
}' | jq -er '.plaintext'
)
echo "$AISIX_API_KEY"
使用开源 AISIX 网关配置
导出上游凭证,并选择应用将发送给网关的调用方 API Key:
export NOVITA_API_KEY="YOUR_PROVIDER_API_KEY"
export CALLER_API_KEY="YOUR_CALLER_API_KEY"
为此服务提供方创建完整的声明式资源文件:
_format_version: "1"
provider_keys:
- display_name: "novita-prod"
provider: "novita-ai"
adapter: "openai"
api_key: ${NOVITA_API_KEY}
api_base: "https://api.novita.ai/openai/v1"
models:
- display_name: "novita-deepseek-prod"
provider: "novita-ai"
model_name: "deepseek/deepseek-v3.2"
provider_key: "novita-prod"
api_keys:
- display_name: "novita-caller"
key_env: CALLER_API_KEY
allowed_models:
- "novita-deepseek-prod"
如果 AISIX 安装在本地,请在加载前校验文件:
aisix validate --resources resources.yaml
校验后,请在网关进程环境中提供所引用的环境变量并启动网关。仅当这些变量已可用于现有网关进程时才重新加载;否则,请使用更新后的环境重启网关。
如果使用 Docker,请调整开源 AISIX 网关快速入门中的校验和启动命令。挂载此 resources.yaml 文件,并在两个命令中使用 -e 传入该文件引用的每个环境变量。资源加载后,准备下文共用的验证请求:
export AISIX_API_KEY="$CALLER_API_KEY"
验证服务提供方连接
导出 AISIX 网关 Origin:
# 本地快速入门使用 http://127.0.0.1:3000
export AISIX_PROXY="YOUR_AISIX_GATEWAY_ORIGIN"
通过 AISIX 代理发送 Chat Completions 请求:
curl -sS -X POST "$AISIX_PROXY/v1/chat/completions" \
-H "Authorization: Bearer $AISIX_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "novita-deepseek-prod",
"messages": [
{
"role": "user",
"content": "Say hello from Novita AI."
}
]
}'
AISIX 会将 deepseek/deepseek-v3.2 转发到 Novita 的 OpenAI 兼容 Chat 端点,并携带 Novita API Key。
端点覆盖范围
支持 Chat Completions。AISIX 可以通过同一适配器桥接兼容的 Responses 和 Messages 请求。Embeddings 需要配置的 OpenAI 兼容 API Root 上提供 Novita Embedding 模型。
图像生成、视频生成和重排序使用服务提供方特定的允许列表,不接受 novita-ai。仅对位于所配置 API Base 下的 Novita 原生路由使用服务提供方透传。
故障排查
| 现象 | 检查项 |
|---|---|
| 上游身份认证错误 | 确认 NOVITA_API_KEY 处于有效状态。 |
上游返回 404 | 在 api_base 中保留 /openai/v1。 |
| 找不到模型 | 从 Novita 复制包含完整发布方命名空间的模型 ID。 |
创建服务提供方密钥时返回 400 | 使用 provider: "novita-ai" 并省略 adapter。 |
后续步骤
你已将 AISIX 连接到 Novita AI,并验证了模型别名。接下来可阅读以下指南: