Novita AI

Novita AI 为语言模型目录提供托管推理服务。应用通过稳定的 AISIX 别名选择这些模型，并使用网关颁发的调用方密钥进行身份认证。

准备工作

开始前，请准备以下内容：

• 一套 AISIX 环境：
  • 对于 AISIX Cloud，需要一个已关联网关的环境和具备写入权限的 Admin Token。对于 On-Premises，请按照 AISIX Cloud 快速入门操作。如需申请 Hybrid Cloud 访问权限，请联系 API7。
  • 对于开源 AISIX 网关，请准备本地 AISIX 安装，或使用开源 AISIX 网关快速入门中的 Docker 环境。配置网关以加载声明式资源文件。
• 一个 Novita AI API Key。
• curl 和 jq。

使用 AISIX Cloud 配置

导出 AISIX Cloud 连接信息：

# AISIX_CP 是 Admin API 基础 URL；应包含 /api，且不含尾部斜杠
# 本地私有化部署快速入门使用 http://localhost:8080/api
export AISIX_CP="YOUR_AISIX_CLOUD_ADMIN_API_URL"
export AISIX_TOKEN="YOUR_ADMIN_TOKEN"
export ENV_ID="YOUR_ENVIRONMENT_ID"

Novita AI 是提供 OpenAI 兼容 API 的社区目录服务提供方。AISIX 通过 openai 适配器连接，并使用 Bearer Token 对上游请求进行身份认证。

创建服务提供方密钥

export NOVITA_API_KEY="YOUR_NOVITA_API_KEY"

PROVIDER_KEY_ID=$(
  curl -sS -X POST "$AISIX_CP/provider_keys" \
    -H "Authorization: Bearer $AISIX_TOKEN" \
    -H "Content-Type: application/json" \
    -d '{
      "display_name": "novita-prod",
      "provider": "novita-ai",
      "api_key": "'"${NOVITA_API_KEY}"'",
      "api_base": "https://api.novita.ai/openai/v1",
      "allowed_environments": ["'"${ENV_ID}"'"]
    }' | jq -er '.provider_key.id'
)

echo "$PROVIDER_KEY_ID"

服务提供方 ID 包含 -ai 后缀。novita 不是 AISIX 目录 ID。

API Base 必须包含 /openai。本指南使用 Novita 文档中的 /openai/v1 根地址，AISIX 会追加 /chat/completions，生成 https://api.novita.ai/openai/v1/chat/completions。Novita 也接受不带版本路径段的 /openai，这是当前同步目录的值。使用裸主机会将流量发送到 Novita 未为 LLM 推理提供的路由。

AISIX 会为此目录服务提供方派生 openai 适配器。请从请求中省略 adapter。

创建模型

使用包含发布方命名空间的 Novita 模型 ID 创建别名：

MODEL_ID=$(
  curl -sS -X POST "$AISIX_CP/environments/$ENV_ID/models" \
    -H "Authorization: Bearer $AISIX_TOKEN" \
    -H "Content-Type: application/json" \
    -d '{
      "display_name": "novita-deepseek-prod",
      "model_name": "deepseek/deepseek-v3.2",
      "provider_key_id": "'"${PROVIDER_KEY_ID}"'"
    }' | jq -er '.model.id'
)

echo "$MODEL_ID"

模型 ID 和可用性会随 Novita 目录更新而变化。请从 Novita 模型列表复制当前 ID，并保留其发布方前缀和大小写。

创建调用方 API Key

AISIX_API_KEY=$(
  curl -sS -X POST "$AISIX_CP/environments/$ENV_ID/api_keys" \
    -H "Authorization: Bearer $AISIX_TOKEN" \
    -H "Content-Type: application/json" \
    -d '{
      "display_name": "novita-caller",
      "allowed_models": ["'"${MODEL_ID}"'"]
    }' | jq -er '.plaintext'
)

echo "$AISIX_API_KEY"

使用开源 AISIX 网关配置

导出上游凭证，并选择应用将发送给网关的调用方 API Key：

export NOVITA_API_KEY="YOUR_PROVIDER_API_KEY"
export CALLER_API_KEY="YOUR_CALLER_API_KEY"

对于新网关，请使用此完整资源文件。对于现有网关，请将这些条目合并到其当前文件中，并保留其他资源：

resources.yaml

_format_version: "1"

provider_keys:
  - display_name: "novita-prod"
    provider: "novita-ai"
    adapter: "openai"
    api_key: ${NOVITA_API_KEY}
    api_base: "https://api.novita.ai/openai/v1"

models:
  - display_name: "novita-deepseek-prod"
    provider: "novita-ai"
    model_name: "deepseek/deepseek-v3.2"
    provider_key: "novita-prod"

api_keys:
  - display_name: "novita-caller"
    key_env: CALLER_API_KEY
    allowed_models:
      - "novita-deepseek-prod"

如果 AISIX 安装在本地，请在加载前校验文件：

aisix validate --resources resources.yaml

校验后，请在网关进程环境中提供所引用的环境变量并启动网关。仅当这些变量已可用于现有网关进程时才重新加载；否则，请使用更新后的环境重启网关。

如果使用 Docker，请调整开源 AISIX 网关快速入门中的校验和启动命令。挂载此 resources.yaml 文件，并在两个命令中使用 -e 传入该文件引用的每个环境变量。资源加载后，准备下文共用的验证请求：

export AISIX_API_KEY="$CALLER_API_KEY"

验证服务提供方连接

导出 AISIX 网关 Origin：

# AISIX_PROXY 不含尾部斜杠或端点路径
# 本地快速入门使用 http://127.0.0.1:3000
export AISIX_PROXY="YOUR_AISIX_GATEWAY_URL"

通过 AISIX 代理发送 Chat Completions 请求：

curl -sS -X POST "$AISIX_PROXY/v1/chat/completions" \
  -H "Authorization: Bearer $AISIX_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "novita-deepseek-prod",
    "messages": [
      {
        "role": "user",
        "content": "Say hello from Novita AI."
      }
    ]
  }'

AISIX 会将 deepseek/deepseek-v3.2 转发到 Novita 的 OpenAI 兼容 Chat 端点，并携带 Novita API Key。

查看模型能力

本指南中的 deepseek/deepseek-v3.2 是当前的纯文本模型，支持推理、函数工具和结构化输出。Novita Chat API 还支持因模型而异的图片、视频和音频输入，文本或音频输出，以及 enable_thinking 和 separate_reasoning 等控制项。AISIX 会将带类型的内容块、工具、结构化输出配置和未知顶层请求字段转发到兼容 OpenAI 的上游。

AISIX 会规范化 Novita Chat 响应中的 reasoning_content 字段，但不会保留某些 Novita 模型在跨工具调用的交错思考中需要的可选 reasoning_details 数组。使用这些模型时请改用透传路由，并重放完整的原生助手消息。Novita 也接受大于 1 的 n，但 AISIX 在规范化 Chat 路由上只返回第一个选项。

端点覆盖范围

路由	使用 Novita 别名时的行为
/v1/chat/completions	支持，包括流式传输、工具、结构化输出、推理，以及所选模型支持的多模态内容。
/v1/completions	对兼容的 Novita 模型，通过 openai 适配器支持。
/v1/responses	通过 Responses 桥接支持，该桥接会转换为 Chat Completions。Novita 未在此 API 根地址上发布原生 Responses 路由。没有 Chat 等价项的字段会被忽略，返回的 Responses 输出不会保留 Novita 推理。
/v1/messages	通过 Anthropic 到 Chat 的转换访问兼容 OpenAI 的根地址。桥接不会将 Novita 推理保留为 Anthropic 思考块。/v1/messages/count_tokens 要求 Anthropic 后端模型，因此会拒绝此配置。
/v1/embeddings	使用此根地址提供的 Novita 嵌入模型的独立别名时支持。
/v1/files 和 /v1/batches	通过 openai 适配器支持。AISIX 会重写返回的文件和批处理 ID，使规范化后续调用路由到同一别名。上传的批处理 JSONL 文件中，每个请求必须使用上游 Novita 模型 ID；AISIX 不会重写文件内容，且 Novita 要求一个批处理文件只使用一个模型。
/v1/fine_tuning/jobs 和 /v1/audio/*	不支持。Novita 未在配置的 OpenAI 根地址下发布兼容路由。通过兼容 Chat 模型输入或输出音频是另一项能力。
/v1/images/generations	返回 400 而被拒绝，因为规范化路由要求 provider: openai。Novita 图片生成 API 使用配置的 API Base 之外的独立主机根路径。
/v1/rerank	返回 400 而被拒绝，因为规范化路由不接受 novita-ai。可通过透传路由访问 Novita 原生 /openai/v1/rerank 路由。
/v1/videos	返回 501 not_implemented 而被拒绝，因为规范化路由不支持 novita-ai。Novita 视频生成 API 使用配置的 API Base 之外的独立主机根路径；向兼容 Chat 模型输入视频是另一项能力。
/passthrough/novita-ai/*	通过已配置的透传路由可用于路由 target_url 下的 Novita 原生路由，包括 /rerank 和 /models。

文件和批处理管理调用记录的 Token 为零。当规范化批处理检索首次发现作业完成时，AISIX 会下载输出文件，并将其汇总 Token 用量和计算成本归属到路由别名。

Novita 还在 https://api.novita.ai/anthropic 提供兼容 Anthropic 的 API。该同级根地址不在本指南使用的 /openai/v1 根地址下，因此以 OpenAI 兼容根地址为目标的透传路由无法访问它。原生 Anthropic 用法需要另一条以该根地址为 target_url 的透传路由，并在调用方 Key 的 allowed_routes 上授予。

透传路由始终停留在其 target_url 之下，因此以 /openai/v1 根地址为目标的路由无法访问 Novita 主机根路径下的 /v3 图片、视频或音频 API。对于可访问路径，它不会重写 AISIX 模型别名或资源 ID。哪些请求形态会记录 Token 用量，参见信封识别与用量。AISIX 会增量中继服务提供方响应和 SSE，而不是缓冲它们。

本页的 /passthrough/novita-ai 路径假定一条透传路由认领该前缀，target_url 设为 https://api.novita.ai/openai/v1 并用 Novita 服务提供方密钥做凭证注入；在调用方 Key 的 allowed_routes 上授予路由名称。一条路由绑定一个目标和凭证，不同的 Novita 账号或根地址请使用独立路由。

故障排查

现象	检查项
上游身份认证错误	确认 NOVITA_API_KEY 处于有效状态。
上游返回 404	在 api_base 中保留 /openai，并确认请求的路由存在于该根地址下。
找不到模型	从 Novita 复制包含完整发布方命名空间的模型 ID。
创建服务提供方密钥时返回 400	使用 provider: "novita-ai" 并省略 adapter。

后续步骤

你已将 AISIX 连接到 Novita AI，并验证了模型别名。接下来可阅读以下指南：

• 模型别名：为别名配置路由、重试行为或成本元数据。
• 服务提供方特定覆盖：当 Novita 与 openai 适配器存在差异时调整请求和响应格式。
• 透传路由：访问 AISIX 未做标准化的 Novita 原生路由。
• 服务提供方兼容性：查看支持的代理端点和服务提供方特有限制。