Nebius Token Factory
Nebius Token Factory 为模型目录提供托管推理服务。AISIX 为应用提供稳定别名，同时由网关保存 Token Factory API Key。
准备工作
开始前，请准备以下内容：
- 一套 AISIX 环境：
- 对于 AISIX Cloud，需要一个已关联网关的环境和具备写入权限的 Admin Token。对于 On-Premises，请按照 AISIX Cloud 快速入门操作。如需申请 Hybrid Cloud 访问权限，请联系 API7。
- 对于开源 AISIX 网关，请准备本地 AISIX 安装，或使用开源 AISIX 网关快速入门中的 Docker 环境。配置网关以加载声明式资源文件。
- 一个 Nebius Token Factory API Key。
curl和jq。
使用 AISIX Cloud 配置
导出 AISIX Cloud 连接信息：
# AISIX_CP 是 Admin API 基础 URL；需要包含 /api，且末尾不包含斜杠
# 本地 On-Premises 快速入门使用 http://localhost:8080/api
export AISIX_CP="YOUR_AISIX_CLOUD_ADMIN_API_URL"
export AISIX_TOKEN="YOUR_ADMIN_TOKEN"
export ENV_ID="YOUR_ENVIRONMENT_ID"
Nebius 是提供 OpenAI 兼容 API 的社区目录服务提供方。AISIX 通过 openai 适配器连接，并使用 Bearer Token 对上游请求进行身份认证。
创建服务提供方密钥
export NEBIUS_API_KEY="YOUR_NEBIUS_API_KEY"
PROVIDER_KEY_ID=$(
curl -sS -X POST "$AISIX_CP/provider_keys" \
-H "Authorization: Bearer $AISIX_TOKEN" \
-H "Content-Type: application/json" \
-d '{
"display_name": "nebius-prod",
"provider": "nebius",
"api_key": "'"${NEBIUS_API_KEY}"'",
"api_base": "https://api.tokenfactory.nebius.com/v1",
"allowed_environments": ["'"${ENV_ID}"'"]
}' | jq -er '.provider_key.id'
)
echo "$PROVIDER_KEY_ID"
不要在目录服务提供方密钥中添加 adapter。AISIX 会从目录中派生 openai 适配器和 Bearer 身份认证方案。即使同步目录中已有相同值，显式设置 API Base 仍可在配置中清楚显示目标地址。
创建模型
Nebius 模型 ID 包含发布方命名空间。请使用完整 ID 创建别名：
MODEL_ID=$(
curl -sS -X POST "$AISIX_CP/environments/$ENV_ID/models" \
-H "Authorization: Bearer $AISIX_TOKEN" \
-H "Content-Type: application/json" \
-d '{
"display_name": "nebius-llama-prod",
"model_name": "meta-llama/Llama-3.3-70B-Instruct",
"provider_key_id": "'"${PROVIDER_KEY_ID}"'"
}' | jq -er '.model.id'
)
echo "$MODEL_ID"
如需使用其他模型，请从当前 Nebius 模型目录中复制相应 ID，不要删除或更改发布方前缀。
创建调用方 API Key
AISIX_API_KEY=$(
curl -sS -X POST "$AISIX_CP/environments/$ENV_ID/api_keys" \
-H "Authorization: Bearer $AISIX_TOKEN" \
-H "Content-Type: application/json" \
-d '{
"display_name": "nebius-caller",
"allowed_models": ["'"${MODEL_ID}"'"]
}' | jq -er '.plaintext'
)
echo "$AISIX_API_KEY"
使用开源 AISIX 网关配置
导出上游凭证，并选择应用将发送给网关的调用方 API Key：
export NEBIUS_API_KEY="YOUR_PROVIDER_API_KEY"
export CALLER_API_KEY="YOUR_CALLER_API_KEY"
为此服务提供方创建完整的声明式资源文件：
_format_version: "1"
provider_keys:
- display_name: "nebius-prod"
provider: "nebius"
adapter: "openai"
api_key: ${NEBIUS_API_KEY}
api_base: "https://api.tokenfactory.nebius.com/v1"
models:
- display_name: "nebius-llama-prod"
provider: "nebius"
model_name: "meta-llama/Llama-3.3-70B-Instruct"
provider_key: "nebius-prod"
api_keys:
- display_name: "nebius-caller"
key_env: CALLER_API_KEY
allowed_models:
- "nebius-llama-prod"
如果 AISIX 安装在本地，请在加载前校验文件：
aisix validate --resources resources.yaml
校验后，请在网关进程环境中提供所引用的环境变量并启动网关。仅当这些变量已可用于现有网关进程时才重新加载；否则，请使用更新后的环境重启网关。
如果使用 Docker，请调整开源 AISIX 网关快速入门中的校验和启动命令。挂载此 resources.yaml 文件，并在两个命令中使用 -e 传入该文件引用的每个环境变量。资源加载后，准备下文共用的验证请求：
export AISIX_API_KEY="$CALLER_API_KEY"
验证服务提供方连接
导出 AISIX 网关 Origin：
# 本地快速入门使用 http://127.0.0.1:3000
export AISIX_PROXY="YOUR_AISIX_GATEWAY_ORIGIN"
通过 AISIX 代理发送 Chat Completions 请求：
curl -sS -X POST "$AISIX_PROXY/v1/chat/completions" \
-H "Authorization: Bearer $AISIX_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "nebius-llama-prod",
"messages": [
{
"role": "user",
"content": "Say hello from Nebius Token Factory."
}
]
}'
上游请求使用 POST /v1/chat/completions、准确的 Nebius 模型 ID，以及 Authorization: Bearer <NEBIUS_API_KEY>。
端点覆盖范围
支持 Chat Completions。AISIX 可以通过 Chat 适配器桥接兼容的 Responses 和 Anthropic Messages 请求。仅当所选 Nebius 模型是同一 OpenAI 兼容 Root 上可用的 Embedding 模型时，Embeddings 才可用。
图像生成、视频生成和重排序不接受 nebius 服务提供方值。请参阅服务提供方兼容性。
故障排查
| 现象 | 检查项 |
|---|---|
上游返回 401 或 403 | 确认 Nebius API Key 和项目访问权限。 |
上游返回 404 | 确认 api_base 中包含 /v1。 |
| 找不到模型 | 保留发布方命名空间以及模型名称的大小写。 |
创建服务提供方密钥时返回 400 | 使用 provider: "nebius"，且不要设置 adapter。 |
后续步骤
你已将 AISIX 连接到 Nebius Token Factory，并验证了模型别名。接下来可阅读以下指南：