Volcengine Ark (Doubao)
Volcengine Ark 是字节跳动用于提供豆包及其他模型的平台。AISIX 允许应用通过网关的 OpenAI 兼容 API 调用这些模型,同时管理 Ark 凭证、调用方访问权限、速率限制和用量核算。
一个 Ark 服务提供方密钥可以同时处理 OpenAI 兼容的豆包 Chat、原生 Responses、原生 Messages 和 Count Tokens,以及 Seedance 视频任务。本指南先验证文本 API,然 后复用该服务提供方密钥进行视频生成。
准备工作
开始前,请准备以下内容:
- 一套 AISIX 环境:
- 对于 AISIX Cloud,需要一个已关联网关的环境和具有写入作用域的 Admin Token。对于 On-Premises,请按照 AISIX Cloud 快速入门操作。如需申请 Hybrid Cloud 访问权限,请联系 API7。
- 对于开源 AISIX 网关,请准备本地 AISIX 安装,或使用开源 AISIX 网关快速入门中的 Docker 环境。配置网关以加载声明式资源文件。
- 从 Volcengine Ark 控制台获取的 Ark API Key。
curl和jq。
使用 AISIX Cloud 配置
导出 AISIX Cloud 连接信息:
# AISIX_CP 是 Admin API 基础 URL;应包含 /api,且不含尾部斜杠
# 本地私有化部署快速入门使用 http://localhost:8080/api
export AISIX_CP="YOUR_AISIX_CLOUD_ADMIN_API_URL"
export AISIX_TOKEN="YOUR_ADMIN_TOKEN"
export ENV_ID="YOUR_ENVIRONMENT_ID"
为豆包文本请求创建服务提供方密钥、模型别名和调用方 API Key。后续视频工作流会复用服务提供方密钥和调用方 Key。
创建服务提供方密钥
创建用于存储 Ark 凭证和 API Root 的服务提供方密钥:
# 请替换为实际值
export ARK_API_KEY="YOUR_PROVIDER_API_KEY"
PROVIDER_KEY_ID=$(curl -sS -X POST "$AISIX_CP/provider_keys" \
-H "Authorization: Bearer $AISIX_TOKEN" \
-H "Content-Type: application/json" \
-d '{
"display_name": "volcengine-prod",
"provider": "volcengine",
"api_key": "'"${ARK_API_KEY}"'",
"api_base": "https://ark.cn-beijing.volces.com/api/v3",
"apis": {
"responses": {},
"messages": { "base": "https://ark.cn-beijing.volces.com/api/compatible" }
},
"allowed_environments": ["'"${ENV_ID}"'"]
}' | jq -r '.provider_key.id')
echo "$PROVIDER_KEY_ID"
❶ provider 为 volcengine,这是网关视频路由用于分发的服务提供方 ID。Volcengine Ark 未收录在 models.dev 中,但它并非社区目录条目:网关 原生实现了 Ark 视频传输格式,AISIX Cloud Admin API 会直接接受该 ID,并为聊天流量推导出 openai 适配器。adapter 字段仅适用于 BYO 服务提供方密钥。
❷ api_key 存储 Ark API Key。AISIX 会在 OpenAI 兼容、Responses 和视频路由中将其作为 Bearer Token 发送,并在原生 Messages 和 Count Tokens 中将其作为 x-api-key 发送。它遵循服务提供方密钥中的凭证处理行为。
❸ api_base 是 Ark 的 OpenAI 兼容 Base,其版本路径段为 /api/v3。AISIX 会将端点路径原样追加到 api_base,因此该值会生成 https://ark.cn-beijing.volces.com/api/v3/chat/completions。对于此服务提供方,该字段可选;省略时,AISIX Cloud Admin API 会填入同一规范值。但示例仍显式设置此字段,以便在配置中清楚显示每个密钥指向的上游 Root。
❹ apis 启用 Ark 的原生 Responses、Messages 和 Count Tokens 路由。Responses 使用 api_base;Messages 和 Count Tokens 使用单独的 /api/compatible Base。
该命令会把返回的服务提供方密钥 ID 保存到 PROVIDER_KEY_ID。
示例使用中国北京主机 https://ark.cn-beijing.volces.com/api/v3。字节跳动还运营该平台的国际版本 BytePlus ModelArk,其亚太区地址为 https://ark.ap-southeast.bytepluses.com/api/v3,欧洲区地址为 https://ark.eu-west.bytepluses.com/api/v3。API Key 和模型可用性因平台及区域而异,因此请使用账户实际预配的主机和模型 ID。任何以 /api/v3 结尾的 Ark Base 都可直接用于视频路由,因为网关会根据该后缀推导服务商 Root。
BytePlus 也在其 OpenAI 兼容根地址上提供原生 Responses API。将此示例改用于 BytePlus 时,请保留 apis.responses,但省略 apis.messages。/api/compatible Messages Base 是 Volcengine 专用的,BytePlus 当前没有对应 Messages 和 Count Tokens 路由的文档。
下文使用的 doubao-* 模型 ID 属于 Volcengine Ark。BytePlus 的对应模型使用不同 ID,因此仅更改 api_base 并不足够。使用 BytePlus 账户时,请在 BytePlus ModelArk 文档中选择适用于所在区域的模型 ID。
创建模型
Ark 模型 ID 由系列名称、版本数字和发布日期后缀组成,各部分用连字符分隔。示例使用 doubao-seed-2-1-pro-260628,Volcengine 文档说明该模型支持 Responses、Messages 和 Count Tokens。Ark 还会预配 ID 以 ep- 开头的自定义推理端点。model_name 接受这两种形式,因为网关会将该值作为上游 model 原样转发。创建模型别名前,请在 Ark 模型列表中查看当前目录和协议支持情况。
创建调用方将在请求中发送的模型别名:
MODEL_ID=$(curl -sS -X POST "$AISIX_CP/environments/$ENV_ID/models" \
-H "Authorization: Bearer $AISIX_TOKEN" \
-H "Content-Type: application/json" \
-d '{
"display_name": "doubao-flagship-prod",
"model_name": "doubao-seed-2-1-pro-260628",
"provider_key_id": "'"${PROVIDER_KEY_ID}"'"
}' | jq -r '.model.id')
echo "$MODEL_ID"
❶ display_name 是调用方在 model 中发送的别名。
❷ model_name 是 Ark 模型 ID,或你在 Ark 控制台中预配的推理端点 ID;后者以 ep- 开头。
❸ provider_key_id 将别名关联到 Ark 服务提供方密钥。
创建调用方 API Key
创建可访问该模型别名的调用方 API Key。明文密钥由服务器生成,并且只在响应中返回一次,因此请立即保存:
CALLER_KEY_RESPONSE=$(curl -sS -X POST "$AISIX_CP/environments/$ENV_ID/api_keys" \
-H "Authorization: Bearer $AISIX_TOKEN" \
-H "Content-Type: application/json" \
-d '{
"display_name": "volcengine-caller",
"allowed_models": ["'"${MODEL_ID}"'"]
}')
export AISIX_API_KEY=$(printf '%s' "$CALLER_KEY_RESPONSE" | jq -r '.plaintext')
CALLER_API_KEY_ID=$(printf '%s' "$CALLER_KEY_RESPONSE" | jq -r '.api_key.id')
allowed_models 值必须引用上一步保存的模型 ID,因此该密钥只能访问你创建的别名。这些命令还会保留调用方密钥的资源 ID,以便后续添加视频模型。写入后,配置会自动投射到关联的网关。
使用开源 AISIX 网关配置
导出上游凭证,并选择应用将发送给网关的调用方 API Key:
export ARK_API_KEY="YOUR_PROVIDER_API_KEY"
export CALLER_API_KEY="YOUR_CALLER_API_KEY"
对于新网关,请使用此完整资源文件。对于现有网关,请将这些条目合并到其当前文件中,并保留其他资源:
_format_version: "1"
provider_keys:
- display_name: "volcengine-prod"
provider: "volcengine"
adapter: "openai"
api_key: ${ARK_API_KEY}
api_base: "https://ark.cn-beijing.volces.com/api/v3"
apis:
responses: {}
messages:
base: "https://ark.cn-beijing.volces.com/api/compatible"
models:
- display_name: "doubao-flagship-prod"
provider: "volcengine"
model_name: "doubao-seed-2-1-pro-260628"
provider_key: "volcengine-prod"
api_keys:
- display_name: "volcengine-caller"
key_env: CALLER_API_KEY
allowed_models:
- "doubao-flagship-prod"
如果 AISIX 安装在本地,请在加载前验证文件:
aisix validate --resources resources.yaml
验证后,在网关进程环境中提供文件引用的环境变量,再启动网关。仅当这些变量已经可供进程使用时,才重新加载现有网关;否则,请使用更新后的环境重启网关。
如果使用 Docker,请调整开源 AISIX 网关快速入门中的验证和启动命令。挂载此 resources.yaml 文件,并在两条命令中使用 -e 传入它引用的每个环境变量。资源加载后,准备下文共用的验证请求:
export AISIX_API_KEY="$CALLER_API_KEY"
验证服务提供方连接
导出 AISIX 网关 Origin:
# AISIX_PROXY 不含尾部斜杠或端点路径
# 本地快速入门使用 http://127.0.0.1:3000
export AISIX_PROXY="YOUR_AISIX_GATEWAY_URL"
通过 AISIX 代理发送 Chat Completions 请求:
curl -sS -X POST "$AISIX_PROXY/v1/chat/completions" \
-H "Authorization: Bearer ${AISIX_API_KEY}" \
-H "Content-Type: application/json" \
-d '{
"model": "doubao-flagship-prod",
"messages": [
{
"role": "user",
"content": "Say hello from Doubao."
}
]
}'
网关返回 OpenAI 兼容响应,并回显调用方可见的别名 doubao-flagship-prod。如果请求失败,请检查服务提供方密钥中的 api_key