将流量路由到 DeepSeek 模型
DeepSeek 通过 OpenAI 兼容 API,以具有竞争力的价格提供高性能语言模型。API7 网关内置专用 DeepSeek 驱动,无需使用通用的 openai-compatible 服务提供方。本指南介绍如何使用 ai-proxy 插件将流量路由到 DeepSeek。
前置条件
-
安装 Docker。
-
安装 cURL,用于发送请求并验证服务。
-
拥有一个正在运行的 API7 网关实例。
-
从控制台获取 Token,并将其保存到环境变量:
export API_KEY=your-dashboard-token # 请替换为你的控制台 Token -
将
{gateway_group_id}替换为网关组 ID。如果正在按照快速入门操作,请使用default。 -
如果使用 Admin API 示例,请创建或复用一个服务。如果尚无服务,请按照创建或复用服务操作,然后将其 ID 保存到环境变量:
export SERVICE_ID=your-service-id # 请替换为你的服务 ID
获取 DeepSeek API Key(API 密钥)
在 platform.deepseek.com 创建账户并生成 API Key,然后将 API Key 保存到环境变量:
export DEEPSEEK_API_KEY=sk-xxxxxxxxxxxxxxxxxxxxxxxx # 请替换为你的 DeepSeek API Key
为 DeepSeek 配置 AI 代理
创建一个启用 ai-proxy 插件的路由:
- Admin API
- ADC
curl -k "https://localhost:7443/apisix/admin/routes/deepseek-route?gateway_group_id={gateway_group_id}" -X PUT \
-H "X-API-KEY: ${API_KEY}" \
-H "Content-Type: application/json" \
--data-binary @- <<EOF
{
"name": "deepseek-route",
"service_id": "$SERVICE_ID",
"paths": ["/deepseek"],
"plugins": {
"ai-proxy": {
"provider": "deepseek",
"auth": {
"header": {
"Authorization": "Bearer $DEEPSEEK_API_KEY"
}
},
"options": {
"model": "deepseek-chat"
}
}
}
}
EOF
❶ 将服务提供方设置为 deepseek,以使用专用 DeepSeek 驱动。
❷ 在 Authorization 请求头中附加 DeepSeek API Key。
❸ 将模型设置为 deepseek-chat。其他可用模型包括 deepseek-reasoner。
adc.yaml
services:
- name: DeepSeek Service
routes:
- uris:
- /deepseek
name: deepseek-route
plugins:
ai-proxy:
provider: deepseek
auth:
header:
Authorization: "Bearer ${DEEPSEEK_API_KEY}"
options:
model: deepseek-chat
labels:
docs-example: deepseek-service
❶ 将服务提供方设置为 deepseek,以使用专用 DeepSeek 驱动。
❷ 在 Authorization 请求头中附加 DeepSeek API Key。
❸ 将模型设置为 deepseek-chat。其他可用模型包括 deepseek-reasoner。
预览本示例管理的资源变更,确认没有非预期的更新或删除:
adc diff -f adc.yaml \
--include-resource-type service \
--label-selector docs-example=deepseek-service
审查变更后同步配置:
adc sync -f adc.yaml \
--include-resource-type service \
--label-selector docs-example=deepseek-service