DigitalOcean Gradient AI

DigitalOcean Gradient AI Serverless Inference 提供对基础模型的托管访问，无需自行运维模型服务基础设施。AISIX 会将上游模型 ID 映射为稳定别名，并控制其使用权限。

准备工作

开始前，请准备以下内容：

• 一套 AISIX 环境：
  • 对于 AISIX Cloud，需要一个已关联网关的环境和具备写入权限的 Admin Token。对于 On-Premises，请按照 AISIX Cloud 快速入门操作。如需申请 Hybrid Cloud 访问权限，请联系 API7。
  • 对于开源 AISIX 网关，请准备本地 AISIX 安装，或使用开源 AISIX 网关快速入门中的 Docker 环境。配置网关以加载声明式资源文件。
• 可调用 Serverless Inference 的 Gradient AI 模型访问密钥或 DigitalOcean Personal Access Token。
• 所选基础模型的访问权限。
• curl 和 jq。

使用 AISIX Cloud 配置

导出 AISIX Cloud 连接信息：

# AISIX_CP 是 Admin API 基础 URL；需要包含 /api，且末尾不包含斜杠
# 本地 On-Premises 快速入门使用 http://localhost:8080/api
export AISIX_CP="YOUR_AISIX_CLOUD_ADMIN_API_URL"
export AISIX_TOKEN="YOUR_ADMIN_TOKEN"
export ENV_ID="YOUR_ENVIRONMENT_ID"

DigitalOcean 是提供 OpenAI 兼容推理 API 的社区目录服务提供方。AISIX 通过 openai 适配器连接，并使用 Bearer Token 对上游请求进行身份认证。

创建服务提供方密钥

export DIGITALOCEAN_INFERENCE_KEY="YOUR_MODEL_ACCESS_KEY"

PROVIDER_KEY_ID=$(
  curl -sS -X POST "$AISIX_CP/provider_keys" \
    -H "Authorization: Bearer $AISIX_TOKEN" \
    -H "Content-Type: application/json" \
    -d '{
      "display_name": "digitalocean-prod",
      "provider": "digitalocean",
      "api_key": "'"${DIGITALOCEAN_INFERENCE_KEY}"'",
      "api_base": "https://inference.do-ai.run/v1",
      "allowed_environments": ["'"${ENV_ID}"'"]
    }' | jq -er '.provider_key.id'
)

echo "$PROVIDER_KEY_ID"

使用 digitalocean 作为目录服务提供方 ID。AISIX 会派生 openai 适配器；在目录密钥上显式发送适配器会返回校验错误。

API Base 包含 /v1。AISIX 会为 Chat 请求追加 /chat/completions。

创建模型

为 Gradient AI 当前提供的模型创建别名：

MODEL_ID=$(
  curl -sS -X POST "$AISIX_CP/environments/$ENV_ID/models" \
    -H "Authorization: Bearer $AISIX_TOKEN" \
    -H "Content-Type: application/json" \
    -d '{
      "display_name": "digitalocean-gpt-oss-prod",
      "model_name": "openai-gpt-oss-120b",
      "provider_key_id": "'"${PROVIDER_KEY_ID}"'"
    }' | jq -er '.model.id'
)

echo "$MODEL_ID"

请使用 DigitalOcean 模型 ID，而不是原始发布方的仓库名称。创建其他别名前，请在基础模型参考中确认当前可用性。

创建调用方 API Key

AISIX_API_KEY=$(
  curl -sS -X POST "$AISIX_CP/environments/$ENV_ID/api_keys" \
    -H "Authorization: Bearer $AISIX_TOKEN" \
    -H "Content-Type: application/json" \
    -d '{
      "display_name": "digitalocean-caller",
      "allowed_models": ["'"${MODEL_ID}"'"]
    }' | jq -er '.plaintext'
)

echo "$AISIX_API_KEY"

使用开源 AISIX 网关配置

导出上游凭证，并选择应用将发送给网关的调用方 API Key：

export DIGITALOCEAN_INFERENCE_KEY="YOUR_PROVIDER_API_KEY"
export CALLER_API_KEY="YOUR_CALLER_API_KEY"

为此服务提供方创建完整的声明式资源文件：

resources.yaml

_format_version: "1"

provider_keys:
  - display_name: "digitalocean-prod"
    provider: "digitalocean"
    adapter: "openai"
    api_key: ${DIGITALOCEAN_INFERENCE_KEY}
    api_base: "https://inference.do-ai.run/v1"

models:
  - display_name: "digitalocean-gpt-oss-prod"
    provider: "digitalocean"
    model_name: "openai-gpt-oss-120b"
    provider_key: "digitalocean-prod"

api_keys:
  - display_name: "digitalocean-caller"
    key_env: CALLER_API_KEY
    allowed_models:
      - "digitalocean-gpt-oss-prod"

如果 AISIX 安装在本地，请在加载前校验文件：

aisix validate --resources resources.yaml

校验后，请在网关进程环境中提供所引用的环境变量并启动网关。仅当这些变量已可用于现有网关进程时才重新加载；否则，请使用更新后的环境重启网关。

如果使用 Docker，请调整开源 AISIX 网关快速入门中的校验和启动命令。挂载此 resources.yaml 文件，并在两个命令中使用 -e 传入该文件引用的每个环境变量。资源加载后，准备下文共用的验证请求：

export AISIX_API_KEY="$CALLER_API_KEY"

验证服务提供方连接

导出 AISIX 网关 Origin：

# 本地快速入门使用 http://127.0.0.1:3000
export AISIX_PROXY="YOUR_AISIX_GATEWAY_ORIGIN"

通过 AISIX 代理发送 Chat Completions 请求：

curl -sS -X POST "$AISIX_PROXY/v1/chat/completions" \
  -H "Authorization: Bearer $AISIX_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "digitalocean-gpt-oss-prod",
    "messages": [
      {
        "role": "user",
        "content": "Say hello from DigitalOcean Gradient AI."
      }
    ]
  }'

AISIX 会将 openai-gpt-oss-120b 转发到 https://inference.do-ai.run/v1/chat/completions，并携带 DigitalOcean 凭证。

端点覆盖范围

支持 Chat Completions。AISIX 可以通过 Chat 适配器桥接兼容的 Responses 和 Anthropic Messages 请求。Embeddings 需要 Gradient AI Embedding 模型，以及同一 API Base 上的兼容路由。

图像生成、视频生成和重排序不接受 digitalocean 服务提供方值。请参阅服务提供方兼容性。

故障排查

现象	检查项
上游返回 401 或 403	确认模型访问密钥或 Personal Access Token 具备推理访问权限。
上游返回 404	在 api_base 中保留 /v1，并验证 DigitalOcean 模型 ID。
找不到模型	确认该模型在所选区域或账户中仍然可用。
创建服务提供方密钥时返回 400	使用 provider: "digitalocean"，且不要设置 adapter。

后续步骤

你已将 AISIX 连接到 DigitalOcean Gradient AI，并验证了模型别名。接下来可阅读以下指南：

• 模型别名：为别名配置路由、重试行为或成本元数据。
• 限流：配置网关侧的请求数和 Token 限制。
• 路由与故障转移：在 DigitalOcean 与其他服务提供方之间执行故障转移。
• 服务提供方兼容性：查看支持的代理端点和服务提供方特有限制。