版本：1.8.0

Gemini Enterprise Agent Platform

Gemini Enterprise Agent Platform 是 Google Cloud 面向 Gemini 和合作伙伴模型的托管平台现用名称，之前的文档将其称为 Vertex AI。AISIX 为应用提供统一的兼容 OpenAI API，以调用该平台托管的模型。

此配置适用于需要使用 AISIX 认证、模型允许列表、速率限制和用量核算的 Agent Platform 模型。为保持兼容性，AISIX 继续使用 google-vertex 作为服务提供方标识符，使用 vertex 作为适配器标识符。AISIX 使用 GCP OAuth2 Bearer Token 向 Agent Platform API 认证，并可从服务账号密钥签发该 Token。

准备工作

开始前，请准备以下内容：

一套 AISIX 环境：
- 对于 AISIX Enterprise 或 AISIX Cloud，需要一个已关联网关的环境和具有写入作用域的 Admin Token。使用 AISIX Enterprise 时，请按照 AISIX Enterprise 快速入门操作。如需申请 AISIX Cloud 访问权限，请联系 API7。
- 对于开源 AISIX 网关，请准备本地 AISIX 安装，或使用开源 AISIX 网关快速入门中的 Docker 环境。配置网关以加载声明式资源文件。
已在目标 GCP 项目中启用 Agent Platform API（aiplatform.googleapis.com）。
目标模型支持的 Agent Platform 位置，以及拥有 Agent Platform User（roles/aiplatform.user）角色的服务账号。当前 Gemini 示例使用 global。
GCP 项目 ID 和 Agent Platform 模型 ID。
curl 和 jq。

使用 AISIX Enterprise 或 AISIX Cloud 配置

导出控制面连接信息：

# AISIX_CP 是 Admin API 基础 URL；应包含 /api，且不含尾部斜杠
# 本地私有化部署快速入门使用 http://localhost:8080/api
export AISIX_CP="YOUR_AISIX_CONTROL_PLANE_API_URL"
export AISIX_TOKEN="YOUR_ADMIN_TOKEN"
export ENV_ID="YOUR_ENVIRONMENT_ID"

创建 Agent Platform 服务提供方密钥、模型别名和调用方 API Key。服务提供方密钥存储 GCP 项目、位置和凭证模式；模型则选择发布方模型 ID。

创建 Agent Platform 服务提供方密钥

使用 GCP 凭证设置创建服务提供方密钥：

PROVIDER_KEY_ID=$(curl -sS -X POST "$AISIX_CP/provider_keys" \
  -H "Authorization: Bearer $AISIX_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{
    "display_name": "vertex-prod",
    "provider": "google-vertex",
    "api_base": "https://aiplatform.googleapis.com",
    "config": {
      "project": "my-gcp-project",
      "region": "global",
      "service_account_json": {
        "type": "service_account",
        "private_key": "-----BEGIN PRIVATE KEY-----\nYOUR_SERVICE_ACCOUNT_PRIVATE_KEY\n-----END PRIVATE KEY-----\n",
        "client_email": "vertex-sa@my-gcp-project.iam.gserviceaccount.com",
        "token_uri": "https://oauth2.googleapis.com/token"
      }
    },
    "allowed_environments": ["'"$ENV_ID"'"]
  }' | jq -r '.provider_key.id')

❶ provider 选择 Agent Platform 的兼容性目录条目，该条目通过 vertex 协议适配器路由流量。

❷ AISIX Cloud 要求为此平台服务提供方设置 api_base。对于 global 位置，请使用 https://aiplatform.googleapis.com；https://global-aiplatform.googleapis.com 并非全局端点。对于区域位置，请使用与 config.region 匹配的 https://<region>-aiplatform.googleapis.com。代理或私有端点可以替代任一 Origin。

❸ config 是结构化凭证，包含 project、region，且必须恰好包含一种凭证模式。示例使用嵌套对象形式的 service_account_json。也可以把它作为包含密钥文件 JSON 文本的字符串发送；控制面会解析该字符串并存储解析得到的对象。通过 config 提供凭证时，请省略 api_key；此服务提供方会拒绝非空的 api_key。

控制面会在创建服务提供方密钥和轮换其凭证时检查 service_account_json。该对象的 type 必须为 service_account，private_key 必须是以 -----BEGIN 开头的 PEM 编码密钥，client_email 和 token_uri 必须是非空字符串。未通过这些检查的值（包括无法解析为 JSON 对象的字符串）会被以 400 拒绝，错误消息会点名该字段。在此检查之前以字符串形式保存 service_account_json 的服务提供方密钥，存储的是字符串，网关无法加载，因此其上的每个请求都会失败；重新保存一次其凭证即可修复。

除非你已经自行管理短期 GCP 访问 Token，否则请使用 service_account_json。AISIX 会签名 JWT、签发并缓存 OAuth Token，并在到期前刷新。如果使用 access_token，你需要负责刷新它。当前适配器不会发现应用默认凭证、元数据服务器凭证或工作负载身份联合凭证。

服务提供方密钥中的机密信息遵循服务提供方密钥中介绍的凭证处理行为。

该命令保存返回的服务提供方密钥 ID，以供模型资源使用。allowed_environments 允许该环境引用此密钥。

创建模型

将面向调用方的别名映射到 Agent Platform 模型 ID：

MODEL_ID=$(curl -sS -X POST "$AISIX_CP/environments/$ENV_ID/models" \
  -H "Authorization: Bearer $AISIX_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{
    "display_name": "gemini-prod",
    "model_name": "gemini-3.6-flash",
    "provider_key_id": "'"$PROVIDER_KEY_ID"'"
  }' | jq -r '.model.id')

❶ model_name 是 Agent Platform 发布方模型 ID。当前示例 Gemini 3.6 Flash 已在 global 正式发布。Google 说明该模型会忽略自定义 temperature、top-P 和 top-K 值，因此通过 AISIX 调用时请省略 temperature 和 top_p。请求还必须以用户消息结尾。Google 会拒绝最后一轮角色为 model 的 GenerateContent 请求，而 AISIX 会将最后一条 OpenAI assistant 消息映射为该角色。

❷ provider_key_id 将模型关联到上一步保存的 Agent Platform 凭证。

其他受支持的示例包括 Agent Platform 上的 Claude、Llama 等兼容 OpenAI 的 MaaS 模型，以及 Mistral 和 AI21 的合作伙伴发布方模型。

AISIX 根据 model_name 选择 Agent Platform 路由：

模型 ID 系列	AISIX 如何将其发送到 Agent Platform
Gemini 模型，例如 `gemini-*`	使用 Google Gemini 发布方路由。
Claude 模型，例如 `claude-*`	使用 Anthropic 发布方路由，并采用 Anthropic Messages 请求体。
兼容 OpenAI 的 MaaS 模型，例如 Llama、DeepSeek、Qwen、GPT-OSS、MiniMax、Moonshot 或 Z.ai	使用 Agent Platform 兼容 OpenAI 的 chat-completions 路由。
Mistral 和 AI21 模型	使用合作伙伴发布方路由，并采用兼容 OpenAI 的请求体。

创建调用方 API Key

创建可访问 Agent Platform 模型别名的 API Key 资源。服务器会生成密钥，并仅返回一次明文：

AISIX_API_KEY=$(curl -sS -X POST "$AISIX_CP/environments/$ENV_ID/api_keys" \
  -H "Authorization: Bearer $AISIX_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{
    "display_name": "vertex-caller",
    "allowed_models": ["'"$MODEL_ID"'"]
  }' | jq -r '.plaintext')

allowed_models 通过 ID 引用模型，因此调用方只能使用 Agent Platform 别名。请安全存储明文密钥；读取端点不会再次返回它。

使用开源 AISIX 网关配置

对于开源网关，请设置 adapter: vertex，并将项目、区域和凭证模式放入服务提供方密钥的 api_key 值中。以下示例从环境变量读取结构化凭证：

export VERTEX_CREDENTIAL='{"project":"my-gcp-project","region":"global","service_account_json":{"type":"service_account","private_key":"-----BEGIN PRIVATE KEY-----\nYOUR_PRIVATE_KEY\n-----END PRIVATE KEY-----\n","client_email":"vertex-sa@my-gcp-project.iam.gserviceaccount.com","token_uri":"https://oauth2.googleapis.com/token"}}'

对于新网关，请使用此完整资源文件。对于现有网关，请将这些条目合并到其当前文件中，并保留其他资源：

resources.yaml
_format_version: "1"

provider_keys:
  - display_name: vertex-prod
    provider: google-vertex
    adapter: vertex
    api_key: ${VERTEX_CREDENTIAL}
    api_base: https://aiplatform.googleapis.com

models:
  - display_name: gemini-prod
    provider: google-vertex
    model_name: gemini-3.6-flash
    provider_key: vertex-prod

api_keys:
  - display_name: vertex-caller
    key_env: VERTEX_CALLER_KEY
    allowed_models:
      - gemini-prod

凭证必须包含 project、region，以及 access_token 或 service_account_json 中的恰好一个。在资源文件中，service_account_json 必须是密钥文件的 JSON 对象，而不是包含其内容的字符串。对于其他 Agent Platform 发布方，请使用上文介绍的相同 model_name 值。

对于 AISIX OSS 的标准 Agent Platform 位置，可以省略 api_base。AISIX 会根据凭证中的 region 推导 Origin：global 使用 https://aiplatform.googleapis.com，us 和 eu 多区域分别使用 https://aiplatform.us.rep.googleapis.com 和 https://aiplatform.eu.rep.googleapis.com，us-central1 等区域位置使用 https://<region>-aiplatform.googleapis.com。代理、私有端点或其他端点覆盖需要显式设置 api_base。

导出调用方密钥：

export VERTEX_CALLER_KEY="YOUR_CALLER_API_KEY"

如果 AISIX 安装在本地，请在加载前验证文件：

aisix validate --resources resources.yaml

验证后，在网关进程环境中提供文件引用的环境变量，再启动网关。仅当这些变量已经可供进程使用时，才重新加载现有网关；否则，请使用更新后的环境重启网关。

如果使用 Docker，请调整开源 AISIX 网关快速入门中的验证和启动命令。挂载此 resources.yaml 文件，并在两个命令中使用 -e 传入它引用的每个环境变量。资源加载后，为通用验证请求设置 AISIX_API_KEY：

export AISIX_API_KEY="$VERTEX_CALLER_KEY"

验证服务提供方连接

导出 AISIX 网关 Origin：

# AISIX_PROXY 不含尾部斜杠或端点路径
# 本地快速入门使用 http://127.0.0.1:3000
export AISIX_PROXY="YOUR_AISIX_GATEWAY_URL"

通过 AISIX 代理发送 chat-completions 请求。示例使用 Gemini。Gemini 本身会拒绝不含用户或助手消息的请求，因此当请求只包含 system 或 developer 消息时，AISIX 会代为补上一条空白的用户消息，模型据此按系统指令作答。

curl -sS -X POST "$AISIX_PROXY/v1/chat/completions" \
  -H "Authorization: Bearer ${AISIX_API_KEY}" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemini-prod",
    "messages": [
      {
        "role": "user",
        "content": "Say hello from Agent Platform."
      }
    ]
  }'

网关返回兼容 OpenAI 的响应，其中包含面向调用方的别名：

{
  "object": "chat.completion",
  "model": "gemini-prod",
  "choices": [
    {
      "index": 0,
      "message": {
        "role": "assistant",
        "content": "Hello from Agent Platform!"
      },
      "finish_reason": "stop"
    }
  ],
  "usage": {
    "prompt_tokens": 4,
    "completion_tokens": 4,
    "total_tokens": 8
  }
}

在 Agent Platform 日志、指标、配额用量或服务提供方侧请求记录中查找测试请求。如果 AISIX 返回 Token 签发或上游认证错误，请检查服务账号密钥、位置、Agent Platform API 启用状态、IAM 角色和模型访问权限。

端点和内容支持

Agent Platform 提供的能力多于当前 AISIX vertex 适配器能够转换的范围。网关行为同时取决于调用方路由和 model_name 所选择的发布方系列。

路由	使用 `google-vertex` 服务提供方密钥时的行为
`/v1/chat/completions`	支持，包括流式传输。Gemini 发布方转换支持文本、图片、音频、视频和文件内容以及函数调用；Claude 转换支持图片和 PDF 文档。其他合作伙伴发布方的行为取决于其协议。
`/v1/embeddings`	支持 Google 发布方的文本嵌入模型，例如 `gemini-embedding-001`。AISIX 将文本输入发送到 `publishers/google/models/<model>:predict`；不支持合作伙伴和多模态嵌入格式。这些模型只接受文本，Token ID 形式的输入会以 `400` 拒绝。使用 `gemini-embedding-001` 时，每个请求只发送一个输入字符串。AISIX 会将输入数组作为一个上游请求转发，但该模型只接受一个输入，包含多项的数组可能被拒绝。
`/v1/responses`	通过基于 Chat 的 Responses 桥接支持，并非原生 Agent Platform Responses 端点。`text.format` 会转换为聊天的 `response_format`，并按 Gemini 上的结构化输出传达给模型。其他没有 Chat 等价项的字段会被忽略。
`/v1/messages`	Claude 模型使用 Agent Platform 自己的 Anthropic Messages API，`/v1/messages/count_tokens` 使用其 Token 计数 API，参见 Agent Platform 上的 Claude。其他发布方通过转换为 Chat 支持，且无法使用 `/v1/messages/count_tokens`。
`/v1/completions`	`vertex` 适配器不支持。
`/v1/images/generations`、`/v1/audio/*`、`/v1/videos` 和 `/v1/rerank`	`vertex` 适配器或这些路由的服务提供方规则不支持，即使 Agent Platform 另有原生媒体服务。
`/v1/files`、`/v1/batches` 和 `/v1/fine_tuning/jobs`	不支持，因为 AISIX 作业接口不接受 `vertex` 适配器。
`/passthrough/google-vertex/*`	即使配置了透传路由，也不能作为调用原生 Agent Platform API 的变通方案。透传路由会绕过适配器，因此凭证注入既不会从服务账号 JSON 签发 OAuth Token，也不会从结构化凭证提取访问 Token。

对于 Gemini 发布方模型，AISIX 会序列化文本部分、媒体内容、系统指令、Gemini 上的生成设置所述的生成设置和函数调用，详见 Gemini 上的函数调用。内联媒体以 inlineData 发送。调用方的 format 或 URL 中的扩展名指明了媒体类型时，gs:// 或 https:// URL 以 fileData 交给 Gemini 自行读取；否则以及 http:// URL 都由网关下载后内联发送。参见媒体输入与 URL 获取。响应中的函数调用会以工具调用的形式返回；其他非文本响应部分不会返回。

Agent Platform 返回的错误会带着它自己的错误信息原文传给调用方；没有错误信息的错误以状态码命名。

Gemini 上的生成设置

AISIX 会把 Gemini 定义了的每个 OpenAI chat 字段按原值写入其 generationConfig 字段，Agent Platform 拒绝的取值由 Agent Platform 返回错误。通用规则参见请求参数处理。

请求字段	Gemini 字段
`temperature`、`top_p`	`temperature`、`topP`
`max_completion_tokens`，缺省时为 `max_tokens`	`maxOutputTokens`
`stop`	`stopSequences`；单个字符串以单元素数组发送。`/v1/messages` 请求的 `stop_sequences` 以 `stop` 到达这里。
`seed`、`presence_penalty`、`frequency_penalty`	`seed`、`presencePenalty`、`frequencyPenalty`
`n`	`candidateCount`
`logprobs`、`top_logprobs`	`responseLogprobs`、`logprobs`
来自 `/v1/messages` 请求的 `top_k`	`topK`
`reasoning_effort`	`thinkingConfig`，见下文。
`response_format`	参见 Gemini 上的结构化输出。

在 Gemini 3 及更新版本，以及 AISIX 无法识别为更早代次的模型名上，reasoning_effort 会变成 thinkingConfig.thinkingLevel：minimal、low、medium 和 high 分别以 MINIMAL、LOW、MEDIUM 和 HIGH 发送。在 Gemini 2.5 上，它会变成 thinkingConfig.thinkingBudget，使用 Google 为其 OpenAI 兼容端点公布的预算：minimal 和 low 为 1024，medium 为 8192，high 为 24576。在 Gemini 2.5 Flash 和 Flash-Lite 上，none 对应预算 0。用 budget_tokens 开启 thinking 的 /v1/messages 请求会改为把这个精确预算发给 Gemini 2.5，因此超过模型上限的预算会收到 Agent Platform 自己的 400，例如 gemini-2.5-flash 上的 thinking_budget is out of range; supported values are integers from 1 to 24576。模型没有对应设置的档位（例如 Gemini 2.5 Pro 或 Gemini 3 上的 none），以及更早模型上的所有档位，都会被丢弃。

service_tier 为 flex 或 priority 时，以 X-Vertex-AI-LLM-Shared-Request-Type 请求头发送，用于选择 Agent Platform 的 Flex PayGo 或 Priority PayGo。auto、default 和 scale 在 Agent Platform 上没有对应设置，会被丢弃。服务提供方密钥的 request.default_headers 或转发的调用方请求头为该请求头提供的值优先。

Gemini 返回的每个 candidate 都会成为一个 choice，按其 candidate 索引编号，流式和非流式请求都是如此；candidate 的 logprobsResult 作为该 choice 的 logprobs 返回。被 Gemini 拦截的提示词（返回 promptFeedback.blockReason 且没有 candidate）以 content_filter 结束，content 为 null。

其他 chat 字段在 Gemini 请求中没有位置，会被丢弃。只携带回放推理内容的 assistant 轮次（无论推理内容是 reasoning_content，还是 Mistral thinking、Databricks reasoning 等推理内容部件）会被排除在 contents 之外。AISIX 会以点名字段的 400 invalid_request_error 拒绝以下取值：不是字符串的 stop、reasoning_effort 或 service_tier，以及不是对象、或 type 不是 text、json_object、json_schema 的 response_format。1.7.0 及更早版本的网关只向 Gemini 发送 temperature、top_p、输出上限和结构化输出字段。

Gemini 上的 Token 用量

AISIX 会将 Agent Platform 的各项 Token 计数映射到规范化响应，而不只是它们的总和。思考 Token（thoughtsTokenCount）按 Google 的计费口径计入 completion_tokens，并在 completion_tokens_details.reasoning_tokens 中单独标明。上下文缓存命中（cachedContentTokenCount）仍是 prompt_tokens 的子集，在 prompt_tokens_details.cached_tokens 中报告。

以上是 Chat Completions 的字段名。同样的数值到达 Responses 调用方时叫 output_tokens_details.reasoning_tokens 和 input_tokens_details.cached_tokens；Anthropic Messages 调用方看到的缓存命中是 cache_read_input_tokens，且没有单独的 reasoning 计数器——该协议本身没有这一概念。

用量记录保留的是 Gemini 自己的计数，而不是调用方看到的数值。当 Gemini 把思考 Token 报告在 candidatesTokenCount 之外时，记录中的 completion_tokens 为 candidatesTokenCount，reasoning_tokens 为 thoughtsTokenCount，total_tokens 为 totalTokenCount。这仅在提示词 + 补全 + 推理 Token 之和等于该总数时适用。如果 Gemini 没有上报总数，或上报的总数与这些计数对不上，记录会像 1.4.0 及更早版本的网关对所有 Gemini 响应所做的那样，把思考 Token 计入 completion_tokens。控制面对这两种形式的计价结果相同，详见推理 Token 如何计费。

Gemini 上的函数调用

Gemini 发布方模型在 /v1/chat/completions、/v1/messages 和 /v1/responses 上支持函数调用，流式和非流式均可。Messages 和 Responses 请求经由 Chat 转换到达 Gemini，因此以下规则对三个路由都适用：

tools 中的函数工具会作为函数声明发送给 Gemini。在 Gemini 2.5 及更新版本（包括 -latest 别名）上，函数的 parameters 原样作为 parametersJsonSchema 发送。在更早的系列上，当 Gemini 的类型化 parameters schema 子集能够表达时，AISIX 会将其转换为该 schema；无法表达时（例如使用了 oneOf、allOf、const 或非字符串的 enum），原样作为 parametersJsonSchema 发送。1.7.0 及更早版本的网关对 Gemini 2.5 模型也会转换为类型化 schema，从而去掉 additionalProperties。
tool_choice 映射为 Gemini 的函数调用模式：none、auto 和 required 分别对应 NONE、AUTO 和 ANY；指定函数名时对应仅允许该函数的 ANY。required 模式的 allowed_tools 对应仅允许所列函数的 ANY；auto 模式下不设置模式。
旧版 functions 和 function_call 字段会作为函数声明和函数调用模式发送，参见旧版函数调用。
OpenAI 的 custom 工具接收自由文本，Gemini 没有对应的声明，因此会被丢弃。
Gemini 返回的每个函数调用都会成为一个独立的工具调用，并行调用也是如此。流式响应中，每个调用会以完整形式到达，并带有各自的 index。以函数调用结束的轮次，其结束原因为 tool_calls，在 Messages 和 Responses 上则为对应的结束原因。
对话历史中的助手工具调用和工具结果会以函数调用和函数响应的形式发回 Gemini。值为 JSON 对象的工具结果会直接作为函数响应发送；其他结果则以 {"content": "<text>"} 形式发送。

原样回传工具调用 ID。 Gemini 3 要求在下一次请求中随函数调用一并回传它返回的思维签名，而任何客户端协议都没有承载该签名的字段。因此，AISIX 会把签名附加在返回的工具调用 ID 上，格式为 <id>__thought__<signature>。这类 ID 比通常的更长，但只包含字母、数字、_ 和 -。请在重放的助手轮次和对应的工具结果中都原样回传每个 ID，让 Gemini 拿回自己的签名。当 Gemini 3 的历史中没有签名时（例如该历史由其他模型生成），AISIX 会改为发送 Google 文档中给出的占位签名。

签名只供 Gemini 使用。当在 Agent Platform Gemini 模型上开始的对话转到其他任何上游继续时，AISIX 会移除 __thought__ 后缀，只发送基础 ID，使对话可以在服务提供方之间切换。安全护栏从不读取工具调用 ID，因此既不扫描基础 ID，也不扫描签名，但仍会扫描函数名称和参数。请参阅安全护栏行为。

以下情况 AISIX 会返回 400 invalid_request_error，而不是直接丢弃：

既不是函数工具也不是 custom 工具的工具，例如托管的网页搜索工具。不支持 Gemini 内置工具。
不是数组的 tools，或没有名称的函数工具。
none、auto、required 以外的 tool_choice 字符串，其他类型或未指定函数名的 tool_choice 对象，或数字、布尔值形式的 tool_choice。即使请求没有发送工具，也会做此检查。
在更早的助手轮次中找不到对应工具调用的工具结果。
参数不是合法 JSON 的重放助手工具调用。

Gemini 上的结构化输出

携带 JSON schema 的 response_format——直接发送到 /v1/chat/completions，或由 Responses 的 text.format、Anthropic Messages 的 output_config.format 转换而来——会变成 generationConfig.responseMimeType: "application/json"，外加 schema 本身，写入该模型这一代读取 schema 的那个字段：

Gemini 2 及更新的版本：generationConfig.responseJsonSchema，标准 JSON Schema，按调用方书写的原样转发。
Gemini 1.x：generationConfig.responseSchema，即较早的 OpenAPI 风格方言。类型名会转为大写（OBJECT、STRING）；该方言没有对应成员的字段会被移除，其中包括 additionalProperties，因为 Gemini 会按名称拒绝它们；同时会补上显式的 propertyOrdering，让模型输出的成员顺序固定下来，而不是未定义。exclusiveMinimum、exclusiveMaximum、multipleOf 和 uniqueItems 会改写进属性的 description 而不是被悄悄丢弃，oneOf 改写为 anyOf，内部 $ref 会被内联展开，因为该方言没有 $ref。minimum、maxLength、pattern 等数值和字符串边界属于该方言，予以保留。

AISIX 从模型名读取代次，并兼容 models/<id> 写法。无法读出代次的模型名（例如 gemini-exp-1206）回退到 responseSchema，这是每一代都接受的字段。

{"type": "json_object"} 只设置 MIME 类型；{"type": "text"} 不发送任何内容。这条路径上没有工具兜底，也没有提示词注入——AISIX 不会把 schema 转成强制的工具调用，无法约束解码的模型会像原来一样作答。两种方言中的 required 都是调用方自己的表述，AISIX 从不改写。

Agent Platform 上的 Claude

发往 claude-* 模型的 /v1/messages 和 /v1/messages/count_tokens 会携带调用方的请求体，直接发到 Agent Platform 自己的 Anthropic Messages 路由，不再经过 Chat 格式转换。/v1/chat/completions 和 /v1/responses 不受影响。

调用方路由	Agent Platform 路由
`/v1/messages`	`publishers/anthropic/models/<model>` 上的 `:rawPredict`，流式请求为 `:streamRawPredict`
`/v1/messages/count_tokens`	`publishers/anthropic/models/count-tokens:rawPredict`，并去掉 `model` 中的 `@` 版本后缀

调用方拿到的是 Claude 原生产出的响应，包括带签名的 thinking 块、redacted_thinking 块、tool_result 中的图片、上游消息 ID 和原生用量计数。转发途中，AISIX 只做以下调整：

移除 model（URL 已指明模型），并将 anthropic_version 设为 vertex-2023-10-16。
顶层字段只保留 Agent Platform 接受的：anthropic_version、max_tokens、messages、metadata、stop_sequences、stream、system、temperature、thinking、tool_choice、tools、top_k、top_p、inference_geo、mcp_servers、context_management、compaction、container、output_config、speed、cache_control 和 safeguards。旧版顶层 output_format 会移入 output_config.format，metadata 只保留 user_id。
anthropic-beta 请求头携带调用方的 beta（即使 forward_client_headers 没有列出该请求头），与服务提供方密钥的 beta 合并，并只保留 Agent Platform 支持的 beta。advanced-tool-use-2025-11-20 以 tool-search-tool-2025-10-19 发送；请求体使用 context management、web search、tool search、safeguards 和 per-turn control 功能时，AISIX 会添加对应的 beta。参见 Claude 的 beta 值。
cache_control 标记去掉 scope 字段，其余保留。
以 URL 给出的媒体（包括 tool_result 中的媒体）会被下载后内联发送。
移除 Anthropic 归属标识行和签名为空的 thinking 块，参见 Anthropic 归属标识行。

发往 4.5 之前 Claude 系列（不支持原生结构化输出）的结构化输出请求（output_format 或 output_config.format）同样留在这些路由上。AISIX 把 schema 移到 Anthropic 请求体中的合成工具 json_tool_call 上，按 AISIX 如何调整 schema 所述密封和收窄，并在请求没有自带 tool_choice、也没有开启 thinking 时强制使用该工具。模型对该工具的调用会以调用方要求的 JSON 文本返回。请求体中的其他内容按原样到达模型。上游调用不使用流式，因此流式调用方会在答复完整后以 SSE 流收到它。

提示词缓存标记在所有路由上都会到达 Claude：Chat 转换会保留调用方的 cache_control 标记，模型也可以通过 Anthropic 提示词缓存自动添加标记。

Claude 的 beta 值

Agent Platform 对不认识的 anthropic-beta 值返回 400，因此 AISIX 会过滤发往 Claude 模型的每个 beta，在 Agent Platform 名称不同时改名，并丢弃 Agent Platform 拒绝的值。beta 通过 anthropic-beta 请求头发送。

服务提供方密钥的 anthropic-beta 是其请求头设置解析出的值：request.default_headers 中的条目，或 request.forward_client_headers 放行的调用方请求头。两者都提供时，与其他请求头一样，以 default_headers 中的条目为准。发送的 beta 因路由而异：

调用方路由	`anthropic-beta` 请求头中的 beta
`/v1/messages`，流式与非流式	调用方的 `anthropic-beta` 请求头（即使 `forward_client_headers` 没有列出该请求头），与服务提供方密钥的 `anthropic-beta` 以及请求体所用功能需要的 beta 合并。
`/v1/messages/count_tokens`	不发送。Token 计数不接受 beta。
`/v1/chat/completions` 和 `/v1/responses`	只有服务提供方密钥的 `anthropic-beta`。不会根据请求体所用功能添加 beta；过滤后没有剩余值时不发送该请求头。

Agent Platform 发布方路由

发布方选择基于前缀。如果 model_name 不匹配受支持的前缀，网关会在发送服务提供方请求前拒绝该请求，并返回不支持发布方的配置错误。

示例使用 Gemini，因为它是 Google 的主要发布方路径。对于合作伙伴模型，请先在 Agent Platform 项目中验证确切的模型 ID、配额和区域可用性，再向调用方公开别名。

一个服务提供方密钥只对应一个项目和位置。如果合作伙伴模型仅在其他位置可用，请创建另一个服务提供方密钥；更改 model_name 不会改变 Agent Platform 资源路径使用的位置。

服务提供方密钥的请求和响应覆盖设置可应用于 Agent Platform 路由，但在兼容 OpenAI 的路由上最为直接有效。Gemini 原生的 contents 格式并不匹配所有 OpenAI 风格的覆盖目标。

后续步骤

现在，你已将 AISIX 连接到 Gemini Enterprise Agent Platform，并验证了模型别名。接下来可阅读以下指南：

Gemini（Google AI Studio）：使用 AI Studio API Key 而不是 Google Cloud 项目来配置 Gemini。
模型别名：为别名配置路由、重试行为或成本元数据。
服务提供方兼容性：查看支持的代理端点和服务提供方特定边界。

准备工作​

使用 AISIX Enterprise 或 AISIX Cloud 配置​

创建 Agent Platform 服务提供方密钥​

创建模型​

创建调用方 API Key​

使用开源 AISIX 网关配置​

验证服务提供方连接​

端点和内容支持​

Gemini 上的生成设置​

Gemini 上的 Token 用量​

Gemini 上的函数调用​

Gemini 上的结构化输出​

Agent Platform 上的 Claude​

Claude 的 beta 值​

Agent Platform 发布方路由​

后续步骤​