跳到主要内容

选择服务提供方上游

本页帮助你根据上游类型选择 OpenAI 兼容服务、AWS Bedrock、Vertex AI、Azure OpenAI 或自定义端点。

服务提供方上游是 AISIX AI 网关在解析面向调用方的模型别名后调用的模型服务。

配置请求链路的上游侧时,需要决定 AISIX 如何与模型服务通信。核心选择是上游 API 格式:OpenAI 兼容 API、AWS Bedrock、Google Vertex AI 或 Azure OpenAI。

配置路径

请选择与上游 API 格式匹配的适配器,而不是按服务提供方的业务分类选择。

上游 API 格式示例配置指南适配器
公开 OpenAI 兼容厂商DeepSeek、Groq、Mistral、Together.ai、Fireworks、PerplexityOpenAI 兼容厂商上游openai
私有 OpenAI 兼容端点vLLM、SGLang、Ollama、私有模型代理自定义端点openai
AWS Bedrock 原生 APIBedrock 基础模型或推理配置文件(inference profile)AWS Bedrock 上游bedrock
Google Vertex AI 原生 APIVertex 发布方模型Google Vertex AI 上游vertex
Azure OpenAI APIAzure OpenAI 部署Azure OpenAI 上游azure-openai

每篇配置指南都会创建相同类型的网关资源:服务提供方密钥、模型别名和调用方 API Key。服务提供方专属指南会说明该服务提供方协议族需要哪种凭证、上游模型标识符和 base URL 形式。

配置服务提供方密钥、模型和调用方 API Key 后,请通过 AISIX 发送一次代理请求,并确认响应使用面向调用方的模型别名。