选择服务提供方上游
本页帮助你根据上游类型选择 OpenAI 兼容服务、AWS Bedrock、Vertex AI、Azure OpenAI 或自定义端点。
服务提供方上游是 AISIX AI 网关在解析面向调用方的模型别名后调用的模型 服务。
配置请求链路的上游侧时,需要决定 AISIX 如何与模型服务通信。核心选择是上游 API 格式:OpenAI 兼容 API、AWS Bedrock、Google Vertex AI 或 Azure OpenAI。
配置路径
请选择与上游 API 格式匹配的适配器,而不是按服务提供方的业务分类选择。
| 上游 API 格式 | 示例 | 配置指南 | 适配器 |
|---|---|---|---|
| 公开 OpenAI 兼容厂商 | DeepSeek、Groq、Mistral、Together.ai、Fireworks、Perplexity | OpenAI 兼容厂商上游 | openai |
| 私有 OpenAI 兼容端点 | vLLM、SGLang、Ollama、私有模型代理 | 自定义端点 | openai |
| AWS Bedrock 原生 API | Bedrock 基础模型或推理配置文件(inference profile) | AWS Bedrock 上游 | bedrock |
| Google Vertex AI 原生 API | Vertex 发布方模型 | Google Vertex AI 上游 | vertex |
| Azure OpenAI API | Azure OpenAI 部署 | Azure OpenAI 上游 | azure-openai |
每篇配置指南都会创建相同类型的网关资源:服务提供方密钥、模型别名和调用方 API Key。服务提供方专属指南会说明该服务提供方协议族需要哪种凭证、上游模 型标识符和 base URL 形式。
配置服务提供方密钥、模型和调用方 API Key 后,请通过 AISIX 发送一次代理请求,并确认响应使用面向调用方的模型别名。