跳到主要内容

支持的端点

AISIX 会暴露应用团队已经熟悉的代理端点。选择服务提供方、模型别名或流量策略前,可以先从本页确认客户端应该调用哪一种 API 形态。

主要 API 类型

API 类型路由适用场景
聊天补全POST /v1/chat/completions兼容 OpenAI 的聊天请求、流式聊天、工具调用、路由模型和集成模型。
Anthropic MessagesPOST /v1/messagesPOST /v1/messages/count_tokensAnthropic 风格消息请求,以及面向 Anthropic 后端模型的 Token 计数。
ResponsesPOST /v1/responsesResponses API 客户端,以及跨服务提供方的 Agent 风格响应流程。
文本补全POST /v1/completions兼容 OpenAI 的旧版文本补全客户端。
向量嵌入POST /v1/embeddings通过支持的服务提供方生成向量嵌入。
重排序POST /v1/rerank通过支持的服务提供方对文档进行重排序。
图像生成POST /v1/images/generations文生图请求。
语音与音频POST /v1/audio/transcriptionsPOST /v1/audio/translationsPOST /v1/audio/speech语音转文字、翻译和文字转语音请求。
Batch、Files 与 Fine-tuningPOST /v1/filesPOST /v1/batchesPOST /v1/fine_tuning/jobs 及其查询、列表、取消和内容读取路由兼容 OpenAI 的批处理、文件管理和微调任务,由网关管理服务提供方路由。
RealtimeGET /v1/realtime(WebSocket)通过 WebSocket 转发 OpenAI Realtime 客户端请求,并跟踪会话用量。
服务提供方透传ANY /passthrough/:provider/*rest需要使用 AISIX 认证和配额检查,但不希望 AISIX 规范化请求体的服务提供方专属调用。
MCP 网关ANY /mcp通过已注册的上游 MCP Server 执行 Agent 工具调用,并按调用方 API Key 控制工具访问。

发现与健康检查

端点适用场景
GET /v1/models返回当前调用方 API Key 可访问的模型别名。客户端需要发现网关侧模型名时使用。
GET /livez检查代理监听端是否存活。用于代理监听端健康检查,不代表模型或服务提供方就绪。
GET /readyz检查实例是否应该接收流量。实例正在启动、排空或配置监听过期时返回 503。

网关行为

建模代理路由共享同一套核心网关行为:AISIX 会认证调用方 API Key,检查模型访问权限,解析请求中的模型别名,并应用已配置的流量控制策略。

随后,AISIX 会把请求转发到选中的上游服务提供方;当请求能够归因到模型时,还会记录用量和遥测数据。

部分行为与具体路由相关。例如,请求匹配缓存策略时,响应缓存适用于聊天补全;集成模型也只作用于聊天补全。

MCP 工具调用使用调用方 API Key 的工具访问权限;Token 计数目前限定在 Anthropic 后端模型。服务提供方和路由限制请参见服务提供方兼容性

精确的请求和响应结构请参见代理 API 参考