

AI Aliyun Content Moderation 插件集成阿里云内容安全服务,在 AI 网关代理 LLM 请求时实时检测提示词输入风险,自动拦截超过安全阈值的请求,保障 AI 应用合规。

AI AWS Content Moderation 插件集成 AWS Comprehend,在 AI 网关代理 LLM 请求时检测提示词毒性内容,自动拦截超过阈值的有害请求,保障 AI 应用安全合规。

ai-cache 插件将 LLM 响应缓存在 Redis 中,并直接从缓存返回相同的请求,从而降低延迟、减少上游模型用量。

ai-lakera-guard 插件通过 Lakera Guard API 筛查 AI 流量,检测请求和 LLM 响应中的提示词注入及其他不安全内容。

AI Prompt Decorator 插件在 AI 网关层为 LLM 请求的用户提示词自动添加前缀和后缀,无需修改客户端代码即可统一注入系统指令,简化 AI API 管理与内容生成流程。

AI Prompt Guard 插件通过允许/拒绝模式在 AI 网关层过滤 LLM 提示词,支持检查最新消息或完整对话历史,有效防止提示词注入攻击,保障 AI 应用安全。

AI Prompt Template 插件为 AI 网关提供预配置提示词模板,支持以填空方式让客户端传入变量,统一规范发送给 LLM 的请求格式,简化 AI API 管理与集成。

AI Proxy 插件将 API 网关请求转换为 OpenAI、DeepSeek、Anthropic、Gemini 等 LLM 所需格式,支持多模型统一接入,并可在访问日志中记录 Token 用量和首字节响应时间。

AI Proxy Multi 插件支持在 API 网关层配置多个模型服 务提供方,实现智能负载均衡与故障转移,确保 AI 服务的高可用性,简化多模型 AI 应用的接入与管理。

AI RAG 插件在 API 网关层实现检索增强生成(RAG),自动检索相关文档并注入 LLM 上下文,提升 AI 响应的准确性和相关性,无需修改后端服务即可增强 AI 能力。

AI Rate Limiting 插件专为 AI 网关设计,基于 Token 用量对 LLM API 请求进行速率限制,有效控制 AI 服务成本,防止资源滥用,保障 AI API 的稳定可用性。

AI Request Rewrite 插件在 API 网关层动态改写发往 LLM 的请求参数,支持修改模型、温度等配置,实现请求的 灵活路由与转换,简化 AI 服务的统一管理。
OpenAPI to MCP 插件将 OpenAPI 规范自动转换为 MCP(Model Context Protocol)工具,使 AI Agent 能够通过 API 网关直接调用 REST API,加速 AI 应用与 API 的集成。

GraphQL Limit Count 插件针对 GraphQL API 实现请求速率限制,基于查询复杂度或请求次数控制访问频率,防止 GraphQL 接口被滥用,保障 API 网关的稳定性。

GraphQL Proxy Cache 插件在 Apache APISIX 层缓存 GraphQL 查询响应,减少对后端 GraphQL 服务的重复请求,显著提升 API 响应速度,降低后端服务负载。

Limit Conn 插件基于并发连接数对 Apache APISIX 路由进行限流,防止后端服务因连接数过多而过载,保障 API 网关在高并发场景下的稳定性和服务质量。

Limit Count 插件使用固定窗口算法对 Apache APISIX 路由进行请求速率限制,在指定时间窗口内限制请求次数,超出配额的请求将被拒绝,保护 API 网关后端服务。
