跳到主要内容
版本：3.10.x

API7 网关 AI Agent Skill：AI 内容审核插件

概览​

API7 企业版提供两个内容安全审核插件，用于过滤有害内容，覆盖 LLM 请求和响应：

插件服务提供方请求响应流式传输
ai-aws-content-moderationAWS Comprehend✅❌❌
ai-aliyun-content-moderationAliyun Moderation Plus✅✅✅

两者都必须与 ai-proxy 或 ai-proxy-multi 一起使用。

适用场景​

  • 在内容到达 LLM 前拦截有毒、仇恨或色情内容
  • 在有害 LLM 响应到达客户端前进行过滤（仅阿里云）
  • 通过可配置阈值执行内容策略
  • 直接在服务或路由上应用一致的审核策略

插件执行顺序​

ai-prompt-template           (priority 1071)
ai-prompt-decorator          (priority 1070)
ai-aws-content-moderation    (priority 1050) ← 在 ai-proxy 之前运行
ai-proxy                     (priority 1040)
ai-aliyun-content-moderation (priority 1029) ← 在 ai-proxy 之后运行

插件 1：ai-aws-content-moderation​

使用 AWS Comprehend detectToxicContent API 对请求内容进行评分。

配置参考​

字段类型是否必填默认值说明
comprehend.access_key_idstring是—AWS 访问密钥 ID
comprehend.secret_access_keystring是—AWS 秘密访问密钥
comprehend.regionstring是—AWS 区域，例如 us-east-1
moderation_categoriesobject否—按类别设置阈值（0-1）
moderation_thresholdnumber否0.5整体有害内容阈值（0-1）

分步操作：AWS 内容审核​

所有运行时资源都必须使用 --gateway-group 或 -g 限定到某个网关组。

a7 route create -g default -f - <<'EOF'
{
  "id": "moderated-chat",
  "uri": "/v1/chat/completions",
  "methods": ["POST"],
  "plugins": {
    "ai-aws-content-moderation": {
      "comprehend": {
        "access_key_id": "AKIAIOSFODNN7EXAMPLE",
        "secret_access_key": "wJalrXUtnFEMI/K7MDENG/bPxRfiCYEXAMPLEKEY",
        "region": "us-east-1"
      },
      "moderation_categories": {
        "HATE_SPEECH": 0.3,
        "VIOLENCE_OR_THREAT": 0.2
      }
    },
    "ai-proxy": {
      "provider": "openai",
      "auth": {
        "header": {
          "Authorization": "Bearer sk-your-key"
        }
      },
      "options": {
        "model": "gpt-4"
      }
    }
  }
}
EOF

插件 2：ai-aliyun-content-moderation​

使用阿里云内容安全增强版，支持请求审核、响应审核和实时流式审核。

配置参考​

字段类型是否必填默认值说明
endpointstring是—阿里云服务端点 URL
region_idstring是—阿里云区域，例如 cn-shanghai
access_key_idstring是—阿里云访问密钥 ID
access_key_secretstring是—阿里云访问密钥
check_requestboolean否true启用请求审核
check_responseboolean否false启用响应审核
risk_level_barstring否high阈值：none、low、medium、high、max

分步操作：阿里云请求与响应审核​

a7 route create -g default -f - <<'EOF'
{
  "id": "aliyun-moderated-chat",
  "uri": "/v1/chat/completions",
  "methods": ["POST"],
  "plugins": {
    "ai-proxy": {
      "provider": "openai",
      "auth": {
        "header": {
          "Authorization": "Bearer sk-your-key"
        }
      },
      "options": {
        "model": "gpt-4"
      }
    },
    "ai-aliyun-content-moderation": {
      "endpoint": "https://green.cn-shanghai.aliyuncs.com",
      "region_id": "cn-shanghai",
      "access_key_id": "your-aliyun-key-id",
      "access_key_secret": "your-aliyun-key-secret",
      "check_request": true,
      "check_response": true,
      "risk_level_bar": "high"
    }
  }
}
EOF

使用服务​

你可以在服务上定义标准审核策略，并将路由关联到该服务。

a7 service create -g default -f - <<'EOF'
{
  "id": "standard-moderation",
  "name": "Standard Moderation",
  "plugins": {
    "ai-aws-content-moderation": {
      "comprehend": {
        "access_key_id": "...",
        "secret_access_key": "...",
        "region": "us-east-1"
      },
      "moderation_threshold": 0.5
    }
  }
}
EOF

配置同步示例​

配置同步以网关组为作用域：

a7 config sync -f config.yaml --gateway-group default
version: "1"
routes:
  - id: moderated-chat
    uri: /v1/chat/completions
    methods:
      - POST
    plugins:
      ai-aws-content-moderation:
        comprehend:
          access_key_id: AKIA...
          secret_access_key: wJal...
          region: us-east-1
        moderation_threshold: 0.5
      ai-proxy:
        provider: openai
        auth:
          header:
            Authorization: Bearer sk-your-key
        options:
          model: gpt-4

故障排查​

现象原因修复方式
"no ai instance picked"使用阿里云插件但未配置 ai-proxy始终在同一路由上配置 ai-proxy
404 Not Found缺少 --gateway-group确保运行时命令包含 -g <group>
AWS 未拦截阈值过于宽松降低 moderation_threshold
阿里云响应审核未生效check_response 默认为 false设置 check_response: true
签名不匹配阿里云凭证错误校验凭证

本页面由 api7/a7 仓库中的 a7-plugin-ai-content-moderation/SKILL.md 生成。你可以在 AI Agent Skills 页面查看所有技能。