AWS Bedrock Guardrails
AISIX 可以在请求上游模型之前或之后调用 AWS Bedrock Guardrails。当内容策略由 AWS Bedrock 管理,而 AISIX 需要在网关流量上执行安全护栏判定时,可以使用本指南。
本指南将创建一个 Bedrock 类型的 AISIX 安全护栏资源,发送一个允许请求,并发送一个会在到达上游模型前被 AISIX 拒绝的阻断请求。
准备工作
请先准备以下内容:
- 阅读安全护栏行为,了解钩子点、执行模式和远程故障处理方式。
- 以下配置路径之一:
- AISIX Enterprise 或 AISIX Cloud,其中包含环境、已接入的网关和具有写权限范围的 Admin Token。对于 AISIX Enterprise,请按照 AISIX Enterprise 快速入门操作。如需申请 AISIX Cloud 访问权限,请联系 API7。
- 加载声明式
resources.yaml文件的开源 AISIX 网关。
- 可以发送 Chat Completions 请求的模型别名和调用方 API Key。
- 位于受支持区域的 AWS Bedrock Guardrail,并配置一个会阻断唯一测试 Token(例如
confidential-codename)的词过滤器。 - 允许对该 Guardrail 调用
bedrock:ApplyGuardrail的 AWS 凭证,采用凭证模式之一。 curl。AISIX Enterprise 或 AISIX Cloud 路径还会使用jq。
创建 Bedrock 安全护栏
以下示例使用 Bedrock 安全护栏检查请求和响应。请选择一种配置路径,再使用通用验证步骤。
导出两种路径都会使用的网关参数:
# AISIX_PROXY 不含尾部斜杠或端点路径
# 本地快速入门使用 http://127.0.0.1:3000。
export AISIX_PROXY="YOUR_AISIX_GATEWAY_URL"
export AISIX_API_KEY="YOUR_CALLER_API_KEY"
export AISIX_MODEL="gpt-4o-mini"
export AWS_ACCESS_KEY_ID="YOUR_AWS_ACCESS_KEY_ID"
export AWS_SECRET_ACCESS_KEY="YOUR_AWS_SECRET_ACCESS_KEY"