Snowflake Cortex
Snowflake Cortex 将托管基础模型引入 Snowflake 账户,并通过 REST API 公开这些模型。AISIX 为应用提供一个 OpenAI 兼容 API,用于访问你账户中可用的模型。
准备工作
开始前,请准备以下内容:
- 一套 AISIX 环境:
- 对于 AISIX Cloud,需要一个已关联网关的环境和具有写入作用域的 Admin Token。对于 On-Premises,请按照 AISIX Cloud 快速入门操作。如需申请 Hybrid Cloud 访问权限,请联系 API7。
- 对于开源 AISIX 网关,请准备本地 AISIX 安装,或使用开源 AISIX 网关快速入门中的 Docker 环境。配置网关以加载声明式资源文件。
- Snowflake 账户标识符和编程访问 Token(PAT)。
- 允许使用 Cortex 的 Snowflake 角色。Snowflake 文档说明了
SNOWFLAKE.CORTEX_USER数据库角色和 REST API 用户角色要求。 - 在你的 Snowflake 区域中访问所选模型的权限。
curl和jq。
导出 Snowflake 连接信息:
export SNOWFLAKE_ACCOUNT="example-account"
export SNOWFLAKE_API_BASE="https://${SNOWFLAKE_ACCOUNT}.snowflakecomputing.com/api/v2/cortex/v1"
export SNOWFLAKE_PAT="YOUR_SNOWFLAKE_PROGRAMMATIC_ACCESS_TOKEN"
使用 Snowflake 连接信息中的账户主机名。SNOWFLAKE_ACCOUNT 中不要包含 https:// 或其他路径。
使用 AISIX Cloud 配置
导出 AISIX Cloud 连接信息:
# AISIX_CP 是 Admin API 基础 URL;应包含 /api,且不含尾部斜杠
# 本地私有化部署快速入门使用 http://localhost:8080/api
export AISIX_CP="YOUR_AISIX_CLOUD_ADMIN_API_URL"
export AISIX_TOKEN="YOUR_ADMIN_TOKEN"
export ENV_ID="YOUR_ENVIRONMENT_ID"
Snowflake 是提供 OpenAI 兼容 Cortex 端点的社区目录服务提供方。AISIX 通过 openai 适配器连接,使用 Bearer Token 对上游请求进行身份认证,并将账户专用主机名用作 api_base。