跳到主要内容

插件参数​

有关所有插件均可使用的配置项，请参阅插件通用配置。

  • embeddings_provider

    object

    必填

    嵌入模型服务提供方配置。

    • azure_openai

      object

      必填

      Azure OpenAI 嵌入模型配置。

      • endpoint

        string

        必填

        Azure OpenAI 嵌入模型端点。

      • api_key

        string

        必填

        Azure OpenAI API Key。该值在存储到 etcd 前会使用 AES 加密。

  • vector_search_provider

    object

    必填

    向量搜索服务提供方配置。

    • azure_ai_search

      object

      必填

      Azure AI Search 配置。

      • endpoint

        string

        必填

        Azure AI Search 端点。

      • api_key

        string

        必填

        Azure AI Search API Key。该值在存储到 etcd 前会使用 AES 加密。

  • ssl_verify

    boolean

    默认值：true

    设为 true 时，调用嵌入和向量搜索端点会验证 TLS 证书。自 API7 企业版 3.9.10 和 APISIX 3.17.0 起可用。

请求体参数​

请求体应遵循以下配置。

  • ai_rag

    object

    必填

    请求体 RAG 规范。

    • embeddings

      object

      必填

      嵌入规范。

      如果你使用 Azure OpenAI，则以下参数可用。

      • input

        string

        必填

        输入给大语言模型的提示，将用于计算嵌入并生成 RAG 增强响应。

      • user

        string

        代表最终用户的唯一标识符，有助于监控和检测滥用。

      • encoding_format

        string

        默认值：float

        有效值：

        float 或 base64

        返回嵌入的数据类型。

      • dimensions

        integer

        嵌入模型用于输出向量的维度限制。它应与你的嵌入模型的维度匹配。例如，text-embedding-ada-002 的维度固定为 1536。对于 text-embedding-3-small 或 text-embedding-3-large，维度范围分别为 1 到 1536 和 3072。

    • vector_search

      object

      必填

      向量搜索规范。

      如果你使用 Azure AI 搜索，则以下参数可用。

      • fields

        string

        必填

        向量搜索的字段。