参数
有关所有插件均可使用的配置项,请参阅插件通用配置。
templates
模板数组。
name
模板名称。请求路由时,请求应包含与配置的模板对应的模板名称。
template
模板规范。
model
LLM 模型名称,例如
gpt-4或gpt-3.5。更多可用模型请参见你的模型服务提供方 API 文档。messages
模板消息规范。
role
有效值:
system、user或assistant消息角色。
content
消息内容(提示词)。
max_req_body_size
缓冲到内存中的请求体最大字节数。超过该上限的请求体会被拒绝。自 API7 企业版 3.9.x 系列的 3.9.17 版本起可用,3.10.x 系列自 3.10.4 版本起可用。