ElevenLabs Agents
ElevenLabs Agents 是用于构建和部署对话式语音 Agent 的托管平台。它负责协调语音识别、语音合成、轮次处理、工具和对话传输。Agent 可以监听、决策并作出响应,应用无需自行组装每个媒体组件。
组织可能仍希望 Agent 的语言模型流量使用与其他 AI 应用相同的访问控制、路由策略和遥测。为此,ElevenLabs 支持 Custom LLM。Agent 的语音会话继续在 ElevenLabs 中运行,而兼容 OpenAI 的 Chat Completions 请求通过 AISIX 发送到已配置的模型服务提供方。
在此集成中,ElevenLabs 将专用的 AISIX 调用方 API Key 保存为 Secret,在 model 中发送 AISIX 模型别名,并以流式方式向网关的 /v1/chat/completions 端点发送请求。AISIX 治理模型请求和响应;ElevenLabs 继续处理音频和对话体验。
前置条件
开始前,请准备以下内容:
- 可使用 ElevenLabs Agents 的 ElevenLabs 账户。
- 一个可编辑的 ElevenLabs Agent。
- 可从公网访问的 AISIX HTTPS 代理 URL。
- 专用于该 Agent 的 AISIX 调用方 API Key。
- 调用方 Key 可以通过兼容 OpenAI 的 API访问的模型别名。
不要在 ElevenLabs 中存储上游服务提供方 Key。Custom LLM Secret 应只包含 AISIX 调用方 Key。
配置 Custom LLM
在 ElevenLabs Dashboard 中打开 Agent,然后配置模型:
- 在 Agent 页面打开 LLM。
- 打开主要模型选择器,然后选择 Custom LLM。
- 保持 Chat Completions 作为 API 格式。