跳到主要内容

可观测性

MCP 工具调用使用与模型流量相同的遥测链路。用量事件字段会标识调用方、上游服务器、工具和结果;Prometheus 标签可帮助你将 MCP 流量与模型流量区分开。

可以使用这些信号衡量工具调用量并监控失败。限流、预算和安全护栏阻断会出现在你已经用于模型流量的同一套可观测性工具中。

用量事件

每个 MCP tools/call 都会向与模型用量相同的接收端写入一条用量事件。被限流、因预算超限或被安全护栏阻断的调用也会产生事件,因此遥测会反映所有工具调用尝试,而不只是成功调用。

事件会标识调用方、服务器、工具、结果和耗时:

字段
inbound_protocolmcp
mcp_server_name工具所属的已注册服务器。
mcp_tool_name被调用的上游工具。
api_key_id发起调用的调用方 API Key。
status_code调用结果状态。
latency_ms工具调用端到端延迟。
guardrail_blocked当输入或输出被安全护栏阻断时为 true
request_idoccurred_at关联 ID 和时间戳。

MCP 工具调用没有模型 Token,因此 Token 和成本字段为零。需要按工具归因调用量时,请使用 mcp_server_namemcp_tool_name,而不是依赖 Token 或花费分析。

事件会记录服务器名称、工具名称和调用结果,但不会包含工具参数或工具结果。MCP 内容捕获与用量遥测是不同的能力边界。

MCP 用量事件会通过与模型用量事件相同的路径投递。在托管部署中,它们会与模型用量一起流向同一个用量接收端。它们也会扇出到已配置的 OTLP、SLS 或 Datadog 导出器,因此 MCP 流量会与其它网关流量一起出现在导出链路中。

指标

MCP 请求会出现在网关的 Prometheus 指标中,并携带可用于区分模型流量的标签。使用下列标签筛选相关指标序列:

目标指标过滤条件
跟踪活跃 MCP 请求。aisix_proxy_in_flight_requestsendpoint="/mcp"inbound_protocol="mcp"
检查 MCP 用量事件投递。aisix_usage_events_emitted_totalhandler="mcp"inbound_protocol="mcp"

指标通过专用指标监听器的 GET /metrics 暴露。完整指标目录和标签语义请参见指标参考

验证指标

要验证 MCP 指标是否发出,请先通过网关发送一次 MCP 工具调用,然后抓取专用指标监听器。下面的示例使用默认监听地址和路径。如果你的启动配置设置了其它 observability.metrics.prometheus.addr,请使用对应地址。

指标族会在首次观测后注册,因此只有记录过工具调用后才会出现 MCP 序列:

curl -sS "http://127.0.0.1:9090/metrics" | grep 'inbound_protocol="mcp"'

输出中应包含带有以下标签的指标样本:

指标标签
aisix_proxy_in_flight_requestsinbound_protocol="mcp"
aisix_usage_events_emitted_totalhandler="mcp"inbound_protocol="mcp"

下一步

你现在已经了解 MCP 工具调用会出现在用量事件和指标中的哪些位置。使用下面的指南查看完整指标目录,或调整产生这些信号的流量:

  • 指标参考:查看完整指标目录和标签语义。
  • 限流与预算:把请求限制、并发限制和预算应用到 MCP 工具调用。
  • 安全护栏:检查 MCP 工具参数和工具结果。