Skip to content

ADK 的 Datadog 可观测性

Supported in: Python

Datadog LLM 可观测性 帮助 AI 工程师、数据科学家和应用程序开发者快速开发、评估和监控 LLM 应用程序。通过结构化实验、跨 AI 智能体的端到端追踪和评估,自信地提高输出质量、性能、成本和整体风险。

概述

Datadog LLM 可观测性可以自动检测和追踪你在 Google ADK 上构建的智能体,使你能够:

  • 观察智能体执行和交互 - 自动捕获智能体中的每次运行、工具调用和代码执行
  • 捕获 LLM 调用和响应(使用底层 Google GenAI SDK 进行的调用和响应)
  • 调试问题,提供错误率、令牌使用和成本,以及针对 LLM 调用和工具使用的开箱即用评估

先决条件

注册一个 Datadog 帐户(如果你没有的话)并获取你的 API 密钥

安装

安装所需的包:

pip install ddtrace

设置

使用 Google ADK 创建应用程序

如果你还没有使用 Google ADK 的应用程序,请按照 ADK 入门指南 中的步骤 创建一个示例 ADK 智能体。

配置环境变量

你需要在以下环境变量中指定一个 ML 应用程序名称。ML 应用程序是与特定基于 LLM 的应用程序关联的 LLM 可观测性追踪的分组。有关 ML 应用程序名称限制的更多信息,请参阅 ML 应用程序命名指南

export DD_API_KEY=<YOUR_DD_API_KEY>
export DD_SITE=<YOUR_DD_SITE>
export DD_LLMOBS_ENABLED=true
export DD_LLMOBS_ML_APP=<YOUR_ML_APP_NAME>
export DD_LLMOBS_AGENTLESS_ENABLED=true
export DD_APM_TRACING_ENABLED=false  # 仅当你未使用 Datadog APM 时设置此项

这些变量必须在运行应用程序之前导出,以便以下 ddtrace-run 命令可以使用它们,而不是放在智能体的 .env 文件中。

运行你的应用程序

配置好环境变量后,你可以运行应用程序并开始观察你的 LLM 应用程序。

ddtrace-run adk run my_agent

观察

导航到 Datadog LLM 可观测性追踪视图 查看应用程序生成的追踪。

datadog-observability.png

支持和资源