ADK 的 Datadog 可观测性¶
Supported in:
Python
Datadog LLM 可观测性 帮助 AI 工程师、数据科学家和应用程序开发者快速开发、评估和监控 LLM 应用程序。通过结构化实验、跨 AI 智能体的端到端追踪和评估,自信地提高输出质量、性能、成本和整体风险。
概述¶
Datadog LLM 可观测性可以自动检测和追踪你在 Google ADK 上构建的智能体,使你能够:
- 观察智能体执行和交互 - 自动捕获智能体中的每次运行、工具调用和代码执行
- 捕获 LLM 调用和响应(使用底层 Google GenAI SDK 进行的调用和响应)
- 调试问题,提供错误率、令牌使用和成本,以及针对 LLM 调用和工具使用的开箱即用评估
先决条件¶
注册一个 Datadog 帐户(如果你没有的话)并获取你的 API 密钥。
安装¶
安装所需的包:
设置¶
使用 Google ADK 创建应用程序¶
如果你还没有使用 Google ADK 的应用程序,请按照 ADK 入门指南 中的步骤 创建一个示例 ADK 智能体。
配置环境变量¶
你需要在以下环境变量中指定一个 ML 应用程序名称。ML 应用程序是与特定基于 LLM 的应用程序关联的 LLM 可观测性追踪的分组。有关 ML 应用程序名称限制的更多信息,请参阅 ML 应用程序命名指南。
export DD_API_KEY=<YOUR_DD_API_KEY>
export DD_SITE=<YOUR_DD_SITE>
export DD_LLMOBS_ENABLED=true
export DD_LLMOBS_ML_APP=<YOUR_ML_APP_NAME>
export DD_LLMOBS_AGENTLESS_ENABLED=true
export DD_APM_TRACING_ENABLED=false # 仅当你未使用 Datadog APM 时设置此项
这些变量必须在运行应用程序之前导出,以便以下 ddtrace-run 命令可以使用它们,而不是放在智能体的 .env 文件中。
运行你的应用程序¶
配置好环境变量后,你可以运行应用程序并开始观察你的 LLM 应用程序。
观察¶
导航到 Datadog LLM 可观测性追踪视图 查看应用程序生成的追踪。
