Skip to content

ADK 智能体的 Agent Platform 托管模型

为了实现企业级的可扩展性、可靠性以及与 Google Cloud MLOps 生态系统的集成, 你可以使用部署到 Agent Platform 端点的模型。 这包括来自 Model Garden 的模型或你自己的微调模型。

集成方式: 将完整的 Agent Platform 端点资源字符串 (projects/PROJECT_ID/locations/LOCATION/endpoints/ENDPOINT_ID)直接传递给 LlmAgentmodel 参数。

Agent Platform 设置

有关将 ADK 智能体连接到 Google Cloud 托管模型和服务的更多详情, 包括 Gemini Enterprise Agent Platform,请参阅 连接到 Google Cloud 和 Agent Platform 指南。

Model Garden 部署

Supported in ADKPython v0.2.0Java v0.1.0

你可以从 Model Garden 部署各种开源和专有模型到端点。

示例:

from google.adk.agents import LlmAgent
from google.genai import types # 用于配置对象

# --- 使用从 Model Garden 部署的 Llama 3 模型的示例智能体 ---

# 替换为你的实际 Agent Platform 端点资源名称
llama3_endpoint = "projects/YOUR_PROJECT_ID/locations/us-central1/endpoints/YOUR_LLAMA3_ENDPOINT_ID"

agent_llama3_vertex = LlmAgent(
    model=llama3_endpoint,
    name="llama3_vertex_agent",
    instruction="You are a helpful assistant based on Llama 3, hosted on Agent Platform.",
    generate_content_config=types.GenerateContentConfig(max_output_tokens=2048),
    # ... 其他智能体参数
)
import com.google.adk.agents.LlmAgent;
import com.google.adk.models.Gemini;
import com.google.genai.types.GenerateContentConfig;

// ...

// 替换为你的实际 Agent Platform 端点资源名称
String llama3Endpoint = "projects/YOUR_PROJECT_ID/locations/us-central1/endpoints/YOUR_LLAMA3_ENDPOINT_ID";

LlmAgent agentLlama3Vertex = LlmAgent.builder()
    .model(Gemini.builder()
        .modelName(llama3Endpoint)
        .build())
    .name("llama3_vertex_agent")
    .instruction("You are a helpful assistant based on Llama 3, hosted on Agent Platform.")
    .generateContentConfig(GenerateContentConfig.builder()
        .maxOutputTokens(2048)
        .build())
    // ... 其他智能体参数
    .build();

微调模型端点

Supported in ADKPython v0.2.0Java v0.1.0

部署你的微调模型(无论是基于 Gemini 还是 Agent Platform 支持的其他架构) 会生成一个可以直接使用的端点。

示例:

from google.adk.agents import LlmAgent

# --- 使用微调 Gemini 模型端点的示例智能体 ---

# 替换为你的微调模型端点资源名称
finetuned_gemini_endpoint = "projects/YOUR_PROJECT_ID/locations/us-central1/endpoints/YOUR_FINETUNED_ENDPOINT_ID"

agent_finetuned_gemini = LlmAgent(
    model=finetuned_gemini_endpoint,
    name="finetuned_gemini_agent",
    instruction="You are a specialized assistant trained on specific data.",
    # ... 其他智能体参数
)
import com.google.adk.agents.LlmAgent;
import com.google.adk.models.Gemini;

// ...

// 替换为你的微调模型端点资源名称
String finetunedGeminiEndpoint = "projects/YOUR_PROJECT_ID/locations/us-central1/endpoints/YOUR_FINETUNED_ENDPOINT_ID";

LlmAgent agentFinetunedGemini = LlmAgent.builder()
    .model(Gemini.builder()
        .modelName(finetunedGeminiEndpoint)
        .build())
    .name("finetuned_gemini_agent")
    .instruction("You are a specialized assistant trained on specific data.")
    // ... 其他智能体参数
    .build();

Agent Platform 上的 Anthropic Claude

Supported in ADKPython v0.2.0Java v0.1.0

一些提供商(如 Anthropic)直接通过 Agent Platform 提供其模型。

示例:

集成方式: 使用直接的模型字符串(例如 "claude-3-sonnet@20240229"),但需要在 ADK 中手动注册

为什么需要注册? ADK 的注册表会自动识别 gemini-* 字符串 和标准的 Agent Platform 端点字符串(projects/.../endpoints/...), 并通过 google-genai 库进行路由。对于通过 Agent Platform 直接使用的 其他模型类型(如 Claude),你必须明确告诉 ADK 注册表哪个 特定的包装类(本例中为 Claude)知道如何通过 Agent Platform 后端 处理该模型标识符字符串。

设置:

  1. Agent Platform 环境: 确保完成统一的 Agent Platform 设置(ADC、环境变量、 GOOGLE_GENAI_USE_ENTERPRISE=TRUE)。

  2. 安装提供商库: 安装为 Agent Platform 配置的 必要客户端库。

    pip install "anthropic[vertex]"
    
  3. 注册模型类: 在应用程序的开头附近添加以下代码, 使用 Claude 模型字符串创建智能体之前:

    # 通过 Agent Platform 使用 LlmAgent 直接使用 Claude 模型字符串时必需
    from google.adk.models.anthropic_llm import Claude
    from google.adk.models.registry import LLMRegistry
    
    LLMRegistry.register(Claude)
    
from google.adk.agents import LlmAgent
from google.adk.models.anthropic_llm import Claude # 注册时需要导入
from google.adk.models.registry import LLMRegistry # 注册时需要导入
from google.genai import types

# --- 注册 Claude 类(在启动时执行一次) ---
LLMRegistry.register(Claude)

# --- 在 Agent Platform 上使用 Claude 3 Sonnet 的示例智能体 ---

# Agent Platform 上 Claude 3 Sonnet 的标准模型名称
claude_model_vertexai = "claude-3-sonnet@20240229"

agent_claude_vertexai = LlmAgent(
    model=claude_model_vertexai, # 注册后传递直接字符串
    name="claude_vertexai_agent",
    instruction="You are an assistant powered by Claude 3 Sonnet on Agent Platform.",
    generate_content_config=types.GenerateContentConfig(max_output_tokens=4096),
    # ... 其他智能体参数
)

集成方式: 直接实例化提供商特定的模型类(例如 com.google.adk.models.Claude)并配置 Agent Platform 后端。

为什么要直接实例化? Java ADK 的 LlmRegistry 默认主要处理 Gemini 模型。对于 Agent Platform 上的第三方模型(如 Claude),你需要直接向 LlmAgent 提供 ADK 包装类(例如 Claude)的实例。此包装类负责通过其特定的客户端库与模型交互,并配置为使用 Agent Platform。

设置:

  1. Agent Platform 环境:

    • 确保你的 Google Cloud 项目和区域已正确设置。
    • 应用默认凭据(ADC): 确保你的环境中正确配置了 ADC。通常通过运行 gcloud auth application-default login 来完成。Java 客户端库使用这些凭据对 Agent Platform 进行身份验证。请参阅 Google Cloud Java ADC 文档 了解详细设置。
  2. 提供商库依赖:

    • 第三方客户端库(通常是传递依赖): ADK 核心库通常将 Agent Platform 上常见第三方模型(如 Anthropic 所需的类)的必要客户端库作为传递依赖包含在内。这意味着你可能不需要在 pom.xmlbuild.gradle 中显式添加 Anthropic Vertex SDK 的单独依赖。
  3. 实例化并配置模型: 创建 LlmAgent 时,实例化 Claude 类(或其他提供商的等效类)并配置其 VertexBackend

import com.anthropic.client.AnthropicClient;
import com.anthropic.client.okhttp.AnthropicOkHttpClient;
import com.anthropic.vertex.backends.VertexBackend;
import com.google.adk.agents.LlmAgent;
import com.google.adk.models.Claude; // ADK 的 Claude 包装类
import com.google.auth.oauth2.GoogleCredentials;
import java.io.IOException;

// ... 其他导入

public class ClaudeVertexAiAgent {

    public static LlmAgent createAgent() throws IOException {
        // Agent Platform 上 Claude 3 Sonnet 的模型名称(或其他版本)
        String claudeModelVertexAi = "claude-3-7-sonnet"; // 或任何其他 Claude 模型

        // 使用 VertexBackend 配置 AnthropicOkHttpClient
        AnthropicClient anthropicClient = AnthropicOkHttpClient.builder()
            .backend(
                VertexBackend.builder()
                    .region("us-east5") // 指定你的 Agent Platform 区域
                    .project("your-gcp-project-id") // 指定你的 GCP 项目 ID
                    .googleCredentials(GoogleCredentials.getApplicationDefault())
                    .build())
            .build();

        // 使用 ADK Claude 包装类实例化 LlmAgent
        LlmAgent agentClaudeVertexAi = LlmAgent.builder()
            .model(new Claude(claudeModelVertexAi, anthropicClient)) // 传递 Claude 实例
            .name("claude_vertexai_agent")
            .instruction("You are an assistant powered by Claude 3 Sonnet on Agent Platform.")
            // .generateContentConfig(...) // 可选:如果需要可添加生成配置
            // ... 其他智能体参数
            .build();

        return agentClaudeVertexAi;
    }

    public static void main(String[] args) {
        try {
            LlmAgent agent = createAgent();
            System.out.println("Successfully created agent: " + agent.name());
            // 通常在这里设置 Runner 和 Session 来与智能体交互
        } catch (IOException e) {
            System.err.println("Failed to create agent: " + e.getMessage());
            e.printStackTrace();
        }
    }
}

自适应思考

Supported in ADKPython v1.34.0

较新的 Claude 模型支持自适应扩展思考,模型会自行选择推理深度,而不是使用固定的 token 预算。在原生 Claude 路径上,负的 thinking_budget 会映射为自适应思考。

控制推理深度的推荐方式是使用 AnthropicGenerateContentConfig 上的 effort 字段:

from google.adk.agents import LlmAgent
from google.adk.models import AnthropicGenerateContentConfig
from google.adk.models.anthropic_llm import Claude
from google.adk.models.registry import LLMRegistry

LLMRegistry.register(Claude)

agent = LlmAgent(
    model="claude-sonnet-4@20250514",  # 你的 Agent Platform Claude 模型 ID。
    name="claude_reasoning_agent",
    instruction="You are a helpful assistant.",
    generate_content_config=AnthropicGenerateContentConfig(
        effort="high",  # 可选值:"low"、"medium"、"high"、"xhigh"、"max"。
    ),
)
  • Claude 不支持标准的 thinking_config.thinking_level,该字段会被忽略(并产生警告)。请使用 effort 代替。

Agent Platform 上的开放模型

Supported in ADKPython v0.1.0Java v0.1.0

Agent Platform 通过模型即服务(MaaS)提供精选的开源模型选择,如 Meta Llama。这些模型可通过托管 API 访问,使你无需管理底层基础设施即可部署和扩展。有关可用选项的完整列表,请参阅 Agent Platform 开放模型 MaaS 文档。

你可以使用 LiteLLM 库来访问 Agent Platform MaaS 上的开放模型,如 Meta 的 Llama。

集成方式: 使用 LiteLlm 包装类并将其设置为 LlmAgentmodel 参数。请确保查阅 ADK 智能体的 LiteLLM 模型连接器 文档了解如何在 ADK 中使用 LiteLLM。

设置:

  1. Agent Platform 环境: 确保完成统一的 Agent Platform 设置(ADC、环境变量、 GOOGLE_GENAI_USE_ENTERPRISE=TRUE)。

  2. 安装 LiteLLM:

    pip install litellm
    

示例:

from google.adk.agents import LlmAgent
from google.adk.models.lite_llm import LiteLlm

# --- 使用 Meta 的 Llama 4 Scout 的示例智能体 ---
agent_llama_vertexai = LlmAgent(
    model=LiteLlm(model="vertex_ai/meta/llama-4-scout-17b-16e-instruct-maas"), # LiteLLM 模型字符串格式
    name="llama4_agent",
    instruction="You are a helpful assistant powered by Llama 4 Scout.",
    # ... 其他智能体参数
)