帮你把Agent从玩具变成产品，Google发布重磅指南，3章内容填平生产化鸿沟

谷歌云刚发布了一篇《Google Cloud Startup technical guide: Al agents》（Google Cloud 创业公司技术指南：AI 代理）这是一份非常详尽和全面的手册，这篇文档要解决的问题：原型到生产之间最大鸿沟，Agent的非确定性、复杂推理轨迹如何验证、如何部署与运维等。初创公司业务负责人或开发者看完后能获得一个系统性的、从概念到实践的AI代理（Al agents）开发与运营路线图。

该指南分为三个核心部分：

• 第一部分：核心概念 (Core concepts of Al agents)- 为初学者建立AI代理的基础知识体系。
• 第二部分：如何构建 (How to build Al agents)- 为准备动手的开发者提供具体的工具和步骤。
• 第三部分：确保可靠与负责任 (Ensuring Al agents are reliable and responsible)- 聚焦于将代理投入生产环境后，如何保证其安全性、稳定性和可扩展性。

让我们立刻开始！

第一部分：AI Agent的核心概念

这一部分是整个指南的基础，主要帮助初学者建立对AI Agent是什么、由什么组成以及它们如何工作的坚实知识框架。

1. Google Cloud的AI代理生态系统：三种参与方式

指南首先描绘了Google Cloud提供的宏大蓝图，指出你可以通过三种主要方式来利用AI Agent，无论你的技术水平或业务需求如何。这个生态系统的设计核心是互操作性，确保无论代理来自哪里，都能协同工作。

• 构建自己的代理 (Build your own agents)这适用于需要高度定制化和控制权的团队。Google为此提供了两条路径：

1. 代码优先 (Code-first) - 使用Agent Development Kit (ADK)：这是一个为开发者设计的强大、开源的工具包。它让你能够精细控制代理的行为，连接你自己的数据和API，从而构建具有竞争壁垒的独特产品。用ADK构建的代理可以打包成容器，部署到任何地方，如Vertex AI Agent Engine、Cloud Run或GKE。

1. 应用优先 (Application-first) - 使用Google Agentspace：这是一个无代码平台，旨在让非技术团队（如产品、市场人员）也能通过简单的提示语来构建和管理代理 。它可以连接公司内部的各种SaaS应用（如Jira, Slack），打破数据孤岛，实现跨平台的工作流自动化。

• 使用Google Cloud的预构建代理 (Use Google Cloud agents)这是一系列由Google开发和管理的即用型AI助手，可以快速集成到现有工作中，非常适合工程资源有限的初创公司，主要包括：
• Gemini Code Assist：开发者的AI助手，能集成在IDE中，提供代码补全、代码生成甚至自动审查代码等功能。
• Gemini Cloud Assist：Google Cloud环境的AI专家，能用自然语言帮助用户设计架构、排查故障和优化成本。
• Gemini in Colab Enterprise：专为数据科学家设计，能加速数据准备、分析和模型迭代的过程。

• 引入合作伙伴的代理 (Bring in partner agents)Google Cloud是一个开放的生态系统，可以通过其Marketplace轻松集成来自第三方或开源社区的专业代理。

2. 每个AI代理的五大关键组件

无论Agent多么复杂，它们都由五个核心部分构成：

• 模型 (Models) - 代理的大脑
• 如何选择：选择模型不是越强大越好，而是在能力、速度和成本之间找到最佳平衡点。一个常见的错误是为一个简单的任务选择了过于强大的模型，导致成本高、响应慢。
• 策略：最佳策略是为一个系统中的不同子任务动态选择最高效的模型。例如，文档作者们推荐用谷歌自家的Gemini 2.5 Pro处理复杂推理，用Gemini 2.5 Flash-Lite处理高并发的简单分类任务。

• 工具 (Tools) - 代理的手脚工具赋予代理超越其模型原生能力、与外部世界交互的能力，它们可以是你自己的代码函数、内部或第三方的API、数据库或其他数据源，在复杂系统中，一个代理甚至可以把另一个专门的代理当作工具来使用。

• 数据架构 (Data architecture) - 代理的记忆一个强大的代理需要一个分层的记忆系统来存储不同类型的信息。

1. 长期知识库 (Long-term knowledge)：这是代理的永久记忆，用于事实“接地”和个性化。通常使用Vertex AI Search（向量搜索）、Firestore（存储用户历史）和BigQuery（分析）等服务。

工作记忆 (Working memory)：管理当前对话或任务所需的短期、临时信息，要求极低的延迟。Memorystore（内存缓存）是理想选择。

事务性记忆 (Transactional memory)：像一个可靠的账本，记录关键操作（如支付、下单），确保数据的一致性和完整性。通常使用Cloud SQL或Cloud Spanner。

编排 (Orchestration) - 代理的执行功能编排是指导代理完成多步骤任务的核心逻辑。最常见和有效的模式是ReAct (Reason + Action)。代理遵循一个循环：

1. 思考 (Reason)：评估目标，形成下一步该做什么的假设。
2. 行动 (Act)：选择并调用最合适的工具。
3. 观察 (Observe)：接收工具返回的结果，并将新信息融入上下文，为下一步的“思考”提供依据。

• 运行时 (Runtime) - 代理的家这是将代理原型部署到生产环境并确保其能够大规模、可靠运行的基础设施。一个好的运行时环境必须提供可扩展性、安全性和可观察性。Google Cloud提供了Vertex AI Agent Engine、Cloud Run和GKE等多种选择。

3. “接地” (Grounding) 的核心作用：建立信任

“接地”是确保代理的回答基于可验证的事实，而不是凭空捏造（即“幻觉”）的关键过程。它是建立用户信任的基础。指南介绍了其技术演进的三个阶段：

RAG (Retrieval-Augmented Generation)：这是基础。在生成答案前，代理首先从外部知识库（通常是向量数据库）中检索相关信息，并将这些信息作为上下文提供给LLM，从而确保答案有据可查。

GraphRAG：这是进阶。它不仅仅是检索文本片段，而是通过构建知识图谱，让代理能够理解概念之间的关系（例如，“症状 -> 原因 -> 治疗方法”）。

Agentic RAG：这是最前沿的方法。在这种模式下，代理不再是被动地接收检索到的信息，而是成为一个主动的推理者。它可以分析一个复杂问题，制定一个多步骤的检索计划，并依次调用多个工具来寻找最佳答案，就像一个真正的研究助理。

第一部分为您构建了一个关于现代AI代理的完整心智模型。它不仅解释了构成代理的各个部分，还阐明了它们是如何在Google Cloud的生态系统中协同工作的，为后续的构建和运营打下了坚实的理论基础。修猫在上周介绍了一篇Agent设计系统化手册，作者同样来自谷歌，是他们的前CTO办公室的资深工程负责人，这篇文章写的更详细并附带20张流程图，感兴趣您可以看下

谷歌前CTO办公室总监近500页巨著，Agent的21个设计模式，从小白走向大师（在新窗口打开）

第二部分：如何构建AI Agent

在理解了第一部分的核心概念之后，这一部分将重点从理论转向实践，提供了以谷歌自己的技术栈Agent Development Kit (ADK)为主的构建指南。这部分的内容主要帮助开发者做出正确的架构决策，从而构建出生产就绪的代理。

1. 构建AI代理的完整工具包 (A complete toolkit)

Google Cloud提供了一个由四个核心组件构成的工具生态系统，用于构建复杂的AI代理：

组件描述Agent Development Kit (ADK)：谷歌自己开源的、代码优先的工具包，用于构建、评估和部署AI代理。

• Model Context Protocol (MCP)：一个开放协议，旨在标准化应用程序向LLM提供上下文内容的方式，像一个通用适配器。
• Vertex AI Agent Engine：一个托管平台，用于在生产环境中部署、管理和扩展AI代理。
• Agent2Agent (A2A) protocol“一个开放标准，用于实现AI代理之间的通信和协作。

2. 使用ADK进行开发 (Develop with ADK)

ADK 是一个多功能框架，其核心能力包括：

• 构建复杂、协作的AI系统：ADK的设计初衷就是支持多代理。你可以构建一个主代理，然后将特定任务（如代码生成、设计）委托给多个专门的子代理来完成。
• 集成现有工具和工作流：ADK的生态系统非常开放，可以轻松连接到你已在使用的工具（如Notion、Slack）、流行的开源框架（如LangChain）以及其他代理框架（如CrewAI）。
• 确保质量和可靠性：ADK内置了强大的可观察性 (observability) 和评估工具。这使你能够系统地测试代理在不同场景下的反应，并检查其完整的执行轨迹（包括它的“思考”、工具调用和观察结果），从而有效调试其决策过程。
• 充满信心地扩展AI：ADK通过将代理打包成标准的Web服务（使用FastAPI），使其可以被容器化。这意味着你可以将代理部署到任何地方，从业余爱好者的本地测试环境，到像Vertex AI Agent Engine或Cloud Run这样可以自动扩展的全托管运行时。

3. ADK的核心：代理架构

构建代理的第一步是选择正确的架构。ADK提供了三大类代理，每类都适用于不同的场景

1. LLM代理 (LLM-based -LimAgent)

• 这是最常见的代理类型，其核心引擎是像Gemini这样的大语言模型。它的行为是非确定性的（灵活的），适用于需要复杂推理、动态决策和自然语言理解的任务。

2.工作流代理 (Workflow agents)

• 这类代理的核心是预定义的逻辑，行为是确定性的（可预测的）。它们通常用作“协调者”，以预设的模式控制其他代理的执行流程。
• 顺序代理 (SequentialAgent)：按固定顺序执行一系列子代理，并将前一个的输出作为后一个的输入。例如，先调用“获取网页内容”工具，再调用“总结页面”工具。
• 并行代理 (ParallelAgent)：同时执行多个独立的子代理任务，以优化性能。例如，从多个数据源并行检索信息。
• 循环代理 (LoopAgent)：重复执行一个或多个子代理，直到满足某个退出条件或达到最大迭代次数。例如，不断生成图像，直到图像中的香蕉数量为五个为止。

3.自定义代理 (Custom logic)

• 当你需要超越标准推理循环的独特逻辑时，可以继承BaseAgent类并编写自定义的Python代码来精确控制代理的行为。

4. ADK的工具与编排

• 实现ReAct循环：ADK通过LimAgent类原生实现了ReAct（Reason + Action）这个强大的编排模式。它自动处理“思考”（调用LLM形成下一步计划）、“行动”（调用工具或委托给其他代理）和“观察”（接收工具返回的结果并更新上下文）之间的循环，让开发者可以专注于业务逻辑而非底层实现。
• 设计有效的工具：在ADK中，工具本质上是Python函数 。为了让LLM能正确使用这些工具，你需要像设计API一样设计它们：
• 函数签名：使用描述性的名称和强制性的类型提示。
• 文档字符串 (Docstring)：这是LLM理解工具用途、参数和返回值的核心，必须清晰准确。
• 返回结构：工具必须返回一个字典，最好包含一个status键（如success或error），以便代理能判断操作是否成功。

5. 标准化与部署

• 标准化连接 (MCP & A2A)：
• MCP (Model Context Protocol)让你能将代理轻松接入各种数据源和工具，而无需为每一个都编写定制化的集成代码。
• A2A (Agent2Agent Protocol)则让你的代理能够发现并与其他（可能是第三方开发的）代理进行通信和协作，共同完成更复杂的任务。
• 数据管理：ADK提供了与Google Cloud数据服务（如Vertex AI Search, Firestore, Memorystore, Cloud SQL）的集成，让你能够轻松为代理构建长期记忆、工作记忆和事务性记忆。
• 部署到托管运行时：

• ADK是部署无关的，你可以将代理容器化后部署到任何地方。
• 对于创业公司，Vertex AI Agent Engine是推荐的部署目标。它是一个专为代理设计的全托管服务，能自动处理扩展、安全等问题，并提供记忆库 (Memory Bank) 等高级功能，让你的团队能专注于产品本身而非基础设施。

6. 一步步构建你的第一个代理

最后，指南手把手教你如何定义一个Agent ：

1. 定义Agent身份Identity：设置name（名称）、description（描述）和model（使用的模型）。
2. 提供核心指令Instructions：在instruction参数中，用自然语言详细描述代理的角色、任务、约束以及如何使用它的工具。
3. 装备工具Tools：为代理提供完成任务所需的函数，例如get_user_details()或create_jira_ticket()。

第二部分是一份非常扎实的实践指南。它不仅介绍了ADK这个强大的工具，还阐明了其背后的设计哲学和架构模式，并提供了从定义、开发到部署的完整路径，为开发者构建功能强大且可扩展的AI代理奠定了坚实的基础。

第三部分：确保AI Agent可靠与负责任

最后我们来深入探讨这份指南的第三部分：“确保AI代理的可靠与负责任” (Ensuring Al agents are reliable and responsible)。这一部分是整个指南的点睛之笔，它解决了将AI代理从“能用”推向“在生产环境中值得信赖”的关键挑战。鉴于大型语言模型（LLM）系统固有的非确定性，传统的软件测试方法已不再足够。本章引入了一套名为AgentOps的严谨工程方法论，旨在系统化地确保代理的安全性、一致性和价值。

1. AgentOps：为生产级代理设计的框架

Agent Operations (AgentOps)是一个专为AI代理设计的运营方法论，它将DevOps、MLOps和DataOps的原则应用于构建、部署和管理AI代理的全生命周期。它的核心目标是提供一个系统化、自动化、可复现的框架，以应对非确定性系统在生产环境中的复杂性。它通过建立持续的反馈循环，不断改进代理的可靠性、安全性和性能。

2. AgentOps的核心：系统化的多层评估框架

评估是AgentOps的基石， 指南摒弃了表面的“感觉测试”(vibe-testing)，提出了一套严谨、多层次的评估框架，以确保代理的正确性。

第一层：组件级评估 (Component-level evaluation)

• 目标：验证代理系统中确定性组件的正确性，例如工具函数、数据处理逻辑等。
• 测试内容：工具在面对有效、无效和边界输入时的行为；API集成的成功、失败和超时处理。
• 实现方式：开发者使用标准的单元测试框架（如pytest）为ADK中定义的工具编写测试用例，Agent Starter Pack会自动生成配置好的测试环境。

第二层：轨迹评估 (Trajectory evaluation)

• 目标：这是最关键的一层，旨在验证代理的推理过程是否正确。这里的“轨迹”指的是代理为完成任务所执行的完整的“思考(Reason) -> 行动(Act) -> 观察(Observe)”序列。
• 测试内容：代理是否形成了逻辑正确的假设？是否选择了正确的工具？是否正确地生成了工具所需的参数？是否能正确地整合工具返回的结果以指导下一步行动 ？
• 实现方式：ADK的核心运行时会自动记录每个步骤，并与Google Cloud Trace集成，让开发者可以可视化整个推理链条。Agent Starter Pack则通过自动化的CI/CD流水线，在每次代码提交时运行预设的“黄金测试集”，以防止推理能力的退化。

第三层：结果评估 (Outcome evaluation)

• 目标：评估代理在推理循环结束后生成的最终、面向用户的答案的质量。
• 测试内容：答案的事实准确性和“接地”情况；是否有效解决了用户问题；语气是否恰当；内容是否完整。
• 实现方式：Agent Starter Pack集成了Vertex AI的评估服务，可以使用LLM-as-judge（让另一个LLM来评分）进行自动化评估，同时也提供了UI界面供真人评估（HITL），并将反馈数据记录到BigQuery中进行分析。

第四层：系统级监控 (System-level monitoring)

• 目标：评估工作在部署后并未结束。这一层旨在持续追踪代理在真实生产环境中的性能，并检测行为漂移或操作故障。
• 监控内容：工具调用失败率、用户反馈分数、推理轨迹的度量（如完成任务所需的循环次数）、端到端的延迟等。
• 实现方式：Agent Starter Pack提供了一套开箱即用的可观察性技术栈，它会自动配置OpenTelemetry、日志路由和Looker Studio仪表板模板，让团队能够立即开始监控真实世界的使用数据。

3. AgentOps工具包：ADK 与 Agent Starter Pack 的协同

这两个工具被设计为协同工作，清晰地分离了应用逻辑和运营生命周期。

• ADK (Agent Development Kit)：开发者用它来编写代理的应用代码，如实现工具、定义指令和编排流程。
• Agent Starter Pack：它是一个脚手架工具，负责提供生产级的运营环境。它会生成部署基础设施的代码（Terraform）、自动化CI/CD流水线（Cloud Build）以及评估所需的所有配置。

这个协同工作流通常分为五步：

1. 用 Agent Starter Pack引导一个新项目。
2. 在生成的项目结构中，用 ADK开发代理的核心逻辑。
3. 提交代码，自动触发CI/CD流水线。
4. 流水线自动进行持续评估，验证代理的性能和安全性。
5. 评估通过后，自动部署到生产环境。

4. 构建负责任且安全的AI代理

最后，指南强调了构建Agent时不可推卸的责任：确保它们是安全、可靠且对齐人类价值观的。文档作者推荐遵循Google的安全AI框架（SAIF），并利用ADK和Agent Starter Pack实施“纵深防御”策略 ：

• 安全的基础设施：Starter Pack使用Terraform来配置安全的云环境和遵循最小权限原则的IAM角色。
• 输入输出护栏 (Guardrails)：在ADK中实现应用逻辑来验证用户输入（防止注入攻击）和过滤代理的输出（移除有害内容）。这些护栏会在CI/CD流水线中被自动化测试。
• 审计与监控：ADK能够生成代理每个“想法”和工具调用的详细轨迹。Starter Pack则会自动将这些日志数据安全地存储到BigQuery中，形成一个持久的、可供合规审查和事件响应的审计日志。 总而言之，第三部分将AI代理的开发从一门“艺术”提升到了一门“工程科学”。它通过引入AgentOps方法论和强大的工具包，为创业公司提供了一套清晰、可操作的路径，帮助他们充满信心地构建、部署和管理那些不仅功能强大，而且安全、可靠、负责任的AI系统。

关于Agent运维方面的内容，中科院有一篇比此文档更详细和系统的论文，从头到尾论述了Agentops，感兴趣您可以看下

Agent怎么运维？中科院清华重磅发布：AgentOps来了！（在新窗口打开）

写在最后

在详细阅读了这份指南后，咱们可以提炼出几个核心要点，并从中发现一些极具启发性、引人深思的观点。

• AI代理是一个“系统”，而非单一的“模型”：这是最根本的要点。一个生产级的AI代理，是由模型（大脑） + 工具（手脚） + 数据架构（记忆） + 编排（执行功能） + 运行时（家）共同组成的复杂系统。脱离系统谈代理，只是一个玩具。
• “接地”(Grounding)是建立信任的核心：指南反复强调，为了防止模型产生“幻觉”，必须通过RAG、GraphRAG乃至最先进的Agentic RAG技术，将代理的回答与可验证的、真实的数据源连接起来。这不仅是技术问题，更是产品能否被用户信任的商业问题。
• AgentOps是生产级代理的必要工程纪律：这是第三部分的核心思想。管理AI代理这种非确定性系统，不能再依赖“感觉”，而必须引入一套类似DevOps的严谨流程，AgentOps。它强调通过系统化的多层评估框架（组件、轨迹、结果、监控）来确保代理的可靠性和安全性。

过去一年，很多人认为用好AI就是写好提示词 (Prompt)。但这份指南明确指出，在生产环境这远远不够。真正的价值在于设计一个稳健的、可扩展的系统架构。如何为代理设计分层的记忆系统？如何选择合适的编排模式（ReAct）？如何设计原子化、职责单一的工具？这些问题表明，AI应用的开发正在迅速从“文科生”的提示词艺术，回归到“理科生”的软件工程和系统设计。

文章来自于微信公众号 “AI修猫Prompt”，作者 “AI修猫Prompt”