AI Agents
完全指南

模型 是静态系统：接收输入 → 生成输出。它本身不会主动"做"任何事。

Agent 使用模型作为核心推理引擎，但增加了：

• 工具调用能力 — 可以执行 Google Search、调用 API、查询数据库
• 记忆与状态管理 — 跨多轮对话保持上下文
• 自主决策循环 — 根据观察结果决定下一步是继续推理、调用工具、还是返回结果
• 目标驱动 — 不只是回答问题，而是为了达成目标而规划和行动

类比：模型像一个聪明但只能纸上谈兵的顾问，Agent 则是能真正动手干活的项目经理。

Agent 可以使用不同大小和能力级别的模型（如 Gemini 系列），关键配置：

• 温度 (Temperature) — 控制输出的随机性
• System Instructions — 定义 Agent 的角色、行为边界和输出格式
• Few-shot Examples — 提供示例来引导模型行为

核心是一个 推理-行动循环：

1. 接收输入 — 用户查询或上一步的观察结果
2. 推理 — 模型分析当前状态，决定下一步
3. 选择行动 — 调用工具、请求更多信息、或生成最终回答
4. 观察结果 — 获取行动的返回值
5. 循环或结束 — 根据结果决定是否继续循环

Function Calling 工作流：

1. 开发者定义函数 Schema（名称、描述、参数）
2. 用户提问 → 模型决定调用哪个函数，输出结构化参数
3. 开发者应用接收参数 → 执行实际 API 调用
4. 返回结果给模型 → 模型生成自然语言回答

1. 数据导入 — 将文档/网页/数据库导入 Vertex AI Search
2. 向量化 — Embedding 模型将文本转为高维向量
3. 检索 — ScaNN 等算法找到语义最相近的文档片段
4. 增强生成 — 检索片段作为上下文注入 LLM prompt

支持数据源：网站内容（URL 爬取）、非结构化文档（PDF/HTML/TXT）、结构化数据（Cloud SQL/Spanner/BigQuery）。

DevOps — CI/CD、自动化测试、容器化、监控告警。

MLOps — 增加：数据管道、模型训练/版本管理、A/B 测试、数据漂移检测。

FMOps / GenAIOps — 专注大模型运维：

• PromptOps — Prompt 版本管理、A/B 测试、自动化评估
• DataOps — RAG 数据管道、向量数据库管理
• RAGOps — 检索质量监控、chunk 策略优化、grounding 验证

AgentOps — 增加 Agent 特有维度：

• 工具管理 — 注册、权限、版本、性能监控
• 编排管理 — 推理路径追踪、决策审计、循环检测
• 记忆管理 — 会话记忆、长期记忆、记忆同步
• 任务分解 — 子任务追踪、依赖管理、失败重试
• 多 Agent 协调 — Agent 间通信、任务分配、冲突解决

Agent 系统的可观测性远比传统应用复杂，因为每次用户请求可能触发多次 LLM 调用、工具调用和中间推理步骤。

Google Cloud Trace

• 自动收集 Agent 的完整执行路径（span）
• 每个 span 记录延迟、token 消耗、工具名称、参数、返回值
• 支持跨服务追踪
• 集成 Cloud Monitoring 实现阈值告警

LangSmith（LangChain 生态）

• 专为 LLM 应用设计的观测平台
• 可以看到每一步的完整 prompt
• 支持 A/B 测试不同 prompt 版本
• 内置评估功能

注册表核心信息：

• 本体描述 — 每个 Agent/Tool 在语义空间中的位置
• 能力描述 — 结构化描述能做什么
• 性能指标 — 延迟、成功率、成本
• 版本管理 — 灰度发布和回滚

动态发现：Tool RAG（语义搜索工具）、Agent Discovery（自动发现子 Agent）

短期记忆 — 当前会话上下文窗口内容。

长期记忆 — 跨会话持久化：用户偏好、历史交互摘要。

"反思"机制 — Agent 周期性审视短期记忆，决定哪些存入长期记忆。类似人类睡眠时的记忆整合。

核心功能：多源统一工作空间、智能问答（带出处标注）、Audio Overview（播客风格音频摘要）、自动摘要、交叉引用。

企业版增强：组织级数据隔离、Google Workspace 集成、数据保留策略、SSO + 审计日志。

层级模式 — Orchestrator 分析意图路由到正确 Agent。

钻石模式 — 技术输出经 Rephraser 转为友好语言。

点对点 — Agent 互相转交。

协作模式 — 三个 Agent 各出专业信息，Mixer 融合。

关键设计：关键功能设备端运行（即时响应），非关键功能云端（更丰富知识），断网设备端仍可工作。

用户："帮我找附近的寿司店"

→ Orchestrator → Navigation Agent → Google Places API

→ Rephraser → "附近有三家寿司店。最近的是樱花寿司，开车3分钟。评分最高的是匠心寿司，4.8星。"

用户："匠心寿司有没有停车场？"

→ "有免费停车场，约20个车位。需要开始导航吗？"

用户："好的，顺便放点轻松的音乐"

→ 检测双意图 → Navigation 开始导航 + Media Search 选择音乐

• Generation Agent — 文献探索、模拟科学辩论，生成研究假设
• Reflection Agent — 全面审查、模拟评审、锦标赛评审、深度验证
• Ranking Agent — Elo 评分系统排名假设
• Evolution Agent — 交叉启发、简化、扩展、变异
• Proximity Check Agent — 确保假设新颖性
• Meta-review Agent — 撰写结构化研究综述

实际成果：在肝纤维化治疗研究中不仅识别出已有药物，还提出了新机制和药物候选方案。