The Art of Loop Engineering
编译摘要
1. 浓缩
- 核心结论1: Agent 可靠性来自循环堆叠而非单一模型能力;四层循环构成完整 harness:Agent loop → Verification → Event-driven → Hill climbing
- 关键证据: Agent loop(模型+工具循环)→ Verification loop(评分+重试)→ Event-driven loop(cron/webhook 触发)→ Hill climbing loop(trace 分析→harness 改进)
- 核心结论2: 第四层循环(hill climbing)是最被低估但价值最高的层——用生产 trace 自动改进 prompt/工具配置
- 关键证据: LangSmith Engine 分析 trace 后自动 filing issue 要求修改 prompt 或工具;每轮外层循环使内层循环更有效
- 核心结论3: Human oversight 在每层循环中都有自然插入点,而非仅在最终输出
- 关键证据: Agent loop 中敏感操作前人工确认;Verification loop 中人工作为 grader;Hill climbing 中改进部署前人工审核
2. 质疑
- 关于"循环可无限堆叠"的质疑: 四层循环的组合增加了系统复杂度和延迟;每层验证都增加成本,对延迟敏感的场景可能不适用
- 关于"hill climbing 自动改进"的质疑: 自动改进 prompt/工具配置的前提是 trace 质量高且评估指标正确;错误的评估信号会导致 harness 向错误方向优化
- 关于工具锁定的质疑: 文章使用 LangChain/LangSmith 专有原语(RubricMiddleware、Engine、Fleet channels)描述循环,通用性受限
3. 对标
关联概念