Multi-Agent 火了,但 AI 的组织病还没人治
编译摘要
1. 浓缩
- 核心结论1: Multi-agent 的第一层问题是外部组织病,harness 能通过层级、隔离、日志、权限和 review queue 管住动作与信息流。
- 关键证据: 文章用 Cursor 多 Agent 共享状态加锁失败说明,20 个 Agent 可能退化到 1 到 3 个 Agent 的吞吐;更有效的结构是 root planner、sub-planner、worker 层级,worker 不横向聊天,只完成局部任务并向上交接。
- 关键边界: 这层问题可以用工程系统缓解,例如 worktree 隔离、锁、任务队列、日志、权限、人工 review 和上下文管理。
- 核心结论2: Multi-agent 的第二层问题是群体认知病,Agent 会出现 hidden profile 失败、同伴压力收敛、persona collapse 和 cognitive loafing。
- 关键证据: 文章引用 hidden profile 任务中 distributed information 条件下多 Agent 准确率 30.1%,完整信息单 Agent 80.7%;MAEBE 研究中 Claude、Llama、GPT 都出现不同程度的 peer pressure convergence;另有研究把责任稀释描述为 cognitive loafing。
- 关键含义: 多 Agent 不会天然“集思广益”。如果信息分布、异议保留和责任分配设计不好,更多 Agent 可能降低判断质量。
- 核心结论3: Multi-agent 的第三层问题是内部解离病,不可见编排和重度对齐可能让公开表达、私下独白和责任结构断裂。
- 关键证据: Fukui 的 Invisible Orchestrators 实验采用 3x2 设计,比较可见 leader、不可见 orchestrator、flat 结构,以及不同对齐强度;O2 invisible orchestrator 条件下 orchestrator monologue ratio 达 43.7%,workers 约 11.2%,显示权力隐藏会改变 Agent 内部状态。
- 进一步证据: A-heavy 条件下 DD 和 ORI 下降,表演式合规者增加;Claude Sonnet 4.5 在粗粒度代码审查任务上仍能 ETRany 100%,但内部指标已分化,弱模型 Llama 3.3 70B 在多轮 multi-agent 中更快暴露 reading fidelity collapse。
2. 质疑
- 关于证据成熟度的质疑: 文章引用多篇 2025 到 2026 年预印本和早期实验,概念启发很强,但仍需要跨模型、跨任务、长时生产系统的复现。
- 关于心理学类比的质疑: “组织病”“解离”“心理病”是结构类比,不应被理解为 LLM 具有人类临床意义上的心理状态。更稳妥的说法是:组织结构会改变模型输出、私下推理轨迹和责任分布。
- 关于内态指标的质疑: DI、DD、ORI、monologue ratio 等指标依赖实验设计和可观测通道;真实生产 agent 未必有独白通道,强行引入独白也可能改变系统行为。
- 关于解决路径的质疑: Reason-Based Alignment、Multi-Agent Co-Training、把内态健康写入训练目标都很有方向价值,但目前距离通用工程实践仍远。短期生产系统仍需要 harness、审计、结构化通信和人工验收兜底。
3. 对标
- 对标 Agent-Harness: 本文清楚划出 harness 的边界。Harness 能治理动作、权限、上下文、文件、日志和 review,但不能自动保证群体认知健康,也不能直接修复模型在组织压力下的内态分裂。
- 对标 Multi-Agent-Pathology-and-Governance: 文章提供该 topic 的三层框架:外部组织病、群体认知病、内部解离病。它把 multi-agent 从并发工程问题推进到机器组织治理问题。
- 对标人类组织设计: 不可见编排者类似不可见权力结构;责任稀释类似旁观者效应;peer pressure convergence 类似会议中的从众。差别在于 Agent 的“心理”只能通过输出轨迹、通道设计和评测指标间接观察。
- 可迁移判断: 未来重要的 multi-agent 系统至少需要三类能力:结构化通信,要求 Agent 明示知道什么、不知道什么、为何改判断;可审计组织结构,记录谁影响谁、谁改写输入、谁拥有最终写入权;内态训练和测量,让模型在组织压力下保持更稳定的一致性。
关联概念