Q-A：Agent Observability 的根本限制
2026-07-15 Wed 14:06
Q1：为什么 Agent trace 不能照搬微服务 trace 模型？
结论：微服务 trace 是静态调用树——span 之间的父子关系在编译时已知；Agent trace 是动态因果图——调用路径由推理链在运行时决定，因果关系事后才可标记。
形式化：微服务 trace = 树(T, E)| T 静态可枚举 → Agent trace = 图(G, E×I)| I=推理意图，E 动态构造
论证步：
- 微服务中，API Gateway → user-service → database 的调用拓扑在部署时固定。跨度（span）结构是树的严格偏序。
- Agent 中，LLM 推理 → 工具选择 → 工具返回 → 下一轮推理——每一步的决策依赖上一步的内容，不是依赖上一步的名称。因果结构是后验的。
- 同一个工具调用在成功和失败的 trace 中有完全不同的意义——但工具调用本身的数据没有变化。意义不是数据的内在属性，是事后的归因。
- 因此 Agent trace 的数据模型必须从树进化为有向无环图，且边必须标注推理意图（"agent 为什么选这个工具"），而不只是调用事实（"agent 调用了哪个工具"）。
边界：对于简单 ReAct agent（工具集 < 5 且推理链 < 3 步），树的近似仍然可用。图的需求随 agent 行为空间扩张而单调增加。在自主 Loop agent 中，树近似完全失效。
Q2："理解"Agent 行为为什么有五重含义，它们为什么不可互相还原？
结论：五重含义——压缩（Chaitin）、校准预期（Woods）、持续循环（Majors）、制度化（Schneier）、可争议性（O'Neil）——对应观察者与被观测系统关系的五个不同层次，各自有不同的目标函数和度量标准，不能互相替代。
形式化：Understand = {U_comp, U_cal, U_loop, U_inst, U_cont}，dim(U_i) ≠ dim(U_j) ∀i≠j，每个 U_i 对应一个不同的观察者-系统耦合模式
论证步：
- 压缩（Chaitin）：目标是找到比原始数据更短的表示。度量是 Kolmogorov 复杂度。失败模式 = 不可压缩。
- 校准预期（Woods）：目标是比随机更好地做出行动决策。度量是决策准确率。失败模式 = 必需多样性不足（Ashby 定律）。
- 持续循环（Majors）：目标是压缩"观测→假设→验证→修正"的周期。度量是反馈延迟。失败模式 = 反馈周期 > 故障演化速度。
- 制度化（Schneier）：目标是将观测实践固化为可审计的规则和程序。度量是合规覆盖率。失败模式 = 规则固化速度 < 行为演化速度。
- 可争议性（O'Neil）：目标是让被 agent 决策影响的人能够挑战决策。度量是申诉成功率。失败模式 = 观测权不对称。
- 五者不可互相还原——你无法用"压缩得更好"替代"让被影响者挑战决策"，因为目标函数根本不同。
边界：在封闭系统（已知状态空间、已知失败模式）中，压缩+校准+循环三层足够。制度化和可争议性只在跨越信任域时才成为必须——即观测者不只是"运维自己的系统"的人。
Q3：为什么 APM 演化史不能作为 Agent Observability 的蓝图？
结论：APM 的整个演化史（metrics → monitoring → observability）发生在单一信任域内——SRE 观测自己运维的系统。Agent Observability 跨越信任域——开发者、部署者、使用者、被影响者在不同的组织、有不同的利益、对"好行为"有不同定义。这是类别差异，不是程度差异。
形式化：APM ⊂ 单一信任域(操作者=观测者) ≠ AgentObs ⊂ 跨信任域(操作者≠观测者≠被影响者)，类比在技术栈层成立，在制度层和伦理层断裂
论证步：
- APM 全部用户（SRE、DevOps、DBA）共享底层目标：系统稳定可用。
- Agent 的利益相关者不共享目标。开发者要快速迭代。企业用户要可靠性和合规。终端用户要公平和透明。监管者要可审计。
- 当观测者之间目标冲突时，观测数据本身成为争议对象——不是"数据显示什么"，而是"谁的数据版本算数"。
- APM 从未面对"观测系统内部的信任仲裁"——因为所有观测者在同一组织、同一信任根下。Agent 没有这个前提。
- 继承部分：高基数事件、即席查询、分布式追踪技术——可以直接继承。断裂部分：多层级界面、跨域信任、可争议性——需要全新设计。
边界：在单一组织内部署的 Agent（如内部代码审查 bot）——APM 类比仍大部分有效。断裂随 Agent 跨越的组织边界数量非线性加剧。
Q4：Agent 行为的不可压缩性为所有观测层级设了什么上限？
结论：当 Agent 行为轨迹的 Kolmogorov 复杂度 K(D) 接近轨迹长度 |D| 时，不存在比原始记录更短的理解。任何聚合、采样、摘要在信息论上等价于信息损失。多层级观测界面只是对同一不可压缩数据的不同"选择性忽略"——不是真正的压缩。
形式化：∀D, K(D) ≈ |D| → ∄ 观测层级 L 使得 |Compress_L(D)| < |D| − ε，多层级观测 = 选择性投影集合{Proj_i(D)}，非压缩
论证步：
- Chaitin 不可压缩性：如果 D 是算法上随机的，任何图灵机程序 P 输出 D 满足 |P| ≥ |D| − O(1)。
- Agent 与环境交互产生轨迹——环境反馈是 agent 无法控制的，这注入不可压缩的熵。
- 自主 Loop agent 在开放环境中的行为轨迹——由于环境本身的复杂性——K(D) 在很多情景下确实接近 |D|。
- 因此，"理解"（压缩意义上）的上限不是工具局限——是信息论定理。
- Woods 式校准和 Majors 式循环不需要压缩——它们需要的是"在不可压缩数据中检测到异常模式"。这是不同的能力，不同的度量。
- 统一结论：压缩的上限是绝对的（K(D)）。校准的上限是相对的（Ashby 必需多样性 / 观察者内部模型容量）。两者共享根因——有穷性。
边界：对于高度受限的环境（规则明确的游戏、封闭世界），Agent 行为的可压缩性大幅提高。不可压缩性的上限随环境开放度单调增加。
Q5：Agent Observability 的最小可行制度（MVI）应该长什么样？
结论：MVI ≠ 一套完整的观测规则。MVI = 硬地板（不观测就一定出事的核心数据单元）+ 演化框架（元规则和修正机制）。因为失败模式本身仍在涌现，固定规则会在定义的那一刻过时。
形式化：MVI = HardFloor ∪ MetaRules，HardFloor = {工具调用记录, 数据流追踪, 终止条件}，MetaRules = {规则修正程序, 失败模式注册表, 跨平台互操作标准}
论证步：
- 硬地板来自"无此不可"原则：如果连 agent 调了什么工具、数据去了哪里、谁/什么条件终止了执行都不知道——任何制度都无法运作。
- 演化框架来自 Chaitin+Woods 的共同结论：制度本身是有限规则系统（有穷者治理悖论），面对无限行为空间必然存在不可判定的行为。因此元规则（如何改规则）比规则本身重要。
- O'Neil 补充：跨平台互操作标准不能被单一厂商控制——否则独立审计=空话。
- Schneier 补充：不可篡改审计日志 + 独立审计权 + 保留人类责任归属——这三条是制度前提而非技术选择。
- 类比：OpenTelemetry 的成功路径——先标准化最小数据模型（span 结构），让生态在标准化基础上演化——而非先设计一套完整的"Agent Observability 标准"。
边界：MVI 适用于需要跨信任域观测的场景。在单一组织内部的简单 Agent 部署中，标准 APM + content filter 可能已经足够。MVI 的复杂度应随 Agent 的 blast radius（影响半径）扩张而递增部署。