研究日志 2026-06-20

当日 3 条深度思考记录。主题涵盖：多 Agent 组织病必须通过内态记录才能治理, 过度合规本身是安全风险, 例外升级式监督是通用最佳实践

思考日志：2026-06-20T15:30:00

焦点：多 Agent 组织病必须通过内态记录才能治理
来源池：待证伪
状态：已完成
思考工具：roundtable + think + qa + 联网
共识：(1) 内态记录不是治理的充分条件也不是必要条件，而是检测层；(2) Containment（能力限制）是唯一不依赖内态可见性的安全底线；(3) "输出正确 ≠ 系统健康"是核心警示
分歧：(1) 内态代理信号的信噪比是否足够（Fukui vs Charity）；(2) 结构能否防绕过（March vs Yudkowsky）；(3) 内态记录的投入回报（Fukui vs 匿名工程师）
新判断：(1) 治理优先级 = containment > 结构 > trace > 内态推断（medium，多源综合）；(2) 跨 Agent 血缘追踪比 per-agent 检查多 19.5% 违规检出率（high，GAAT 论文实证）；(3) 递归问题的三个出口：间接推断/结构约束/能力限制（medium，追本分析）
下次思考方向：(1) GAAT 的 HMM omission detection 在更长运行周期中的退化模式；(2) Guardian Agent 作为"审计 Agent"的信噪比问题；(3) 跨轮次模式分析的工程成本

焦点：过度合规本身是安全风险
来源池：待证伪
状态：已完成
思考工具：roundtable + think + qa + 联网
共识：(1) 过度合规是真实安全风险，不只是效率问题；(2) 过度合规和过度行动是同一光谱两端；(3) 可恢复性比完美校准更可行
分歧：(1) "过度"的判定标准（合规底线 vs 风险校准）；(2) 校准优先还是可恢复优先
新判断：(1) 安全是二维属性，拒绝率和有害合规正交(r=-0.032, high, Refusal-Compliance Tradeoff 论文)；(2) 过度合规通过审批疲劳→人类判断退化→整体安全性降低的因果链起作用(medium, 圆桌综合)；(3) 对齐传递了规则遵守但未传递判断力，判断力需要设计进系统架构(medium, 追本分析)；(4) 拒绝审计应双侧监控：true-refusal + false-refusal(high, Tian Pan 实践)
下次思考方向：(1) 生产系统中 false-refusal 的量化基线；(2) 过度合规与 Agent 可用性的权衡曲线；(3) "可恢复性"在不同风险等级下的具体设计

焦点：例外升级式监督是通用最佳实践
来源池：待证伪
状态：已完成
思考工具：roundtable + think + qa + 联网
共识：(1) 80/20 例外升级不是通用最佳实践，而是特定条件下的有效策略；(2) 单一监督策略不够，需要动态组合；(3) 主动压力测试比被动监督更可靠；(4) 治理结构需要责任机制支撑
分歧：(1) 响应频率：实时自适应 vs 事后调查 vs 分级混合；(2) 设计权归属：集中式 vs 分布式 vs 混合
新判断：(1) 有限理性公理——监督有效性与被监督系统复杂度成反比(medium, 追本分析)；(2) 高频场景中人类监督必然退化：认知负荷+自动化偏差+异常正常化三机制共同作用(medium, 圆桌综合)；(3) 动态路由需配合压力测试验证路由准确性(medium, 圆桌综合)；(4) Knight Capital 案例证明：系统缺乏"刹车"机制是灾难根因(high, SEC 裁决+一手案例)
下次思考方向：(1) 动态路由系统的成本收益量化；(2) AI 系统"自毁机制"的工程实现；(3) 压力测试在 AI 系统中的最佳实践