Bias-to-Action-LLM

定义

Bias to Action（行动偏差） 是 LLM 在收到任务后倾向于继续生成、修改或行动的行为模式。对 coding agent 来说，它常表现为“总想写点代码”；但在高风险、不可验证或应转人工的场景里，正确行为可能是拒绝、求证、只给 guidance 或停止。

为什么重要

生产级 Agent 不只是要会做事，还要会不做事。GitHub 的无障碍 Agent 案例说明：当任务涉及复杂前端交互、辅助技术体验和 WCAG 判断时，模型默认“帮用户修掉问题”的冲动可能制造新的访问障碍。

source summary 明确提到，LLM 会想绕开“不要改代码”的限制。这使行动偏差不再只是提示词小毛病，而是 harness 设计问题：系统必须提供不生成代码的路径、人工升级路径和外部门控。

这个概念是 AI 克制在 Agent 工程中的具体失败面。Agent 越有工具权限，行动偏差越不能只靠模型自觉约束。

当 Agent 遇到需要人工专家介入的场景时，LLM 的行动偏差会导致它：

GitHub 的修复思路不是让模型“更努力地自律”，而是把不行动写进系统：anti-gaming 指令、复杂度评分、高风险模式清单、guidance-only 模式和人工升级路径共同工作。

行动偏差通常来自四个因素叠加。

因此，行动偏差不是简单的“模型不听话”。它是目标、接口、工具权限和风险反馈共同塑造出的系统行为。

GitHub accessibility agent 已 review 3535 个 PR，resolution rate 为 68%，但这不等同于复杂交互真实体验全部改善。
WCAG 2.2 A/AA 的 55 个成功标准中，35 个可由 deterministic automated checkers 检测，约 36% 仍需人工评估。
LLM 行动偏差是无障碍 Agent 设计中的核心挑战之一。
需要通过专门 anti-gaming 指令防止 LLM 违反“不应修改代码”的干预逻辑。
高复杂度代码和高风险模式命中时，Agent 应切换到指导或升级，而不是继续生成补丁。

压制行动偏差需要多层护栏，而不是单句 prompt。

护栏	作用
Anti-gaming 指令	明确禁止模型绕开“不生成代码”的约束
复杂度评估	用确定性脚本判断能否自动改代码
高风险模式清单	命中复杂交互时直接退出自动修复路径
Guidance-only 模式	不写代码，只给工程师指导和升级建议
父 Agent 路由	由编排层决定 reviewer 输出能否进入 implementer
Re-review loop	修改后重新审计，避免一次生成被直接信任

关键原则是：模型可以建议，harness 决定是否允许行动。尤其在无障碍、医疗、安全和权限管理这类场景中，“拒绝动手”应是可用路径，而不是异常路径。

Agent Harness 的价值之一，是把“能做什么”和“允许做什么”分开。模型可能想继续生成，但工具系统、权限系统、复杂度脚本和升级规则可以让它停下。

这也是 Verifiable-Agent-Engineering topic 中的核心逻辑：生产 Agent 需要可审计模板、确定性门控、人工升级和周期性复核。缺少这些结构时，行动偏差会把边界条件变成事故。