人机对齐(Human-AI Alignment)

核心洞察:管理 AI Coding 的底层逻辑与评测 Agent 完全相同——先对齐人的共识,再约束 AI 的行为

定义

人机对齐是从 Agent 评测领域迁移到工程管理的方法论,核心是两个阶段的顺序依赖关系:

  1. 人人对齐:团队成员就工程标准、分层原则、建模方式、依赖边界形成统一共识
  2. 人机对齐:将共识固化为 AI 可执行的约束(Rule、Skill、SOP)

顺序至关重要:先"人人对齐",再"人机对齐"。团队自身没有统一共识时,AI Rule 写得再好也会被不同人解释成不同版本。

机制

为什么顺序不能颠倒?

尝试结果
直接配置 AI Rule,跳过人人对齐不同成员对同一 Rule 产生不同理解,AI 产出依然"千人千面"
先人人对齐,再落地 AI Rule团队共识成为 AI 约束的锚点,产出趋于一致

在 Agent 评测中的原始形态

  • 标准对齐(人人对齐):需要 1 个强有力的角色拉齐产品、运营、算法、QA 等所有角色的评测标准——"1 个独裁者好过 10 个民主者"
  • 人机对齐:评测标准对齐后,通过模型选型和评测指标优化,实现人机一致率达基本阈值(如 90%)

在工程管理中的迁移应用

  • 人人对齐:调研成熟团队规范,结合自身流程,就工程分层规范、业务域模型规约、仓储层规约达成共识
  • 人机对齐:将规范落地为 always 级别的 AI Rule + 渐进式加载的 Skill,约束 AI 编码过程

关键数据点

  • 团队 90%+ 代码由 AI 生成,成员技术背景复杂(高并发、ML、管理后端、实习生)
  • 系统从 5 万行膨胀至 31 万行,月均 16 个需求(80% 业务 + 20% 技术)
  • 通过人机对齐方法论,在不停止业务交付的前提下完成 31 万行代码重构

前提与局限性

  • 前提: 工程规范可以像评测标准一样被形式化为可执行约束。但工程判断中存在大量隐式知识(架构权衡、技术取舍),未必能完全转化为显式 Rule
  • 前提: 需要一个"强有力的角色"推动共识形成。民主讨论可能导致无法收敛
  • 边界条件: 适用于 AI 生成代码占比高的团队。纯人工编码团队中,规范更多是协作建议而非硬约束
  • 局限性: 该方法论来自 Agent 评测领域,跨域迁移到工程管理的成功案例目前仅见于美团这一篇

关联概念

  • Agentic-Engineering - 人机对齐是 Agentic Engineering 的组织层实现:人定义约束,AI 执行
  • Vibe-Coding - 人机对齐是对 Vibe Coding 失控状态的纠偏:从"氛围驱动"到"约束驱动"
  • Knowledge-Work - AI 消灭知识获取壁垒后,"判断什么重要"成为人的核心价值——这正是人人对齐要解决的问题
  • Technical-Debt-Avoidance - 人机对齐的工程目标之一:通过规范约束阻止系统长新债
  • Harness-Engineering - 人机对齐是 Harness Engineering 的组织基础:没有人的共识,无法构建有效的工程约束系统