人机对齐(Human-AI Alignment)
核心洞察:管理 AI Coding 的底层逻辑与评测 Agent 完全相同——先对齐人的共识,再约束 AI 的行为
定义
人机对齐是从 Agent 评测领域迁移到工程管理的方法论,核心是两个阶段的顺序依赖关系:
- 人人对齐:团队成员就工程标准、分层原则、建模方式、依赖边界形成统一共识
- 人机对齐:将共识固化为 AI 可执行的约束(Rule、Skill、SOP)
顺序至关重要:先"人人对齐",再"人机对齐"。团队自身没有统一共识时,AI Rule 写得再好也会被不同人解释成不同版本。
机制
为什么顺序不能颠倒?
| 尝试 | 结果 |
|---|---|
| 直接配置 AI Rule,跳过人人对齐 | 不同成员对同一 Rule 产生不同理解,AI 产出依然"千人千面" |
| 先人人对齐,再落地 AI Rule | 团队共识成为 AI 约束的锚点,产出趋于一致 |
在 Agent 评测中的原始形态
- 标准对齐(人人对齐):需要 1 个强有力的角色拉齐产品、运营、算法、QA 等所有角色的评测标准——"1 个独裁者好过 10 个民主者"
- 人机对齐:评测标准对齐后,通过模型选型和评测指标优化,实现人机一致率达基本阈值(如 90%)
在工程管理中的迁移应用
- 人人对齐:调研成熟团队规范,结合自身流程,就工程分层规范、业务域模型规约、仓储层规约达成共识
- 人机对齐:将规范落地为 always 级别的 AI Rule + 渐进式加载的 Skill,约束 AI 编码过程
关键数据点
- 团队 90%+ 代码由 AI 生成,成员技术背景复杂(高并发、ML、管理后端、实习生)
- 系统从 5 万行膨胀至 31 万行,月均 16 个需求(80% 业务 + 20% 技术)
- 通过人机对齐方法论,在不停止业务交付的前提下完成 31 万行代码重构
前提与局限性
- 前提: 工程规范可以像评测标准一样被形式化为可执行约束。但工程判断中存在大量隐式知识(架构权衡、技术取舍),未必能完全转化为显式 Rule
- 前提: 需要一个"强有力的角色"推动共识形成。民主讨论可能导致无法收敛
- 边界条件: 适用于 AI 生成代码占比高的团队。纯人工编码团队中,规范更多是协作建议而非硬约束
- 局限性: 该方法论来自 Agent 评测领域,跨域迁移到工程管理的成功案例目前仅见于美团这一篇
关联概念
- Agentic-Engineering - 人机对齐是 Agentic Engineering 的组织层实现:人定义约束,AI 执行
- Vibe-Coding - 人机对齐是对 Vibe Coding 失控状态的纠偏:从"氛围驱动"到"约束驱动"
- Knowledge-Work - AI 消灭知识获取壁垒后,"判断什么重要"成为人的核心价值——这正是人人对齐要解决的问题
- Technical-Debt-Avoidance - 人机对齐的工程目标之一:通过规范约束阻止系统长新债
- Harness-Engineering - 人机对齐是 Harness Engineering 的组织基础:没有人的共识,无法构建有效的工程约束系统