Policy on the AI Exponential
编译摘要
1. 浓缩
- 核心结论1: AI 指数级进步与政策蜗牛速度的矛盾需要从"保持选择权"升级为绑定性监管
- 关键证据: 四年内 AI 从"写不好一行代码"到"写出大公司大部分代码"；Mythos Preview 证明 AI 已是"全球和国家战略级别工具"
- 核心结论2: 前沿 AI 模型应像飞机一样接受 FAA 式技术测试和审计，政府有权阻断不安全部署
- 关键证据: 触发门槛为模型 >10²⁵ FLOP + 公司 >
$500M AI 收入或 >$1B AI R&D 支出；民事处罚与全球年收入挂钩并随违规递增
- 核心结论3: 四类灾难性风险需要优先监管：生物武器、网络攻击、AI 失控、自动化研发
- 关键证据: 每类风险都有具体的韧性措施建议（基因合成筛查、网络基础设施硬化、自主武器禁令、AI 供应链管控）
2. 质疑
- 关于 FLOP 阈值的质疑: 10²⁵ FLOP 是否能准确区分危险模型？随着训练效率提升，这个阈值可能过时。文章承认需要随时间调整为基于能力的阈值
- 关于执行机制的质疑: 政府阻断部署的权力如何防止政治化或过度干预？文章提出的"法院执行 + 限定裁量权 + 司法审查"是否足够？
- 关于民主联盟的质疑: 将 AI 地缘政治类比核武器是否准确？AI 技术扩散速度远快于核武器，联盟管控是否可行？
- 关于就业影响的质疑: 文章承认 AI 可能导致"持久性就业替代"，但提出的对策（UBI、工资保险）是否能在政治上实现？
3. 对标
- 跨域关联1: 类似核不扩散条约（NPT）的多边框架——但 AI 技术更易扩散，管控难度更大
- 跨域关联2: 类似 pharmaceutical regulation 的 FDA 模式——先测试后上市，但 AI 迭代速度远超药物研发
- 跨域关联3: 类似 Collingridge 困境的经典案例——技术影响难以预见直到难以管理
关联概念