Collingridge Dilemma

定义

David Collingridge (1980) 提出的技术控制困境：在技术早期，其社会影响难以预见，因此难以制定有效政策；等到影响清晰时，技术已深深嵌入社会，改变变得极其困难。

关键数据点

• 提出时间: 1980 年，《The Social Control of Technology》
• 核心悖论: 信息不对称 — 早期有控制力但缺信息，后期有信息但缺控制力
• AI 领域体现: 2023-2024 年 AI 风险形态不明，立法可能无效；2026 年风险清晰但 AI 已深度嵌入经济
• Dario Amodei 引用: 作为"为什么早期只能做透明度，现在必须做绑定性监管"的核心论据

前提与局限性

• 前提:
  1. 技术发展速度快于社会理解和制度响应
  2. 技术影响具有路径依赖性，早期选择难以逆转
  3. 监管者面临信息不足和行动时机的双重约束
• 局限性:
  1. 并非所有技术都严格遵循此困境，有些影响可较早预见
  2. 透明度要求可以部分缓解信息不对称
  3. 模块化和可逆设计可以降低后期调整成本

关联概念

• N-Hour — AI 漏洞利用速度加速了 Collingridge 困境的时间尺度
• Frontier-Developer-Obligations — 通过强制透明度和测试来缓解信息不对称
• AI-Policy-Framework — 在风险清晰后立即升级监管框架
• Custom-Policy-Guardrails — 企业自愿治理框架作为立法前的过渡