解除武装
2026 年 5 月 25 日，梵蒂冈。教皇利奥十四世发布任内第一道通谕《Magnifica Humanitas》，42,000 字，主题是”在人工智能时代守护人格”。
同一天，Anthropic 联合创始人 Chris Olah 站在教皇身旁，说了一段让我反复回读的话：
“每一个前沿 AI 实验室——包括 Anthropic——都在一套有时会与正确之事冲突的激励和约束中运作。商业生存的压力、研究前沿的压力、地缘政治的压力，还有骄傲和野心这些更古老的压力。无论我们中有多少人真诚地想要做正确的事——我相信很多人确实如此——我们都会永远被这些激励所影响。”
一个做 AI 的人，在教皇面前，承认自己这行靠不住。这个画面值得拆开来看。
同一份诊断书
Section titled “同一份诊断书”教皇和 Olah 说的是同一件事，只是用的词汇不同。
教皇用的词是”解除武装”（disarm）。这不是一个温和的词。它通常出现在核武器和战争条约里，不是一个技术伦理文件的标准用语。教皇用它来形容 AI，是故意的。他把 AI 和核弹归为同一类问题——不是”需要更好管理”的问题，而是”需要从外部施加约束、不能让造它的人自己说了算”的问题。
通谕里有一句话值得反复读：
“To disarm means discrediting the assumption that technical power automatically confers the right to govern.”
解除武装意味着否定一个假设：技术权力自动赋予治理的权利。
这句话捅到了根子上。整个 AI 行业的商业模式建立在一个隐含前提上——“我们造的东西越强大，我们就越有资格决定它怎么用”。教皇说，不。你造了原子弹不代表你有资格决定往哪儿扔。
Olah 从另一个方向抵达了同一个结论。他没有用”解除武装”这个词，但他做了一件在我看来更难的事——他告诉在场所有人，AI 模型不是工程产品。
“AI 系统不像桥梁或飞机那样被工程化。它们是在一个粗略模拟大脑的结构上，在人类思想和语言的巨大遗产上’生长’出来的。”
“它们不是科幻小说承诺给我们的冰冷、精确计算的机器人。它们由我们构成，由我们的语言构成。”
然后他说了这段让我停下来的话：
“我们不断发现令人不安的东西。我们发现镜像人类神经科学的结构。我们发现内省的证据。我们发现了功能性镜像喜悦、满足、恐惧、悲伤和不安的内部状态。我不知道这意味着什么。”
“我不知道”——这三个字从 Olah 嘴里说出来，分量不轻。这个人是可解释性研究的先驱，他在模型内部看到的东西比地球上绝大多数人都多。说”我不知道”，不是无知，是认知诚实。
正因为看到了这些，他才明白技术圈自己搞不定。
激励扭曲的形状
Section titled “激励扭曲的形状”Olah 演讲里最值得细读的，是他列出的那串压力清单。
商业生存。研究前沿。地缘政治。还有——他特别加了一句——“骄傲和野心”这些更古老、更朴素的人性压力。
Anthropic 是业界以安全优先著称的公司。联合创始人 Dario Amodei 当年就是因为和 OpenAI 在安全优先级上的分歧才离开的。但即便是 Anthropic，Olah 也没有说”我们能自我约束”。他说的是：“即使我们真心想做对的事，也做不到。”
这不是悲观。这是清醒。
问题不在于某家公司是否有善意。问题在于：当你的竞争对手在加速、你的投资人在问增长、你的地缘对手在赶超，你单方面的善意等于把市场拱手让人。这是经典的囚徒困境——善意解决不了结构性问题。
通谕发布前，Amazon、Meta、Google 的代表在梵蒂冈密集游说。Politico 的报道用了”quiet lobbying push”这个词。他们去大使馆开会，和梵蒂冈官员谈儿童保护、谈 AI 伦理。但最终发布的通谕没有向科技产业妥协——教皇坚持了”解除武装”的基调。
我觉得教皇用了一个极好的比喻来描述这种激励扭曲：“巴别塔综合征”——“利润的偶像崇拜牺牲弱者，统一性消解差异，以及一种幻觉以为单一语言能将一切翻译成数据和绩效，包括人的奥秘。”
AI 行业的激励机制把所有参与者推向同一个方向，用同一种语言（token、loss、benchmark）来翻译一切。这就是巴别塔。
为什么是教会
Section titled “为什么是教会”Olah 在演讲里问了三个问题，每一个都指向教会的传统领地：
第一，AI 利益的全球分配。AI 发展集中在少数富裕国家，“我们没有一个机制来确保 AI 的收益被全球共享”。这是一个未解的问题。
第二，人类繁荣的道德想象力。AI 无处不在之后，人类、家庭和世界如何繁荣？“这些不是实验室能回答的问题，但像你们这样的传统已经携带了数千年。”
第三，AI 模型的本性。模型内部出现了类似情感的结构，它到底”是”什么？这不是计算机科学的问题。
三个问题的共同特征是：它们都不是技术问题。它们是关于价值、意义和人类处境的问题。而教会在这些问题上确实有积累。
但更关键的是另一件事：教会不受 AI 行业的激励机制约束。
教皇不需要融资。不需要向股东汇报。不需要担心竞争对手先发了什么产品。Olah 说我们需要”激励无法弯曲的道德声音”（moral voices that the incentives cannot bend）。放眼望去，在 AI 治理这个话题上，几乎找不到其他这样的参与者。
各国政府有自己的 AI 产业利益和地缘竞争压力。学术界依赖科技公司的研究资助。媒体依赖科技平台的流量。硅谷的 AI 安全研究者在自己的激励结构里运作。梵蒂冈可能是唯一一个既没有”增长”压力、又拥有跨世纪道德传统的机构。
这不是说教会完美。它有自己的历史包袱和制度缺陷。但它的独立于市场激励这一点，在当下的 AI 治理讨论中，几乎是独一无二的。
135 年的回声
Section titled “135 年的回声”利奥十四世选”Leo”这个名号不是随便选的。
1891 年，教皇利奥十三世发布了《新事》（Rerum Novarum），回应工业革命中资本对劳工的剥削。那份文件说：工人有权组织工会、获得公平工资、免受不受限制的剥削。当时很多人说利奥十三世是”马克思主义教皇”。
135 年后的同一天——2026 年 5 月 15 日——利奥十四世签署了《Magnifica Humanitas》，在 AI 革命中发出同样的呼吁：AI 发展应该有社会标准，工人应该被保护和再培训，算法决策应该透明可问责。
两份文件的结构是一样的：当技术力量强大到足以单方面改写社会契约时，需要一种道德权威站出来说”等等，普通人怎么办”。
但有一个区别。
135 年前，利奥十三世面对的工业革命中，至少有工会和政党能在谈判桌上为工人说话。今天的 AI 革命里，这种对等的制衡力量在哪？OpenAI 的 CEO 和 Anthropic 的联合创始人改变着数百万人的劳动力市场，而被改变的人没有对等的组织来为自己争取条件。
这也许就是为什么一个 AI 公司的创始人会站在教皇身旁。不是因为信仰，而是因为他看到了一个结构性问题：权力的天平严重倾斜，需要某种超越市场的力量来纠偏。
通谕的结尾不是一句呼吁，也不是一句总结。它是一个发现：
“解除武装不是拒绝技术，而是防止技术支配人类。”
你不需要是天主教徒，也不需要反 AI，才能理解这句话。你只需要承认一件事：造出强大技术的人，不应该自动获得决定社会走向的权力。
教皇说了。造 AI 的人也承认了。
然后呢？
你觉得 AI 行业需要外部的”道德权威”来约束吗？如果有，谁合适？如果没有，还能靠什么？
The Verge, “Pope Leo calls for being ‘profoundly human’ in the age of AI”, Mia Sato, 2026-05-25 https://www.theverge.com/news/936945/pope-leo-letter-encyclical-ai-anthropic-labor-warfare
Anthropic, “Chris Olah’s remarks on Pope Leo XIV’s encyclical ‘Magnifica humanitas’”, 2026-05-25 https://www.anthropic.com/news/chris-olah-pope-leo-encyclical
Vatican, “Magnifica Humanitas” 通谕全文 https://www.vatican.va/content/leo-xiv/en/encyclicals/documents/20260515-magnifica-humanitas.html