物理世界不能靠堆 Token：读加州理工 Anima Anandkumar 谈神经算子与物理大模型

在过去几年的大模型浪潮中，整个 AI 社区几乎被一种“缩放原教旨主义”所席卷：只要堆叠更多的算力、清洗出更大的文本数据集、把 Transformer 的参数拉高一个数量级，模型就能凭借通用能力自发涌现出推理与理解。这种源自 Rich Sutton 经典论断《The Bitter Lesson》（苦涩的教训）的经验法则，在自然语言、代码生成和文生图领域屡试不爽。

然而，当这套打法撞上天气预报、流体力学、材料科学与可控核聚变等真实物理世界时，却遭遇了前所未有的阻力。

加州理工学院 Bren 讲席教授、前 NVIDIA AI 研究负责人、新任联合国科学咨询委员会成员 Anima Anandkumar 在近期 Latent Space 的访谈中给出了一个极为清醒的论断：“我们已经拥有了针对语言的基础模型，但物理世界的基础模型才刚刚拉开序幕。”

物理世界究竟为何对纯数据驱动的暴力缩放产生天然的抗药性？当深度学习脱离了离散 Token 的舒适区，我们该如何用数学严谨性重新构建 AI 对物理规律的理解与设计能力？读完这场深度访谈，我们可以清晰地看到一条迥异于主流 LLM 的科学智能进化路径。

维数灾难：为什么物理世界不能简单复制“苦涩的教训”？

语言大模型的底层逻辑是“离散符号序列”。文本天然是一维的，词与词之间即便存在长程依赖，其离散词表的基数依然是有限的。但在气象、流体、热力学与等离子体物理中，系统的本质特征是连续多尺度（Continuous Multi-Scale）。

在连续物理世界中，微小的微观湍流或边界层效应，会在非线性动力学的作用下迅速放大并决定宏观系统的演化——这就是气象学中著名的蝴蝶效应。如果我们试图用处理自然语言的离散网格思路去硬套物理系统，立刻会面临恐怖的维数灾难：

在工业级高保真物理仿真中，空间三维加上时间一维构成 4D 场。假设每个空间维度仅划分极其基础的 1000 个离散网格点，单帧状态就需要 ^9$ 个点；若展开为时间序列，等效的上下文长度将瞬间达到千亿乃至上万亿（^{11} \sim 10^{12}$）级别。即便调动全球现有的全部 GPU 算力与显存，也无法跑通一个全注意力连接的 Transformer。

更严峻的瓶颈在于数据。我们在探讨大模型时经常谈论万亿 Token 的语料库，但在真实物理世界中，无论是极端天气的卫星观测、高精度风洞实验，还是托卡马克核聚变放电，高保真数据的采集成本都极其高昂。例如，全球气象再分析数据集（ERA5）仅有约 50,000 个历史时间快照样本；聚变反应堆的有效放电数据往往只有几千次。

面对极度稀缺的数据与无限维度的连续空间，纯粹基于统计相关性的经验黑盒必然会在长程外推中迅速失效。正如我们在讨论《缩放定律变成三条之后》时所注意到的，当计算与数据在特定领域遭遇硬边界，盲目扩大参数规模只会带来收益递减。物理大模型破局的关键，不在于等待永远不可能采集齐全的数据，而在于把自然界早已确立的数学与几何结构作为先验写进模型。

算子学习的质变：从 PINNs 到傅里叶神经算子

在 AI 与科学计算结合的早期探索中，物理信息神经网络（PINNs）曾引起广泛关注。PINNs 的做法是将偏微分方程（PDE）的残差直接作为损失函数，强迫网络输出满足方程约束。

但 PINNs 在工业落地中存在致命痛点：它是针对单一方程实例在固定几何网格上的数值逼近。每次遇到新的初始条件、边界参数或外力场，PINNs 都必须从头开始重新求解一次高维非凸优化。在涉及非稳态流动或强湍流的复杂场景下，优化过程极易陷入局部极小而完全无法收敛。

Anima Anandkumar 团队开创的神经算子（Neural Operators），在数学范式上完成了从“求解函数”到“学习算子”的根本跃迁。

普通神经网络学习的是欧氏空间中有限维向量之间的映射，而神经算子学习的是无穷维函数空间到函数空间之间的映射（Mapping between Function Spaces）。这意味着：

网格无关与零样本超分辨率（Zero-Shot Super-Resolution）：神经算子在低分辨率离散数据上训练后，可以在推理阶段直接评估于任意网格密度甚至连续坐标上，无需重新微调。
算子一次性求解：模型训练完成后，针对新的初始场或边界条件，只需一次前向推理即可输出整个连续场的演化解。

其中最具代表性的是傅里叶神经算子（Fourier Neural Operator, FNO）。物理系统中的微分算子虽然在微分形式下是局部的，但其解（如格林函数积分）往往具有强烈的非局部（Non-local）全场相互作用。如果直接在空间域计算全对全注意力，复杂度会随网格点数呈平方级暴增；FNO 极其优雅地利用傅里叶变换将输入映射到频域，在频域通过低频截断的谱卷积实现准线性（Quasi-linear）复杂度的全局积分计算，再通过逆傅里叶变换回到空间域。

结合潜空间的高维非线性升维（Lifting）与残差激活，FNO 既保留了深度学习提取复杂特征的非线性表达力，又完美继承了经典谱方法的高效全局表征。

地球不是平的：当几何对称性成为最强正则化

理论的优美最终需要工业级场景的检验。Anima 团队在 2021 年率先推出的全球数据驱动气象大模型 FourCastNet，成为了这一领域的标志性里程碑。

在传统气象业务中，基于偏微分方程数值解法的数值天气预报（NWP）依赖国家级超级计算机集群进行长达数小时的大规模并行计算。而 FourCastNet 仅用 50,000 个 ERA5 历史样本进行训练，便在 0.25° 的全球高分辨率网格（约 25 公里分辨率）上实现了与欧洲中期天气预报中心（ECMWF）顶尖物理模型相当的预报精度，同时将推理速度提升了数万倍（10,000x–45,000x）。原本需要超算消耗海量电力才能完成的运算，如今在单张消费级 GPU 上仅需数十毫秒即可跑完。

这一突破使算力资源匮乏的全球南方（Global South）中小型气象机构也能拥有全球顶级的气象预测能力，极大推进了科学计算资源的普惠化——这在当今《当两家实验室吞下全球八成算力》的算力超级中心化浪潮下，展现了算法效率革新对抗算力垄断的巨大价值。

然而，从短期天气预报（两周以内）跨越到长期气候模拟（数月乃至数年），AI 模型面临着更残酷的考验。

很多早期的 AI 气象模型将地球表面简单铺展为矩形平面网格进行卷积或 Transformer 计算。在预测未来 3–5 天时，这种近似尚能维持；但当自回归滚动推演（Rollout）进行到数周以上时，两极区域因投影几何变形产生的奇异点会导致数值误差呈指数级累积，模型推演会瞬间发散崩溃。

在最新的 FourCastNet 3 中，研发团队将地球真实的拓扑特性——**球面谐波（Spherical Harmonics）**显式编码进傅里叶神经算子，演进为球面傅里叶神经算子（SFNO）。球面谐波作为球面上的正交基底，天然满足旋转对称性与能量守恒约束。实验证明，融入几何先验后的模型能够稳定自回归推演数月之久，被艾伦人工智能研究所（Ai2）选为目前唯一能够长期稳定运行的全 AI 气候仿真器（Climate Emulator）。

这给整个 AI 社区上了一堂极其生动的工程课：在物理世界中，尊重客观几何对称性并非多余的人工干预，而是抵御长程推演误差爆炸的最强正则化。

从正向仿真到逆向设计：大模型杀入核聚变与芯片制造

如果物理大模型的作用仅仅是“更快地运行仿真”，那么它在科研与工业流程中充其量只是一个高性能计算的加速插件。Anima 在访谈中强调，物理 AI 真正的革命性价值在于从正向仿真（Forward Simulation）跨越到逆向设计（Inverse Design）。

人类工程师在漫长的工业历史中积累了极强的正向分析直觉——给定一个飞行器机翼外形、一块光学透镜或一个核聚变磁场线圈，我们可以通过物理实验或仿真软件计算出其受力、光路或等离子体流动。但工业创新的终极诉求往往是逆向的：给定特定的物理目标（如升阻比最大、光刻误差最小、等离子体完全稳定），反向求解出最优的几何构型与材料分布。

由于高维物理参数空间存在极其复杂的非凸非线性响应，人类直觉在逆向搜索时极易碰壁。而神经算子由于具备全流程可微（Differentiable）的特性，能够直接将传统依赖网格重剖分与海量黑盒试错的寻优过程，转化为端到端的梯度反向传播：

可控核聚变托卡马克等离子体控制：在托卡马克反应堆中，高温等离子体极易发生非线性撕裂模不稳定性，导致等离子体破裂（Disruption）撞击第一壁损坏装置。利用神经算子建立的磁流体动力学（MHD）数字孪生，将仿真速度提升了 100 万倍。毫秒级的超快预测能力使得闭环磁场控制系统能在破裂前兆出现的瞬间动态调整外部磁线圈，为维持受控核聚变的稳态运行提供了坚实基础。
半导体芯片逆向光刻技术（Inverse Lithography）：随着芯片制程进入亚 3nm 节点，光波衍射会导致光刻掩膜图案严重畸变。利用物理神经算子对光学与光刻胶反应进行逆向反演，能在极短时间内生成极其复杂但逼真可制造的掩膜版图。
地质碳封存与多物理场耦合：在将二氧化碳注入地下储层的数十年长期演化中，孔隙流体流动、温度扩散与岩石力学形变紧密耦合。神经算子能够有效模拟复杂多孔介质中的多物理场迁移，精确评估断层活化与泄漏风险。

从被动检验人类设计的性能，到主动探索人类直觉无法企及的最优物理构型，物理大模型正在从“计算工具”升级为“科学发现生成器”。

走出经验黑盒：TorchLean 与关键物理回路的形式化安全

当物理 AI 从离线科研走向飞行器飞控、核反应堆控制与电网调度等现实物理闭环时，工程师们必须面对最后一个终极拷问：我们凭什么信任神经网络的输出？

在互联网推荐或文本生成场景中，99% 的准确率意味着极佳的用户体验；但在核聚变磁约束或飞行器姿态控制中，1% 的未见边界扰动或浮点数下溢，就足以导致价值数十亿美元的设备损毁甚至灾难性事故。

传统深度学习是一个纯粹的经验统计系统，无法提供确定性的数学界限。为此，Anima 团队近期推出了 TorchLean——一个将 PyTorch 风格的张量计算与 Lean 4 交互式定理证明助手深度融合的形式化验证框架。

TorchLean 的核心设计理念是将神经网络同时视为“可执行程序”与“一阶数学对象”。它允许研究人员在定义模型结构的同时，通过 Lean 4 的严密逻辑系统对其关键性质进行形式化机器证明：

可验证鲁棒性（Certified Robustness）：利用 CROWN 线性松弛算法与区间界传播（IBP），在数学上严格证明当输入传感器受到特定范围内的噪声扰动时，输出控制信号的波动绝对不会超出安全阈值。
有限精度数值安全性：形式化分析 IEEE-754 浮点运算在定点或混合精度部署中的舍入误差与溢出风险，确保低功耗边缘芯片上的模型行为与理论预期一致。
李雅普诺夫稳定性保证：为嵌入连续控制系统的神经网络提供闭环渐进稳定的形式化证明证书。

这种“可微学习 + 形式化证明”的双轨结合，标志着科学 AI 正在摆脱被诟病已久的“炼金术”底色，迈向具备数学公理级安全保障的现代严密工程学。

结语：物理世界呼唤有原则的智能

回顾大语言模型的发展历程，其辉煌很大程度上建立在对人类文明已有数字化文本的无损压缩之上。但人类创造的文字符号只是真实宇宙的一个微小投影；那些支配星系运转、气候变迁、生命演化与微观粒子的连续物理规律，从来不会以离散 Token 的形式自我呈现。

Anima Anandkumar 与其团队的探索向我们展示了一种极具启发性的技术远景：物理世界的 Foundation Model 不会是简单扩大上下文窗口的 Transformer，而是将深邃的泛函分析、谱方法、对称性群论与形式化逻辑，有机融入深度学习架构之中的全新物种。

正如 Anima 在访谈中所说的那句总结：“把深度学习所有行之有效的东西保留下来，但请让它们变得更加有原则（principled）。”在告别了盲目堆砌算力的浮躁之后，AI 与严密科学的深度交融，才刚刚迎来它最波澜壮阔的黄金时代。

{如果你手头有一台具备百万倍加速能力的物理仿真大模型，你最希望用它来逆向设计什么？欢迎在评论区分享你的想法。}