Ghost Intelligence（幽灵智能）
定义
把 LLM 理解为由预训练和强化学习塑造的统计模拟能力，而不是具有内在动机和主观体验的动物智能
为什么重要
Ghost Intelligence 是 Karpathy 用来校准 LLM 预期的隐喻。它提醒我们：LLM 可以在统计空间里召唤出强能力剖面，却不等于有动物式动机、好奇心、恐惧、责任感或主观体验。
这能解释两个看似矛盾的事实：模型可以重构大型代码库、发现漏洞、完成复杂任务；同时也可能在简单常识、责任判断和分布外场景中犯低级错误。它不是"假智能"，而是不同于动物智能的统计智能。
对 Agent 设计来说，这个隐喻很实用。不能靠责骂、鼓励或拟人化期望让模型负责；必须通过工具、验证、权限、上下文和 AI-Restraint 设计来约束它。
关键数据点
- Ghosts vs Animals：动物智能有进化形成的驱动力，LLM 则是预训练和 RL 塑造的统计模拟系统。
- 可召唤性：提示词和上下文会召唤某种能力剖面，但这种能力不是稳定人格或持续意图。
- Sensors and Actuators：Agent 通过工具感知和作用世界，传感器和执行器由人类设计。
- 与锯齿智能关系：统计训练和可验证 reward 使能力分布不均，形成 Jagged-Intelligence。
- 与 AI Psychosis 关系：深度用户看到幽灵在高峰任务上的表现，容易产生强烈震撼。
设计启示
- 不要把 LLM 当作有内在责任感的同事，应当把它当作需要约束的能力场。
- 不要用人类心理动机解释模型失败，要看训练分布、工具权限、上下文、验证和奖励信号。
- 不要让模型独自承担不可逆决策，必须提供外部验证和升级路径。
- 不要用一次高峰表现推断全局能力，应结合 Jagged-Intelligence 评估具体任务。
前提与局限性
- 隐喻边界：幽灵是解释框架，不是严格科学分类。
- 能力边界：该隐喻不否认 LLM 在可验证任务上的强能力，只反对把强能力误读为类人心智。
- 演化边界：如果未来训练能覆盖更多动机、长期目标和审美评价，幽灵隐喻的适用范围可能变化。
- 治理边界：即使模型没有主观体验，它仍可能产生真实世界后果，因此不能用"只是统计"逃避责任设计。
关联概念
- Jagged-Intelligence — 幽灵的统计本质导致锯齿状能力分布
- Verifiability — 幽灵的强化来源：外部验证信号
- AI-Psychosis — 把幽灵误当作动物智能使用时的震撼感
- AI-Capability-Gap — 不同人对幽灵本质的理解差异造成认知鸿沟
- AI-Restraint — 幽灵智能需要被设计出停手和求证机制