Karpathy AI 思想体系

核心洞察:从 Software 2.0 到 AI Psychosis,Karpathy 系统性地定义了 AI 时代的编程范式、能力鸿沟和知识管理范式。


思想演进路径

Software 2.0 (2017)
    ↓ 编程范式转变
Vibe Coding (2025)
    ↓ 编程实践方式
LLM Wiki (2026)
    ↓ 知识管理范式
Eureka Labs (2024)
    ↓ AI 教育实践

核心概念矩阵

概念提出时间核心定义与其他概念的关系
Software-2.02017程序员写目标,神经网络编程基础范式,定义 AI 编程时代
Vibe-Coding2025忘记代码存在,氛围驱动编程Software 2.0 的极端实践
LLM Wiki2026LLM 维护的持久知识库Software 2.0 的知识管理应用
Memex1945 (引用)个人知识存储 + 关联路径LLM Wiki 的思想先驱
AI-Capability-Gap2026不同用户群体因 AI 能力体验差异形成平行认知现实编程 vs 日常使用
AI-Psychosis2026专业技术用户对 agentic AI 编程能力的极度震撼AI-Capability-Gap 的高端端

Software 2.0:范式转变

核心论点

"The 'program' is the weights of the neural network... the 'compiler' is the optimizer... the 'source code' is the dataset."

转变的本质

维度Software 1.0Software 2.0
程序员工作写代码逻辑写目标和数据
程序来源人类编写神经网络学习
可读性可读源代码黑盒权重
调试方式断点调试数据清洗
版本控制GitCheckpoint

影响

Software 2.0 定义了:

  • 深度学习时代的编程范式
  • Tesla Autopilot、ChatGPT 等系统的基础理念
  • 程序员角色的转变方向

Vibe Coding:实践方式

定义

"I just see things, say things, run things, and copy paste things, and it mostly works."

特征

  • 忘记代码存在 — 不关心实现细节
  • 原型质量 — 快速产出,不追求生产级
  • 未经审查 — 直接使用 AI 输出
  • 氛围驱动 — 凭直觉迭代

与 Agentic Engineering 的对比

参见 Agentic-Engineering

维度Vibe CodingAgentic Engineering
代码质量原型级生产级
审查程度深度审查
验证方式凭感觉自动测试
心态"忘记代码"验证和迭代

LLM Wiki:知识管理范式

核心差异:RAG vs Wiki

参见 RAG-vs-LLM-Wiki

维度RAGLLM Wiki
知识处理实时检索预先编译
知识累积持久沉淀
维护者人类(易厌倦)LLM(不知疲倦)

三层架构

Raw Sources (不可变)
    ↓ [[Knowledge-Compilation]]
Wiki (LLM 维护)
    ↓
Schema (人类 + LLM 共进化)

关键比喻

Karpathy 的精妙比喻

"Obsidian is the IDE; the LLM is the programmer; the wiki is the codebase."

这揭示了:

  • Obsidian — 存储设备(Memex 实现)
  • LLM — 维护者(解决 Bush 的难题)
  • Wiki — 知识代码库(associative trails)

Memex:思想渊源

参见 Memex

Karpathy 明确指出 LLM Wiki 与 Memex 的关系:

"The idea is related in spirit to Vannevar Bush's Memex (1945) — a personal, curated knowledge store with associative trails between documents. The part he couldn't solve was who does the maintenance. The LLM handles that."

历史对话

问题Memex (1945)LLM Wiki (2026)
如何存储个人知识?机械设备Obsidian vault
如何创建关联?人工路径自动 wikilinks
谁来维护?❌ 未解决✅ LLM

在本知识库中的体现

相关 Entities

相关 Comparisons

Raw Sources


内容创作3.0:从 Runtime RAG 到 Compile-time Wiki

饼干哥哥基于 Karpathy 方案的实战升级,将知识管理系统从"2.0 自动化创作"升级为"3.0 知识编译"

2.0 vs 3.0 的本质区别

维度2.0 Runtime RAG3.0 Compile-time Wiki
知识处理每次写作时现搜现读预先编译为结构化 Wiki
答案稳定性同一问题可能不同答案固定不变的知识资产
知识累积持久沉淀
维护成本每次重复检索成本一次编译,后续免费
典型工具NotebookLM、ChatGPT 文件上传Obsidian + LLM Agent

2.0 的天花板

  • 200+ 篇资料,同一个问题问两次答案不一样
  • 37 处概念定义冲突
  • 4 处事实矛盾
  • 60+ 篇文章从未被引用(收藏后无人问津)
  • 创作链路自动化,但知识库仍是"信息垃圾场"

3.0 的突破

核心升级:AI 不再只是执行写作指令,而是持续编译、维护、进化整个知识资产。

关键差异

  • 矛盾标记:不同文章的观点冲突会被显式标注
  • 增量更新:新资料加入时自动合并到已有概念
  • 跨域洞察:"对标"步骤发现跨领域的类似现象
  • 维护成本:LLM 可以一次操作修改 15+ 文件,不会有遗漏

饼干哥哥的实践成果

  • 变现:一篇文章带来 20 万销售额
  • 效率:管理 4 个公众号矩阵,35 个 AI 技能包覆盖完整创作链路
  • 质量:AI 质疑步骤发现"转化率提升40%"的前提是"目标市场是北美"

1945 vs 2026

  • Vannevar Bush:私人知识库 Memex —— 没解决的是"谁来维护?"
  • LLM:80 年后终于解决了维护问题

思想体系图谱

graph TD
    Software20[Software 2.0] --> VibeCoding[Vibe Coding]
    Software20 --> LLMWiki[LLM Wiki]
    VibeCoding --> |实践方式| AgenticEng[Agentic Engineering]
    LLMWiki --> |知识管理| KnowledgeCompilation[Knowledge Compilation]
    Memex[Memex 1945] --> |思想先驱| LLMWiki
    Karpathy[Andrej Karpathy] --> Software20
    Karpathy --> VibeCoding
    Karpathy --> LLMWiki

外部资源


本 Topic 页面由 LLM Wiki 编译流程生成,整合 Andrej Karpathy 的核心 AI 思想。