LLM Wiki 方法论深度研究报告

967 字

LLM Wiki 方法论深度研究报告

基于方夏 AI 研究 Wiki 中 18 篇相关来源的综合分析
报告日期:2026-06-12
核心来源:《深度解析 LLM Wiki / Obsidian-Wiki / GBrain》《LLM 打造全自动个人知识库》《OpenHuman: Memory Tree + Obsidian Wiki》《Karpathy Software 3.0》等


一、执行摘要

LLM Wiki 是 Andrej Karpathy(OpenAI 联合创始人)提出的一种反 RAG 的知识管理范式:不是让大模型在查询时临时检索,而是让 LLM 充当"编译器"——在查询前将原始资料一次性编译成结构化的 Markdown Wiki。这一理念在 2026 年上半年引发了从理论到工程实践的完整生态演化,催生了 GBrain(Y Combinator CEO Garry Tan)、OpenHuman(GitHub 19k star)、以及 OpenClaw/Hermes Agent 内置的知识管理体系。

本报告从 AI 研究 Wiki 的 18 篇相关来源中提炼出 LLM Wiki 的完整方法论图谱,涵盖核心理念、技术架构、生态演化、与传统 RAG 的对比、以及实践建议。


二、核心理念:"LLM-as-Compiler"

2.1 一句话定义

"The insight is that the LLM should compile a wiki incrementally, rather than be asked to retrieve at query time."
— Andrej Karpathy

LLM Wiki 的核心洞察是:把 LLM 从"检索器"升级为"编译器"

传统的 RAG(检索增强生成)在每次查询时从头搜索原始文档,然后拼接上下文送给 LLM。LLM Wiki 反转了这个流程——昂贵的阅读、综合、交叉引用工作在查询前一次性完成,查询时面对的是已经预编译好的结构化知识。

2.2 为什么是"编译"而不是"检索"

维度 传统 RAG LLM Wiki
核心操作 查询时检索 + 拼接 提前编译 + 查询时直接读
成本分布 每次查询都消耗算力 一次性 ingest 成本高,之后查询极轻
知识质量 取决于检索算法和 chunk 策略 LLM 阅读理解 + 交叉引用 + 矛盾标注
可审查性 embedding 黑盒 纯 Markdown,100% 可读可编辑
知识累积 文档堆积,质量不增 持续增长、去重、结构化
错误修复 需改原始文档或调参数 直接编辑 .md 文件

2.3 与 Karpathy 更大叙事的关联

LLM Wiki 不是孤立项目,它嵌入 Karpathy 的 Software 3.0 框架:

  • Software 1.0:程序员显式编写规则代码
  • Software 2.0:神经网络从数据中学习权重
  • Software 3.0:用自然语言(Prompt)编程,Context Window 是新的编程环境

LLM Wiki 本质上是 Software 3.0 在知识管理领域的应用:你通过 Schema 文件(如 CLAUDE.md)用自然语言定义知识组织规则,LLM 按照这些规则"编译"出结构化知识库。


三、三层架构

LLM Wiki 的技术架构简洁而有力,分三层:

vault/
├── raw/                    ← 原始层:只追加,不改写
│   ├── articles/           ← 文章、论文、转录稿
│   ├── notes/              ← 快速笔记、想法片段
│   └── assets/             ← 图片、附件
├── wiki/                   ← Wiki 层:LLM 生成和维护
│   ├── index.md            ← 目录(每次 Ingest 后更新)
│   ├── log.md              ← 操作日志(追加)
│   ├── concepts/           ← 概念页(每个核心概念一个文件)
│   ├── entities/           ← 实体页(人、组织、项目)
│   └── sources/            ← 来源页(每条原始资料一个摘要页)
└── CLAUDE.md               ← Schema 层:规则和约定

3.1 原始层(raw/)

  • 只追加原则:原始资料一旦放入不做修改
  • 格式宽容:接受 .md、.pdf、.docx、网页剪藏
  • 工具支持:Obsidian Web Clipper 一键网页转 Markdown

3.2 Wiki 层(wiki/)

LLM 是这层的唯一作者(人类可以编辑但通常不手动写):

  • sources/:每篇原始资料一个摘要页,提取核心论点和关键结论
  • concepts/:每个核心概念一个页面,带有来源引用和交叉引用
  • entities/:人物、组织、产品、项目的专属页面
  • index.md:全局目录,Ingest 后自动更新
  • log.md:每次操作的执行日志

3.3 Schema 层(CLAUDE.md)

这是人与 LLM 之间的"合约文件"——用自然语言定义:

  • 命名约定(文件名格式、中英文处理)
  • 页面模板(概念页/来源页/实体页的标准结构)
  • 质量标准(引用完整性、断链检查)
  • 工作流规则(Ingest 步骤、Lint 规则)

四、四大工作流

4.1 Ingest(摄入/编译)

这是 LLM Wiki 最核心的操作:

  1. raw/articles/ 读取新文件
  2. 为每个文件创建 wiki/sources/ 下的来源页
  3. 提取核心概念,创建/更新概念页
  4. 提取人物/组织,创建/更新实体页
  5. 建立交叉引用([wiki/...](/wiki/wiki/...) wikilink)
  6. 更新 wiki/index.md
  7. 追加到 wiki/log.md

关键特征

  • 增量式——每次只处理新增文件
  • 概念/实体页会被反复更新(随着新资料加入而增厚)
  • 交叉引用自动建立(知识图谱的文本等价物)

4.2 Query(查询)

查询时 LLM 直接读取预编译好的 Wiki,而非翻原始文档:

  1. 读取 wiki/index.md 了解目录
  2. 定位相关页面并读取
  3. 综合回答,标注来源引用
  4. 可选:将问答保存为新 wiki 页面

优势:比 RAG 更快、更准、更可解释。不需要 embedding 模型和向量数据库。

4.3 Lint(质量检查)

LLM 周期性巡检知识库质量:

  1. 检查 [wiki/...](/wiki/wiki/...) 引用是否有效(断链检测)
  2. 检查孤立页面(无入向引用)
  3. 检查跨页面矛盾
  4. 检查过时信息
  5. 报告结果并建议修复

4.4 Compile(编译/更新索引)

Ingest 后自动执行:更新 index.md、更新受影响的跨页面引用。


五、生态演化:从理念到产品

5.1 GBrain(Garry Tan,Y Combinator CEO)

GBrain 是 LLM Wiki 理念的更工程化版本

  • 思想与 LLM-Wiki 类似,但加入了更多自动化管道
  • 强调知识的"自组织"与"自进化"
  • 面向 YC 创业生态的高密度信息网络

5.2 OpenHuman(GitHub 19k star)

OpenHuman 把 Karpathy 的推文工程化成了可安装的桌面 Agent

核心创新:Memory Tree + Obsidian Wiki

  • 所有数据(邮件、文档、聊天、commit)被切成 ≤3k token 的 Markdown 块
  • 打分后折叠成层级摘要树,存在本地 SQLite
  • 同样的 chunk 以 .md 文件落入 Obsidian-compatible vault
  • 20 分钟自动同步:agent 早晨打开就知道你今天的日程和昨天的 commit

三大差异化设计

  1. 主动认识你:不等你教,118 个 OAuth 集成 + 每 20 分钟 auto-fetch
  2. Memory Tree 三层架构:来源树 / 主题树 / 全局树
  3. TokenJuice 压缩中间层:HTML→Markdown、URL缩短、去重 + 摘要,成本降 80%

创始人 @senamakel 的一句话概括:"It becomes you, controlled by you."

5.3 OpenClaw/Hermes 生态

在 Agent 框架中,LLM Wiki 方法论落地为两个核心机制:

Skill 机制(经验性知识)

  • 本质是结构化的经验沉淀
  • 告诉 Agent "在这个场景下,按什么步骤、用什么工具"
  • 可自动沉淀(但触发时机可控性较低)

知识库机制(事实性知识)

  • OpenClaw 的 Workspace:MEMORY.md + SOUL.md + daily-notes/
  • 与 Obsidian 双向同步
  • "编译"而非"检索"——与 Karpathy 理念一致

5.4 三种知识库加载方式对比

针对 Agent 加载本地知识库,当前生态已形成三种主流方案:

方案 适用规模 优势 劣势
QMD(WASM 轻量向量库) 个人 / 百万字级 零配置、双重检索(BM25+语义)、端侧友好 千万级性能抖动
传统 VectorDB(Chroma/Milvus) 企业 / 千万-亿级 多维过滤、稳定性 维护成本高
Mem0g(Graph RAG 知识图谱) 复杂推理 逻辑推理强、跨文档关联 构建极慢、门槛高

LLM Wiki 的定位:轻量级 + 高可读性 + 无黑盒,适合个人知识工作者和深度研究型场景。


六、知识工程 vs 提示工程

来源文章提出了一个关键的二元划分:

Prompt Engineering Knowledge Engineering
核心问题 "完成什么任务" "应该知道什么" && "如何运用已知"
输出物 Prompt / System Message Schema 文件 + 结构化 Wiki
知识类型 即时指令 经验性知识 + 事实性知识
可持续性 一次性使用 持续累积、增厚

核心洞察:Knowledge Engineering 是影响 Prompt、Context、Harness 的关键上游,但被行业讨论得最少。LLM Wiki 的 Schema 文件(CLAUDE.md)就是 Knowledge Engineering 的典型产出——它用自然语言定义知识的组织规则。


七、格式之争:Markdown / HTML / SVG 三层分工

LLM Wiki 引发的另一个讨论是:AI 输出的最佳格式是什么?

结论:三层框架

格式 场景
后台/内部 Markdown Agent 记忆文件、Skill 文档、Prompt、协议传递
文档输出 HTML 需求文档、研究报告、代码审查、交互原型
视觉输出 SVG 架构图、信息图、卡片图、知识图谱

Markdown 在 AI 知识管理中的地位稳固——"模型学到的关联是 Markdown = 认真、结构化、专业"。但 AI 的最终输出越来越不是文档形态,SVG 让 AI 第一次有能力"直接出图"。


八、人类角色转变

LLM Wiki 重新定义了知识管理中人与 AI 的分工:

人类负责 LLM 负责
决定加什么资料 阅读和综合原始资料
提出好问题 创建和更新 Wiki 页面
在 Schema 中设定规则 建立交叉引用
审查 LLM 的输出 标记矛盾点
添加个人笔记 维持数十页之间的一致性
每次 Ingest 后更新索引

核心变化:人类从"知识的组织者"变成了"知识的策展人"。你只管"堆知识"和"提问题",繁琐的梳理、去重、关联交给 LLM。


九、实践建议

9.1 上手路径

  1. 最小可用:创建一个 Obsidian vault + 一个 CLAUDE.md + raw/ 目录
  2. 首批 Ingest:选 10-20 篇核心文章,建立骨架概念页
  3. 安装 Obsidian Web Clipper:一键收集网页到 raw/
  4. 定期 Lint:每 10-15 篇新资料后跑一次质量检查
  5. Schema 共同演化:随 Wiki 增长调整 CLAUDE.md

9.2 避坑指南

  • 不要追求完美:先建立骨架,逐步深化
  • 源头质量决定一切:精挑细选 100 篇高质量文章 > 1000 篇垃圾
  • 善用 Graph View:Obsidian 图谱不是装饰,它能发现连接断裂
  • 概念页和实体页要分开:前者是"what",后者是"who/where"
  • log.md 必须维护:每次操作留痕,便于回溯

9.3 规模化路径

当 Wiki 超过 100 个来源页时,考虑:

  • 按主题分子批次 Ingest(并行子代理处理)
  • 定期 Compile 索引
  • 考虑引入 embedding 辅助检索(混合 RAG 方案)
  • 但核心仍保持 Markdown 可读性(不做纯黑盒向量化)

十、方夏实践案例

方夏的 AI 研究 Wiki 是 LLM Wiki 方法论的一个大规模实践样本:

指标 数值
原始文件(raw/) 915 个 .md + 266 个 .docx + 其他
镜像文件(wiki/raw/mirror/) 1,185 个
来源页(wiki/sources/) 521 个
概念页(wiki/concepts/) 29 个
实体页(wiki/entities/) 73 个
总计 623 个 Wiki 页面

关键经验

  1. 并行子代理 Ingest:915 个文件分 4 批并行处理,15 分钟内完成
  2. 月度/字母分组批量页:避免为 915 个文件逐一建页的爆炸问题
  3. 主题分类 13 个维度:AI 技术、开发工具、文学影视、新能源、历史文化、地缘政治、企业管理、经济金融、健康医疗、社会观察、人物方法论、供应链、平台经济
  4. 持续维护:index.md + log.md 每次 Ingest 后同步更新
  5. 与 Obsidian 协同:所有 Wikilink 在 Obsidian 中可视化

十一、结论与展望

LLM Wiki 方法论代表了一个范式转变:从"AI 帮你搜索"到"AI 帮你思考"

短期(2026 下半年)可预见的演进方向:

  1. 自动 Schema 生成:LLM 根据 raw/ 内容自动推荐分类体系
  2. 多 Wiki 联邦:跨主题 Wiki 的交叉引用(方夏的 AI 研究 Wiki + 区块链 Wiki + 物流 Wiki 已初具雏形)
  3. "编译"即服务:云端的定时 Ingest 服务 + 本地 Obsidian 查看
  4. 混合检索:LLM Wiki + embedding 辅助召回,取长补短

长期来看,LLM Wiki 是 Software 3.0 时代知识管理的自然形态:Markdown 是新时代的知识汇编语言,Schema 文件是知识编译器,Wiki 是预编译的知识产物。


附录:核心来源页清单

来源页 标题 核心贡献
wx-48xpgamheakyj26p 深度解析 LLM Wiki / Obsidian-Wiki / GBrain 方法论核心,知识工程 vs 提示工程
wx-vktdum1wkr9j3svh LLM 打造全自动个人知识库 五步搭建方法论
wx-rtu4iywvej-hbwn1 OpenHuman: Memory Tree + Obsidian Wiki 工程化实现,19k star
wx-_c5qt0gvvitu6u-o OpenHuman:第三个开源 AI Agent 主动认识你的架构差异
wx-ab_dbrinxk8wnswv Karpathy: Vibe Coding 已死, Software 3.0 Karpathy 思想大框架
wx-lz6icry1ynnxqq9t Markdown/HTML/SVG 格式之争 AI 输出格式的三层分工
wx-vev_hhi05-h1y7xv OpenClaw 知识库加载攻略 QMD / VectorDB / Mem0g 三种方案对比
wx-hvizuucsy8rwfour Spec-Driven Development 与 LLM Wiki 的方法论呼应
openclaw-notes-2026-06-batch 6 月研读笔记 Karpathy Software 3.0 + Skill 本质
openclaw-notes-2026-04-batch 4 月研读笔记 Karpathy "10亿参数" 判断
workspace-memory(概念页) Workspace 与记忆系统 "编译而非检索"理念

本报告基于 AI 研究 Wiki 的 yhf-llm-wiki 方法论(Karpathy LLM Wiki Skill)整理生成。
报告路径:~/文档/LLM-Wiki方法论深度研究报告-2026-06-12.md