通过飞书妙搭构建LLMWiki应用的实战指南
楚宁志 2026年4月29日 10:03
用飞书妙搭搭了一套"第二大脑",试了 Karpathy 的 LLM Wiki 思路,发现这件事被想复杂了
先说一个反直觉的结论:
大多数人的 RAG 系统搭错了。
不是技术不行,是方向错了。
01 传统 RAG 的困境:每次都在"重新发明轮子"
你一定见过这种场景:
把一堆文档扔进向量数据库,用户问个问题,LLM 检索相关片段,生成回答。听起来没问题。
但仔细想想—— 每次回答, LLM 都在从零理解这些材料 。没有任何积累,没有任何"记忆"。
问一个需要综合五份文档才能回答的问题?LLM 必须每次都把这五份文档的相关片段重新找出来、拼起来。没有人真的"懂"这些文档之间的关系。
更扎心的是—— 你读过的每一篇文章、做的每一份笔记,对 LLM 来说都是新的。
这就是为什么很多人做了 RAG 之后,觉得"没那么好用"。
02 Karpathy 的思路:让 LLM 当"图书馆管理员"
四月,Karpathy 在 GitHub Gist 里分享了一个他称之为 LLM Wiki 的模式。
思路极其简洁:
与其每次提问时从源文档里检索,不如让 LLM 提前维护一套结构化的 Wiki 。新文档进来 → LLM 读取 → 提取关键信息 → 增量写入 Wiki 页面 → 更新交叉引用 → 标注矛盾点。你提问时,LLM 回答的是 已经被整理过的知识 ,而不是原始碎片。
三层架构:
Raw Sources(源文档) → Wiki(LLM 维护的结构化页面) → Schema(维护规则)
关键在于—— Wiki 是活的,是累积的,是自我更新的。
不是每次问答都在考古,而是知识真正被"编译"了一遍。
03 为什么我选择用飞书妙搭来实现
有人会说:这个思路很好,但实现起来是不是很复杂?
我的答案是: 看你在什么工具里做这件事。
如果你是工程师,自己搭向量库、写 Pipeline、调检索策略——那确实复杂。
但如果换一个思路—— 用 飞书 妙搭作为前端承载,直接在飞书生态里搭建 ,复杂度直接降一个数量级。
原因有三个:
① 源文档天然在 飞书 里 飞书文档就是你的 Raw Sources,不需要额外采集,妙搭可以直接读取。
② 用户不需要任何新工具 员工在飞书里工作,点开妙搭应用就是 Wiki 入口,没有学习成本。
③ LLM Wiki 的核心价值是"界面"和"流程" 不是底层 Infra,用妙搭的对话式交互 + 页面管理能力,足够支撑这套思路的落地。
04 用妙搭搭 LLM Wiki 的最小可行路径
第一步:定义你的 Wiki 结构
不需要一开始就规划完整的知识体系。
先问自己一个问题: 我最常问什么?
比如:
- 我们的产品有哪些核心功能?
- 报销流程是什么?
- 竞品 A 和竞品 B 有什么区别?
这些"高频问题"就是你的第一批 Wiki 页面。
Wiki 页面不需要很多,但要有 交叉引用 ——产品功能页里提到"报销",就链接到报销流程页。
第二步:用妙搭建对话入口
在妙搭里创建一个对话式页面,用户输入问题,LLM 实时回答。
关键区别在这里: 回答的内容不是直接检索出来的,而是 LLM 基于 Wiki 页面综合生成的。
这意味着:
- 答案更连贯、更像"理解后的表达"而不是"拼贴的片段"
- Wiki 页面之间有引用关系,LLM 可以综合多个页面的内容
- 你可以要求 LLM 在回答末尾附上"参考页面",可点击跳转
第三步:建立积累机制
Karpathy 在他的方案里设计了 log.md ——一个时间线日志,记录每一次"消化新文档"和"提问"的事件。
这个设计太重要了。
在你的妙搭 Wiki 里,可以做一个简单的日志面板:
- 某某文档被消化,写入了哪些页面
- 某个问题回答后,用户点击了哪个参考页面
- 哪些问题 Wiki 回答不了(需要补充知识)
这些日志积累一段时间后,你会看到 Wiki 真正在"生长"。
05 一个真实的改变
用上 LLM Wiki 之后,最大的改变不是"答案变快了"。
而是: LLM 开始真的"懂"这家公司了。
以前问"我们今年的重点客户策略是什么",LLM 给出的回答像是从各个文档里随机摘抄的片段。
现在,LLM 给出的回答是结构化的、有逻辑的、有前后引用的——像是读完了所有相关材料之后,用自己的话重新组织了一遍。
这个差距,不是调 Prompt 能弥补的。
这是架构的差距。
06 你不需要复杂的知识库系统
很多企业一想到"AI 知识库",就觉得必须上向量数据库、RAG Pipeline、Embedding 模型调参……
Karpathy 的 LLM Wiki 模式给我们一个重要启发:
知识管理的第一步,不是技术,是"让 LLM 帮你整理"。
飞书妙搭可以让这个过程变得非常简单:
- 你的文档在飞书里
- 你的员工在飞书里
- 你的 LLM Wiki 也可以在飞书里
不需要自建向量库,不需要写 Pipeline,不需要运维复杂系统。
用 Karpathy 的话说: "你负责提供sources,LLM 负责维护 Wiki ,你只管问好问题。"
这件事,没有那么复杂。
作者:楚宁志,企业 AI 转型战略顾问。专注 AI 在企业知识管理、客服、销售等场景的落地实践。
相关阅读:
- Karpathy LLM Wiki 原文
https://gist.github.com/karpathy/442a6bf555914893e9891c11519de94f
AI提效 · 目录
阅读原文
继续滑动看下一个
光之余影
向上滑动看下一个