← 返回博客

「RAG 可以不学了」?做知识库的人不同意

长上下文替代不掉的是人工的知识清洗:新旧规则谁作数、矛盾谁来发现、知识库靠什么评测。做知识库产品的人,说说这件绕不开的活。

rag-hero.png

最近常看到一种说法:还没学 RAG 的,可以不学了。理由是长上下文越来越强,检索增强这套东西正在过时。

如果你正打算给公司整理知识库,听到这话多半想松一口气:是不是把文档全部丢进去就行了?

先交代身份:我做了一个开源知识库工具(琅嬛),算是利益相关,做知识库的人听到这种话,按说应该高兴。但我的看法相反。工具确实一年比一年强,可这件事里最贵的部分,从来不是 RAG 算法,而是把业务知识整理成 AI 能用的样子。这部分是人工活,替代不掉。

旧制度和新制度,哪份作数

企业的资料很少是干净的。规章制度改过很多轮,工作经验散在每个人的电脑里,文档存在网盘、群聊和各种 SaaS 里。把这些原样丢进 RAG,或者当作文本放进文档库,很快会撞上几个很硬的问题。

先说新旧。同一件事,2019 年的制度和 2026 年的制度说的是两套做法,检索的时候两份都会回来。哪份作数?新规则跟旧规则冲突的时候听谁的?这些判断不在文本里,在企业的流程和人的脑子里。大模型可以把两份都读完,但它不知道该信哪份。

再一个是噪音。上下文窗口确实越来越长,但窗口长,不等于注意力均匀。模型对开头和结尾的内容记得清楚,埋在中间的部分容易被略过,这个问题有个名字,叫 lost in the middle。放到企业场景里就是这么回事:检索返回了一大段资料,有用的只有一小段。那一小段要是在中间,模型可能整个跳过它,拿手边的其他内容拼一个看起来合理的答案;更常见的是不相干的内容被一起带进来,把答案带偏。新一代模型在改善这个问题,但趋势没有变:塞进上下文的资料越多,回答越不稳定。所以检索层的活,就是把相关的那几段挑出来送进去,而不是把半个文档库倒进去。

常见的反驳是:这些问题 RAG 工程都有对应方案,给文档标生效日期、加部门过滤、配权限,检索时自然只会取回作数的版本。这些机制确实存在,也有效。但它们有个共同的前提:哪份作数,是业务定的;生效日期,是人标的;过滤条件,是人配的。工具负责执行规则,规则本身没有一条能自动长出来。人工介入没有消失,只是从算法里挪到了治理里。

所以做企业知识库的第一步不是选工具,是人工的知识清洗:哪些还作数,哪些已经作废,哪些只管某个部门。做交付的人在企业里进场干的第一件事通常就是这个。它枯燥、琐碎、反人性,没有哪家企业觉得这件事紧迫,直到 Agent 开始引用一份作废的规定。

rag-inline.png

建库只是第一步,后面要能被评测

我自己做的琅嬛,目前也只做到分块和检索,离「把企业知识整理好」还有距离。往下走,我认为有两件事要做。

一是拆实体关系。把文档里的人、组织、产品、条款之间的关系拆出来,存进图数据库,才能做矛盾检测。新旧规则冲突这种事,靠向量相似度找不到,靠关系图谱能找得到。这条路线可能更适合合同审核这类场景:条款之间互相引用,缺一条关系就漏一个风险。

二是给知识库配评测。知识库不是建完就完的工程,它要跟 Agent 一起跑,跑得对不对,需要持续验证。做法不新鲜:整理二十个必答题和标准答案,知识库每次更新之后跑一遍,看回答是可信还是开始漂移。没有这套东西,你根本不知道今天的知识库是在帮 Agent 还是在害 Agent。

我自己的工具和市面上的知识库产品,都在朝三个方向努力:接得上企业的上下文,给得出可信的评测,让不同场景的企业自己就能把这件事做起来。方向一致,进度都还在半路。

不是每个企业都需要

如果你们公司已经深度使用飞书全家桶,文档、流程、工作产品都在飞书上,知识也只在公司内部流转,员工查制度、问流程,那飞书的线上知识库和它的 AI 问答已经处理得很好。对内这个场景,你不需要再做一套私有知识库,老老实实用平台的能力是性价比最高的选择。

但知识要对外服务时,就是另一回事了。客服机器人、售前机器人跑在你自己的网页和微信里,不在飞书客户端里。飞书开放出来的是数据接口,文档内容拉得出来;可「传一个问题、返回一个基于知识库的答案」这种问答能力,飞书没有作为 API 开放。它给你的官方答案是两个付费产品:服务台,或者 Aily 智能伙伴平台。用它们,问答的编排、渠道和费用都按飞书的框架来。不想进这个框架,就得自己把这一层建起来:把文档从飞书同步出来,清洗,建检索,接给自己的 Agent,再配上评测。市面上「飞书文档同步到 FastGPT」这类项目一大把,说明这么干的企业不止一两家。

更多企业其实在中间:数据不全在某个大平台上,又没到要自建一整套私有化部署的强度。这个位置不是二选一,把最要紧的那部分业务知识整理出来,用轻量的方式接给 AI 用,比两头都够不着强。

要是场景是真正的私有化部署——数据不能出内网,或者需要针对自己业务的定制 Agent——那么知识清洗、实体关系、评测验证,这些活一件都绕不开。这时候「RAG 可以不学了」这句话对你没有帮助,因为你要做的恰恰是这些基础的整理工作。

我的想法

不用从学 RAG 开始。把你公司里一份最旧的制度和一份最新的制度拿出来,放在一张桌上,回答两个问题:现在哪个作数?它们冲突的地方听谁的?

答不上来,你的知识库第一格要填的就是这个。答得上来,再把这两份制度交给工具。工具会越来越好用,但这两问永远有人要答。