AI · PB · 499
RAG数据准备技巧
RAG Data Preparation Techniques · rag-data-preparation-techniques--chip-huyen
所属簇 模型技术素养
解决什么问题
RAG(检索增强生成)应用效果不好时,该往哪里投入精力提升——她的核心主张是:多数公司 RAG 效果的最大瓶颈来自数据准备,而不是向量数据库选型。
核心内容
她明确指出:"在我见过的很多公司里,RAG 方案里最大的性能提升都来自更好的数据准备,而不是纠结用哪个向量数据库"(向量数据库更多影响延迟、读写模式这类工程属性,但不是答案质量的主要瓶颈)。具体技术手段:
- chunk 大小的权衡设计:chunk 太长,检索到一个块就包含了过多不相关信息,检索精度下降;chunk 太短,虽然检索范围广,但单个 chunk 可能缺乏足够上下文来回答问题。需要针对具体场景专门设计 chunk 大小。
- 补充上下文元数据:给每个 chunk 附加摘要、元数据,帮助模型判断这个 chunk 和查询的相关性——原始文档往往结构混乱(例如文档开头定义了一个术语,后面章节引用该术语时不会重复定义,chunk 之后就丢失了这层关联)。
- 假设性问题(hypothetical questions):为每个 chunk 预生成一批"这个 chunk 能回答的问题",检索时拿用户的查询去匹配这些假设问题,而不是直接匹配原文。
- 重写为问答格式:把原始内容(如播客文字稿)用 AI 重写成"问题-答案"对的形式,而不是简单切块——有从业者反馈这是他们获得的最大单项性能提升。
- 为 AI 阅读单独加一层注释:人类写的文档默认读者有常识/领域背景(例如"某个函数输出的温度值应为 -1 到 1 之间",人类专家懂这个刻度含义,但 AI 不懂),需要专门为 AI 检索场景补一层解释性注释,而不能直接复用面向人类读者的文档。
适用边界
这些技巧主要针对文本类 RAG;她提到还有 agentic RAG、多模态 RAG 等更复杂的形态未展开。数据准备投入的性价比,在原始文档结构混乱(如内部 wiki、跨章节引用多)的场景下最高;如果原始语料本身就是类似维基百科词条那样自包含、边界清晰的内容,数据准备的收益会相对有限。
关键引述 · 原话
"in a lot of the companies that I have seen, that's the biggest performance [gain] in their RAG solutions coming from better data preparations, not agonizing over what [vector] databases to use" — Chip Huyen
关联卡片
是 ai-app-improvement-perceived-vs-actual--chip-huyen 里"准备更好的数据"这条原则在 RAG 场景下的具体落地。
出处:Chip Huyen (AI Engineering 作者, 前 NVIDIA/Netflix) · 03-podcasts/chip-huyen.md
提炼自 Lenny Rachitsky 的 Lenny’s Newsletter & Podcast(2019–2026)。本站为个人学习用途的二次创作,与 Lenny’s Newsletter 无官方关联。
provenance · 已核验 · glm-5.2
提炼自 Lenny Rachitsky 的 Lenny’s Newsletter & Podcast(2019–2026)。本站为个人学习用途的二次创作,与 Lenny’s Newsletter 无官方关联。
provenance · 已核验 · glm-5.2