操盘手年鉴The Operators’ Almanac
AI · PB · 499

RAG数据准备技巧

RAG Data Preparation Techniques · rag-data-preparation-techniques--chip-huyen
AI 与新工作方式 操作手册 AI 时代 2025-10 Chip Huyen ✓ 已核验出处
所属簇 模型技术素养

解决什么问题

RAG(检索增强生成)应用效果不好时,该往哪里投入精力提升——她的核心主张是:多数公司 RAG 效果的最大瓶颈来自数据准备,而不是向量数据库选型。

核心内容

她明确指出:"在我见过的很多公司里,RAG 方案里最大的性能提升都来自更好的数据准备,而不是纠结用哪个向量数据库"(向量数据库更多影响延迟、读写模式这类工程属性,但不是答案质量的主要瓶颈)。具体技术手段:

  1. chunk 大小的权衡设计:chunk 太长,检索到一个块就包含了过多不相关信息,检索精度下降;chunk 太短,虽然检索范围广,但单个 chunk 可能缺乏足够上下文来回答问题。需要针对具体场景专门设计 chunk 大小。
  2. 补充上下文元数据:给每个 chunk 附加摘要、元数据,帮助模型判断这个 chunk 和查询的相关性——原始文档往往结构混乱(例如文档开头定义了一个术语,后面章节引用该术语时不会重复定义,chunk 之后就丢失了这层关联)。
  3. 假设性问题(hypothetical questions):为每个 chunk 预生成一批"这个 chunk 能回答的问题",检索时拿用户的查询去匹配这些假设问题,而不是直接匹配原文。
  4. 重写为问答格式:把原始内容(如播客文字稿)用 AI 重写成"问题-答案"对的形式,而不是简单切块——有从业者反馈这是他们获得的最大单项性能提升。
  5. 为 AI 阅读单独加一层注释:人类写的文档默认读者有常识/领域背景(例如"某个函数输出的温度值应为 -1 到 1 之间",人类专家懂这个刻度含义,但 AI 不懂),需要专门为 AI 检索场景补一层解释性注释,而不能直接复用面向人类读者的文档。

适用边界

这些技巧主要针对文本类 RAG;她提到还有 agentic RAG、多模态 RAG 等更复杂的形态未展开。数据准备投入的性价比,在原始文档结构混乱(如内部 wiki、跨章节引用多)的场景下最高;如果原始语料本身就是类似维基百科词条那样自包含、边界清晰的内容,数据准备的收益会相对有限。

关键引述 · 原话

"in a lot of the companies that I have seen, that's the biggest performance [gain] in their RAG solutions coming from better data preparations, not agonizing over what [vector] databases to use" — Chip Huyen

关联卡片

是 ai-app-improvement-perceived-vs-actual--chip-huyen 里"准备更好的数据"这条原则在 RAG 场景下的具体落地。

出处Chip Huyen (AI Engineering 作者, 前 NVIDIA/Netflix) · 03-podcasts/chip-huyen.md
提炼自 Lenny Rachitsky 的 Lenny’s Newsletter & Podcast(2019–2026)。本站为个人学习用途的二次创作,与 Lenny’s Newsletter 无官方关联。
provenance · 已核验 · glm-5.2