第16章 RAG工作原理：文档→分块→向量→检索→生成

16.1 RAG的完整流程概览

RAG的工作流程分为两个阶段：索引阶段（离线，把文档处理成可检索的向量）和查询阶段（在线，用户提问时检索并生成答案）。

完整流程是5步：

1. 文档处理：加载各种格式的文档（PDF、Word、Excel、网页、图片OCR）
2. 文本分块：把长文档切成合适大小的片段（Chunk）
3. 向量化：用Embedding模型把每个文本块转换成向量（一组数字）
4. 检索：用户提问时，把问题也转成向量，在向量数据库中找到最相似的Top-K个文本块
5. 生成：把检索到的文本块作为上下文，和用户问题一起发给大模型，生成最终答案

16.2 第一步：文档加载与解析

企业的文档格式千奇百怪：PDF、Word、Excel、PPT、图片、扫描件、网页、邮件、数据库……RAG的第一步是把这些文档都转换成纯文本。

常见文档格式的处理方式：

16.3 第二步：文本分块（Chunking）

文档解析后可能是几万字甚至几十万字的长文本，不能直接向量化（Embedding模型有输入长度限制，通常是512或8192个token），也不能直接检索（太长的文本会包含很多不相关信息，稀释相关性）。所以需要把长文本切成合适大小的片段，这就是分块（Chunking）。

分块是RAG中最影响效果的环节之一，分块太大或太小都会导致检索效果差。

常见分块策略：

16.4 第三步：向量化（Embedding）

分块后，每个文本块还是文字，计算机无法直接计算"相似度"。需要用Embedding模型把文本转换成向量（一组浮点数，比如1536维的向量就是1536个数字）。

Embedding的核心特性：语义相似的文本，向量距离也近。比如"如何重置密码"和"忘记密码怎么办"，文字不同但语义相似，它们的向量距离就很近；而"如何重置密码"和"今天天气怎么样"语义不相关，向量距离就很远。

常用的相似度计算方式：

• 余弦相似度（Cosine Similarity）：计算两个向量的夹角余弦值，范围[-1,1]，越接近1越相似。最常用，不受向量长度影响。
• 欧氏距离（Euclidean Distance）：计算两个向量的直线距离，越小越相似。受向量长度影响。
• 点积（Dot Product）：计算两个向量的点积，越大越相似。向量归一化后等价于余弦相似度。

16.5 第四步：检索（Retrieval）

用户提问时，系统做以下事情：

1. 把用户问题用同一个Embedding模型转成向量
2. 在向量数据库中计算问题向量和所有文本块向量的相似度
3. 找到最相似的Top-K个文本块（K通常是3-10）
4. 把这些文本块按相关度排序，作为上下文传给大模型

检索的核心挑战：

• 召回率（Recall）：相关的文档有没有被检索到？如果正确答案在文档里但没被检索到，大模型再厉害也答不出来。
• 精确率（Precision）：检索到的文档是不是都相关？如果检索了一堆不相关的文档，会稀释上下文，干扰大模型生成。
• 速度：百万级文档中检索Top-K，要在几百毫秒内完成，需要向量数据库做索引优化（如HNSW、IVF）。

16.6 第五步：生成（Generation）

检索到Top-K个文本块后，把它们和用户问题一起组装成Prompt，发给大模型生成答案。

典型的RAG生成Prompt模板：

你是一个专业的知识库问答助手。请根据以下参考资料回答用户的问题。

【参考资料】
{检索到的文本块，每个标注来源}

【用户问题】
{用户问题}

【回答要求】
1. 只根据参考资料回答，不要使用参考资料以外的知识
2. 如果参考资料中没有相关信息，请回答"根据现有资料无法回答这个问题"
3. 回答要准确、简洁、有条理
4. 关键信息标注来源，如"（来源：《设备手册》第15页）"
5. 不要编造参考资料中没有的信息

16.7 RAG效果评估指标

作为产品经理，你需要量化RAG系统的效果，不能只靠"感觉还行"。核心指标：

16.8 本章小结

RAG的工作原理是5步：文档加载→文本分块→向量化→检索→生成。每一步都影响最终效果：

• 文档加载是地基，解析质量差后面全白搭
• 分块是关键，太大太小都不行，要根据文档类型调优
• 向量化是桥梁，Embedding模型的质量决定语义匹配的准确度
• 检索是核心，召回率和精确率要平衡，多路召回+重排序是标配
• 生成是门面，Prompt设计决定答案质量，明确规则+兜底+来源标注是减幻觉关键

作为AI产品经理，你不需要深入每个技术细节，但必须理解每一步的作用、常见问题、优化方向，才能在项目中做出正确的产品决策，和技术团队有效沟通。

下一章我们会讲向量数据库的选型，这是RAG系统的核心基础设施。

📝 本章练习（5题）

答案与解析请在 互动学习看板 中作答查看。

📚 AI产品经理实战训练营 课程目录（44 章）

1. 第1章 AI产品经理是做什么的？和传统PM有什么区别？
2. 第2章 2026年AI产品经理就业市场：哪些行业在招？薪资多少？
3. 第3章 零经验转行AI产品经理的3条路径
4. 第4章 AI产品全景图：从聊天机器人到Agent，一文搞懂
5. 第5章 AI产品经理能力模型：你需要掌握哪些技能？
6. 第6章 实战：拆解3个你每天在用的AI产品
7. 第7章 大模型是什么？用大白话讲清楚
8. 第8章 主流大模型对比：GPT-4o、Claude、DeepSeek、豆包、Kimi怎么选？
9. 第9章 Prompt入门：写好提示词的5个原则
10. 第10章 Prompt进阶：System Prompt、COT思维链、Few-shot示例
11. 第11章 结构化输出：让大模型返回JSON、表格、代码
12. 第12章 Prompt优化实战：从垃圾Prompt到高质量Prompt
13. 第13章 大模型的"幻觉"问题：产品经理怎么应对？
14. 第14章 实战：为一个智能客服设计完整Prompt体系
15. 第15章 RAG是什么？为什么企业都在做知识库？
16. 第16章 RAG工作原理：文档→分块→向量→检索→生成
17. 第17章 向量数据库选型：Milvus、Pinecone、Chroma、pgvector怎么选？
18. 第18章 Embedding模型选型：OpenAI、BGE、M3E、GTE对比
19. 第19章 Reranker重排序：让检索结果更精准
20. 第20章 查询改写与混合检索：提升召回率的实战技巧
21. 第21章 知识库运营：文档治理、更新机制、效果监控
22. 第22章 实战：从零搭建一个企业知识库（完整流程）
23. 第23章 Agent是什么？和聊天机器人有什么区别？
24. 第24章 Agent核心能力：感知、规划、工具调用、记忆
25. 第25章 主流Agent框架与协议：Agent Harness、MCP、A2A全解析
26. 第26章 工具调用（Function Calling）原理与实战
27. 第27章 Agent记忆系统：短期记忆、长期记忆、向量记忆
28. 第28章 多Agent协作：多个智能体怎么分工配合？
29. 第29章 Agent评估体系：成功率、成本、延迟怎么监控？
30. 第30章 实战：设计一个制造业生产异常处理Agent
31. 第31章 AI产品需求分析：怎么识别真需求还是伪需求？
32. 第32章 AI产品竞品分析：怎么调研和拆解竞品？
33. 第33章 AI产品PRD撰写：技术可行性、数据需求、评估指标
34. 第34章 AI产品原型设计：对话流、状态机、异常处理
35. 第35章 AI产品数据指标体系：从DAU到模型准确率，全面监控
36. 第36章 AI项目管理：从需求到上线的全流程管控
37. 第37章 实战项目1：从零搭建制造业AI智能质检系统
38. 第38章 实战项目2：从零搭建企业级AI知识库（RAG系统）
39. 第39章 AI产品经理简历优化：让HR一眼看中你
40. 第40章 项目经验包装：把普通项目讲成亮眼案例
41. 第41章 AI产品经理面试常见问题：提前准备，从容应对
42. 第42章 案例分析面试：用结构化思维征服面试官
43. 第43章 薪资谈判：拿到你应得的报酬
44. 第44章 入职前3个月：快速站稳脚跟，建立信任