第15章 RAG是什么?为什么企业都在做知识库?
AI产品经理实战训练营 · 章节 15/44 · 60 学时
15.1 从一个真实痛点开始
假设你是一家制造企业的IT负责人,公司有20年的历史积累了大量文档:设备说明书、工艺标准、质量手册、维修记录、供应商资料……加起来几十万份。现在新员工入职,遇到设备故障要查说明书,想找某个工艺标准要翻半天,老员工的经验都在脑子里没人传承。
你想做一个智能问答系统,让员工用自然语言提问,系统直接给出答案。你第一反应是:用大模型啊!GPT那么厉害,直接把问题丢给它不就行了?
结果一试,问题来了:
- 大模型不知道你们公司的设备型号和工艺标准,回答的都是通用知识
- 就算你把文档喂给它,一次最多能塞几万字,几十万份文档根本塞不下
- 大模型会"幻觉",编造不存在的设备参数和工艺要求,员工信了就出大事
- 文档更新了,大模型的知识还是旧的,因为训练数据有截止日期
15.2 RAG到底是什么?
RAG(Retrieval-Augmented Generation,检索增强生成)是一种把"检索"和"生成"结合起来的技术。简单说就是:先从知识库中找到相关内容,再让大模型基于这些内容生成答案。
你可以把RAG想象成一个"开卷考试"的学生:
- 不用RAG:闭卷考试,全靠脑子里记住的知识回答,容易记错、记漏
- 用RAG:开卷考试,先翻书找到相关章节,再基于书上的内容组织答案,准确且有据可查
不用RAG(直接问GPT):
问:"我们厂的ABB机器人IRB6700日常保养周期是多久?"
答:"ABB机器人IRB6700的日常保养周期通常为每500小时或每3个月一次,包括润滑、检查电缆、清洁等。具体请参考设备手册。"
(问题:这是通用知识,不是你们厂的实际保养规定,可能和你们的设备手册不一致)
用RAG(基于企业知识库):
问:"我们厂的ABB机器人IRB6700日常保养周期是多久?"
答:"根据《ABB机器人IRB6700设备保养手册》第3.2节规定,我厂IRB6700机器人保养周期如下:
1. 日常检查(每班):清洁机器人表面、检查气源压力、确认无异常噪音
2. 周保养(每周五):检查各轴运动是否顺畅、紧固松动螺丝、检查电缆磨损
3. 月保养(每月1号):更换齿轮箱润滑油、校准零点、检查安全回路
4. 年保养(每年12月):全面拆解检查、更换易损件、性能测试
参考文档:《ABB机器人IRB6700设备保养手册》V2.1,第15-20页"
(优势:答案来自企业真实文档,准确、具体、可溯源)
15.3 RAG的核心价值
| 价值 | 说明 | 对企业的意义 |
|---|---|---|
| 知识私有化 | 基于企业内部文档回答,不泄露到公网 | 保护商业机密和核心知识资产 |
| 答案准确性 | 答案基于检索到的真实文档,减少幻觉 | 避免错误信息导致的决策失误和安全事故 |
| 可溯源性 | 每个答案都能标注来源文档和页码 | 用户可以验证答案可信度,增强信任 |
| 知识可更新 | 文档更新后,知识库同步更新,答案即时生效 | 不需要重新训练模型,成本低、响应快 |
| 降低成本 | 不需要微调大模型,只需要维护知识库 | 中小企业也能负担,ROI高 |
| 知识传承 | 老员工的经验文档化后,新员工能快速获取 | 减少人员流动带来的知识断层 |
15.4 RAG vs 微调 vs 提示词工程
很多人会混淆这三种让大模型掌握特定知识的方式,它们有本质区别:
| 维度 | RAG检索增强 | 微调Fine-tuning | 提示词工程 |
|---|---|---|---|
| 原理 | 外部检索+生成 | 修改模型参数 | 在输入中提供上下文 |
| 知识来源 | 外部知识库 | 训练数据 | 当前对话 |
| 知识容量 | 几乎无限(百万级文档) | 有限(受模型参数量限制) | 非常有限(受上下文窗口限制) |
| 更新成本 | 低(更新文档即可) | 高(需要重新训练) | 极低(改Prompt即可) |
| 准确性 | 高(可溯源) | 中(可能遗忘或混淆) | 高(但受限于输入长度) |
| 成本 | 中(需要向量数据库) | 高(需要GPU和训练数据) | 低(无额外成本) |
| 适用场景 | 企业知识库、客服、文档问答 | 风格迁移、特定任务优化 | 简单任务、单次问答 |
• 如果是企业知识库、客服问答、文档检索类需求 → 首选RAG
• 如果需要模型掌握特定风格、格式、任务模式 → 微调
• 如果是简单的单次问答、格式转换、内容生成 → 提示词工程
• 复杂场景通常是三者结合:RAG提供知识 + 微调优化风格 + 提示词控制输出
15.5 RAG的典型应用场景
1. 企业智能客服
基于产品手册、FAQ、历史工单构建知识库,客户提问时自动检索相关内容生成答案。7×24小时在线,解决80%常见问题,人工客服只处理复杂问题。
案例:某家电企业上线RAG客服后,客服响应时间从平均5分钟降到30秒,人工客服工作量减少60%。
2. 制造业设备运维知识库
基于设备说明书、维修记录、工艺标准构建知识库,维修人员遇到故障时用自然语言提问,系统给出排查步骤和解决方案。
案例:某汽车工厂上线设备运维知识库后,平均故障修复时间从4小时降到1.5小时,设备OEE提升8%。
3. 法律合同审查助手
基于法律法规、合同模板、历史案例构建知识库,律师上传合同后,系统自动识别风险条款并给出修改建议。
案例:某律所上线合同审查助手后,合同审查时间从平均2小时降到20分钟,风险识别准确率提升40%。
4. 医疗知识助手
基于医学指南、药品说明书、临床路径构建知识库,医生提问时给出诊疗建议和用药参考。
注意:医疗场景必须有医生审核,不能直接用于诊断。
5. 金融投研助手
基于研报、公告、财报、行业数据构建知识库,分析师提问时快速汇总相关信息,生成投研报告初稿。
15.6 RAG的局限性
RAG不是银弹,它也有局限性,产品经理必须清楚:
- 检索质量决定答案质量:如果检索不到相关文档,大模型再厉害也答不出来。"垃圾进,垃圾出"在RAG中更明显。
- 文档质量决定上限:如果知识库中的文档本身就是错误的、过时的、矛盾的,RAG给出的答案也会有问题。
- 不擅长推理和计算:RAG擅长基于已有知识回答,但不擅长需要多步推理、复杂计算的问题。
- 延迟较高:检索+生成两步走,比直接生成慢,对实时性要求高的场景需要优化。
- 需要持续维护:知识库不是建完就完事了,需要持续更新、清理、优化,否则效果会越来越差。
15.7 产品经理视角:RAG项目的成功关键
根据行业经验,RAG项目失败的主要原因不是技术,而是产品和运营:
- 明确场景边界:不要指望RAG解决所有问题,先选一个高频、高价值、知识相对稳定的场景切入。比如先做设备运维知识库,不要一上来就做"企业万能助手"。
- 知识治理先行:RAG效果不好,80%的原因是知识库质量差。上线前必须做文档清洗、去重、分类、更新,建立知识维护机制。
- 用户反馈闭环:每个答案都要让用户点"有用/没用",没用的答案要分析原因(是检索不到?还是文档没有?还是生成不好?),持续优化。
- 人工审核机制:高风险场景(医疗、法律、金融)必须有人工审核环节,不能让AI直接给出最终结论。
- 可解释性设计:答案必须标注来源,让用户知道答案是从哪来的,增强信任感,也方便排查问题。
15.8 本章小结
RAG(检索增强生成)是让大模型基于企业私有知识库回答问题的技术,核心价值是知识私有化、答案准确、可溯源、可更新。它和微调、提示词工程有本质区别,适用于企业知识库、客服、文档问答等场景。
作为AI产品经理,你要理解RAG的原理和价值,更要知道它的局限性。RAG项目成功的关键不是技术多先进,而是场景选得准、知识治理做得好、用户反馈闭环跑通。
下一章我们会深入RAG的工作原理,搞清楚"文档→分块→向量→检索→生成"每一步到底在做什么。
📝 本章练习(5题)
答案与解析请在 互动学习看板 中作答查看。
📚 AI产品经理实战训练营 课程目录(44 章)
- 第1章 AI产品经理是做什么的?和传统PM有什么区别?
- 第2章 2026年AI产品经理就业市场:哪些行业在招?薪资多少?
- 第3章 零经验转行AI产品经理的3条路径
- 第4章 AI产品全景图:从聊天机器人到Agent,一文搞懂
- 第5章 AI产品经理能力模型:你需要掌握哪些技能?
- 第6章 实战:拆解3个你每天在用的AI产品
- 第7章 大模型是什么?用大白话讲清楚
- 第8章 主流大模型对比:GPT-4o、Claude、DeepSeek、豆包、Kimi怎么选?
- 第9章 Prompt入门:写好提示词的5个原则
- 第10章 Prompt进阶:System Prompt、COT思维链、Few-shot示例
- 第11章 结构化输出:让大模型返回JSON、表格、代码
- 第12章 Prompt优化实战:从垃圾Prompt到高质量Prompt
- 第13章 大模型的"幻觉"问题:产品经理怎么应对?
- 第14章 实战:为一个智能客服设计完整Prompt体系
- 第15章 RAG是什么?为什么企业都在做知识库?
- 第16章 RAG工作原理:文档→分块→向量→检索→生成
- 第17章 向量数据库选型:Milvus、Pinecone、Chroma、pgvector怎么选?
- 第18章 Embedding模型选型:OpenAI、BGE、M3E、GTE对比
- 第19章 Reranker重排序:让检索结果更精准
- 第20章 查询改写与混合检索:提升召回率的实战技巧
- 第21章 知识库运营:文档治理、更新机制、效果监控
- 第22章 实战:从零搭建一个企业知识库(完整流程)
- 第23章 Agent是什么?和聊天机器人有什么区别?
- 第24章 Agent核心能力:感知、规划、工具调用、记忆
- 第25章 主流Agent框架与协议:Agent Harness、MCP、A2A全解析
- 第26章 工具调用(Function Calling)原理与实战
- 第27章 Agent记忆系统:短期记忆、长期记忆、向量记忆
- 第28章 多Agent协作:多个智能体怎么分工配合?
- 第29章 Agent评估体系:成功率、成本、延迟怎么监控?
- 第30章 实战:设计一个制造业生产异常处理Agent
- 第31章 AI产品需求分析:怎么识别真需求还是伪需求?
- 第32章 AI产品竞品分析:怎么调研和拆解竞品?
- 第33章 AI产品PRD撰写:技术可行性、数据需求、评估指标
- 第34章 AI产品原型设计:对话流、状态机、异常处理
- 第35章 AI产品数据指标体系:从DAU到模型准确率,全面监控
- 第36章 AI项目管理:从需求到上线的全流程管控
- 第37章 实战项目1:从零搭建制造业AI智能质检系统
- 第38章 实战项目2:从零搭建企业级AI知识库(RAG系统)
- 第39章 AI产品经理简历优化:让HR一眼看中你
- 第40章 项目经验包装:把普通项目讲成亮眼案例
- 第41章 AI产品经理面试常见问题:提前准备,从容应对
- 第42章 案例分析面试:用结构化思维征服面试官
- 第43章 薪资谈判:拿到你应得的报酬
- 第44章 入职前3个月:快速站稳脚跟,建立信任
