前几篇文章我们讲了Agent的核心能力：调用工具、记忆系统、规划能力、多Agent协作。但有一个问题一直没解决：Agent的知识从哪来？
大模型的知识是训练时学到的，有截止日期，不可能什么都知道。
你问GPT-4："你们公司年假政策是什么？"它会一脸懵。它不知道，它只能瞎猜一个。
你问它："最新的AI法规说了什么？"它会告诉你一些训练数据截止前的内容，至于最新法规是什么，它不知道。
那Agent遇到不知道的事怎么办？
答案：给它接一个知识库。
这就是今天的主题：RAG + Agent。
先说个真实的痛点
我之前做过一个企业客服Agent。
需求听起来很简单：帮用户解答产品使用问题、查询订单状态、处理售后咨询。
我以为接一个大模型就能搞定。结果上线第一天就翻车了。
用户问：“这个功能怎么用？”
Agent的回答是：“您可以在设置中找到相关选项。”
听起来没问题对吧？但实际上，这个产品的设置界面去年改版了，老的设置入口已经移到了新的位置。Agent给的回答是错的。
用户问：“我的订单什么时候到？”
Agent的回答是：“一般情况下，订单会在3-5个工作日内送达。”
听起来也没问题对吧？但实际上，这个用户的订单是加急配送，承诺的是次日达。Agent不知道。
用户问：“你们支持退换货吗？”
Agent的回答是：“支持的，我们提供完整的退换货政策。”
但实际上，这个品类属于特殊商品，不在常规退换货范围内。Agent不确定，但瞎答了。
问题出在哪？
问题出在Agent的知识来源。它只知道训练数据里的内容，不知道你们公司的具体政策、不知道产品的最新版本、不知道这个用户的历史订单。
大模型的知识是通用的，不是你们公司专有的。
要让Agent回答准确，必须给它接入你们公司的知识库。
Agent的知识困境
先说清楚问题。
大模型的知识有两个根本局限。
局限一：知识有截止日期。
GPT-4的知识截止到2023年12月。Claude的知识截止到2024年4月。如果问它今天发生的事，它只能瞎编。
你可能见过这种情况：你问AI一个最近发生的事件，它说得头头是道，但仔细一看，全是胡编的。它不是故意骗你，它是真的不知道，但它觉得自己知道。
这就是"幻觉"问题。大模型的工作原理是预测下一个词最可能是什么，它回答问题的方式是"听起来最像正确答案的话是什么"，而不是"正确答案是什么"。当它不知道正确答案的时候，它会生成一段听起来很像正确答案的话。
对于有截止日期的知识，这个问题是致命的。法规会变，产品会更新，政策会调整。如果Agent只知道截止日期之前的内容，那它给出的回答可能已经过时了。
局限二：专业知识不足。
大模型的训练数据是通用的。医学、法律、金融、工程——这些专业领域的知识，要么不够深，要么不够新。
通用知识可以解决大部分日常问题。但专业场景不行。医学Agent需要知道最新的临床指南，法律Agent需要知道最新的司法解释，金融Agent需要知道最新的监管政策。这些内容，大模型的训练数据里可能根本没有。
Agent也是一样。Agent本质上还是靠大模型，大模型的局限就是Agent的局限。如果大模型不知道，Agent也不可能知道。
解决方案是什么？
给Agent接一个知识库。遇到不确定的问题，先去知识库查一下，再回答。这样，Agent回答的内容是基于真实文档的，不是大模型自己编的。
RAG是什么
RAG，全称Retrieval-Augmented Generation，检索增强生成。
它的核心思想是：给AI接一个外部知识库，让它能查资料再回答。
传统大模型的工作流程是：用户提问，大模型直接回答。回答的内容来自训练数据，可能过时，可能错误，可能根本不存在。
RAG增强后的工作流程是：用户提问，系统先去知识库检索相关资料，把资料和问题一起给大模型，大模型基于真实资料来回答。
举个例子。
用户问：“公司年假政策是什么？”
没有RAG的时候：大模型根据自己训练数据里的"通用企业年假政策"来回答，说得模棱两可，不一定符合你们公司的实际政策。
有RAG的时候：系统先检索"年假政策"，找到你们公司的HR文档——“入职满一年享有5天年假，工作满三年享有10天年假”。把这段内容加上用户问题一起给大模型，大模型基于真实文档回答：“根据公司政策，您工作满一年后享有5天年假。”
RAG的核心价值是什么？
是让AI回答有据可查。
有了RAG，Agent的每一个回答都基于真实文档。它不会凭空编造，因为文档里没有的内容，它不会说。它不会过时，因为知识库可以随时更新，更新后Agent立刻就知道。
对于企业场景，这个价值至关重要。企业需要的不是"能说"的AI，而是"说得对"的AI。
Agent怎么用RAG
有几种常见的RAG和Agent结合方式。
方式一：Agent自主检索。
最简单的方式。Agent收到问题，自己判断需不需要查资料，需要就查，查完再回答。
工作流程是：Agent收到问题，判断这个问题Agent自己知道还是不知道。如果不确定，就调用检索工具去知识库查资料。获取资料后，结合资料和自身理解来回答。
这个方式的好处是简单，不需要额外的设计。Agent自己决定什么时候该查，什么时候不用查。坏处是Agent可能会判断失误——该查的时候不查，不该查的时候瞎查。
为了让Agent判断更准确，通常会给Agent一些Prompt指导。比如告诉它：“如果你不确定某个具体政策、某个产品的最新功能、某个流程的具体步骤，请先检索知识库再回答。”
方式二：RAG作为Agent的工具。
把RAG系统当成Agent工具箱里的一个工具。
Agent的工具箱里，除了搜索引擎、代码执行、文件操作，还有"知识库查询"。Agent遇到问题，根据问题的性质选择合适的工具来处理。
如果是通用问题，用搜索引擎。如果是企业内部问题，用知识库查询。如果是技术问题，用代码执行。
这种方式的优点是职责清晰。知识库是Agent众多工具中的一种，Agent根据情况选择用哪个。缺点是需要设计好工具的描述，让Agent能准确判断什么时候该用知识库。
方式三：RAG增强Agent的记忆。
RAG还可以作为Agent长期记忆的存储和检索层。
之前我们讲过Agent的记忆系统，分三层：感官记忆、工作记忆、长期记忆。长期记忆通常存在向量数据库里，通过语义搜索来检索。
RAG增强的记忆系统在检索层做了升级。不只是简单的语义搜索，还加入了关键词匹配、知识图谱推理、混合检索等技术，让Agent能更准确地找到需要的记忆。
比如用户之前提到过"我上周和张总开会讨论了Q2规划"，Agent在记忆里检索"Q2规划"，不只是找到这段对话记录，还能关联到张总、Q2这两个相关实体，提供更完整的上下文。
一个实际例子
场景：企业客服Agent
没有RAG时：
用户问：“你们公司的年假政策是什么？”
Agent答：“支持的，我们公司提供年假福利……”
实际上不确定，根据大模型的知识瞎猜了一个。
用户问：“这个功能怎么使用？”
Agent答：“您可以点击设置中的相关选项。”
实际上产品已经改版，这个步骤已经不对了。
有RAG时：
用户问：“你们公司的年假政策是什么？”
Agent想：我需要查一下公司的HR政策文档。
Agent调用知识库检索"年假政策"。
检索到文档内容：“入职满一年享有5天年假，工作满三年享有10天年假。”
Agent答：“根据公司政策，您入职满一年后享有5天年假，满三年后享有10天。”
用户问：“这个功能怎么使用？”
Agent想：我需要查一下产品使用文档。
Agent调用知识库检索"功能使用"。
检索到文档内容：“该功能位于设置→高级选项→功能开关下。”
Agent答：“该功能需要进入设置，找到高级选项，点击功能开关即可开启。”
区别在哪里？
没有RAG：回答可能是错的、过时的、瞎编的。
有RAG：回答基于真实文档，准确可靠，有据可查。
知识库的类型
Agent可以接入不同类型的知识库。
第一类：企业内部知识库。
这类知识库的内容来自企业内部。包括员工手册、产品文档、内部流程、历史项目记录。这些内容是专有的，大模型训练数据里不可能有。
企业知识库的特点是：内容准确度要求高，更新频率适中，安全要求严格。不是所有员工都能看到所有内容，需要权限控制。
第二类：专业知识库。
这类知识库的内容来自专业领域。包括行业报告、学术论文、法规政策、技术文档。
专业知识库的特点是：内容深度要求高，来源要可靠，需要持续更新。法规政策每隔一段时间就会变，知识库需要同步更新。
第三类：产品知识库。
这类知识库的内容来自具体产品。包括产品手册、常见问题、用户指南、客服记录。
产品知识库的特点是：和具体产品强绑定，需要跟着产品迭代更新。用户问的都是具体功能的具体问题，回答必须准确。
第四类：实时数据源。
这类数据源提供实时信息。包括新闻资讯、股票数据、天气信息、物流跟踪。
实时数据源的特点是：内容一直在变，知识库模式不太适用，更适合作为API直接调用。用户问"今天天气怎么样"，不是去知识库查，而是调用天气API。
RAG + Agent的进阶用法
进阶一：多知识库路由。
不同问题，查不同知识库。
用户问"这个功能怎么用"，属于产品问题，查产品知识库。
用户问"年假政策是什么"，属于HR问题，查企业知识库。
用户问"最新的行业报告说了什么"，属于行业问题，查专业知识库。
路由的核心是意图识别。Agent先判断用户的问题属于哪个领域，然后去对应的知识库检索。这样可以避免跨领域干扰，提高检索准确度。
进阶二：知识溯源。
Agent回答时，自动标注信息来源。
比如Agent回答：“根据2024年3月发布的《产品白皮书》第三章，公司提供5天年假。”
这样用户就知道答案从哪来。如果用户质疑，可以去查原文。如果用户需要更多相关信息，可以直接去找原始文档。
知识溯源不只增加可信度，还能帮助用户进一步探索。一个好的溯源机制，可以让Agent的回答成为用户学习的起点，而不是终点。
进阶三：混合检索。
不只是语义搜索，还结合关键词搜索、向量搜索、知识图谱等多种检索方式。
语义搜索找到"意思相近"的内容。比如问"年假"，语义搜索能找到"带薪休假"、"年度假期"等相关内容。
关键词搜索找到"字面对应"的内容。比如问"年假政策"，关键词搜索直接匹配"年假政策"这个词。
知识图谱推理找到"逻辑相关"的内容。比如问"张三有没有年假"，知识图谱能推理出张三的入职时间、司龄、对应的年假天数。
混合检索取各家之长，给Agent提供最全面的参考资料。
常见问题
问题一：知识库太杂，检索不精准。
知识库里内容太多太乱，检索出来的内容相关性不高。
解决思路有几个方向。第一是知识分层，把高频知识放浅层，详细文档放深层。比如FAQ放最前面，详细手册放后面。第二是标签体系，给知识打标签，用户问的时候可以按标签筛选。第三是定期清洗，删除过时内容和重复内容，保持知识库整洁。
问题二：知识太多，检索太慢。
知识库大了之后，检索性能下降，用户等待时间长。
解决思路是优化检索效率。向量索引使用更高效的算法。热门知识放缓存，不需要每次都检索。异步检索，不需要等所有结果返回，先返回最相关的几条。
问题三：Agent不会用知识库。
Agent拿到问题，不去检索，直接凭自己的理解瞎答。
解决思路是Prompt优化。在Agent的Prompt里明确告诉它：“遇到以下情况，请先检索知识库：涉及具体政策的问题、涉及产品功能的问题、涉及企业内部流程的问题。”
还可以给Few-shot示例。告诉Agent，遇到这种问题的时候，应该先查知识库，给出具体的示范。
我的观点
RAG + Agent，是目前最实用的AI应用架构之一。
大模型提供推理能力。RAG提供知识支撑。Agent提供行动能力。三者结合，才是真正能用的AI。
“能说”—— 大模型就能做到，说得流利但不一定准确。
“能做”—— 需要Agent，调用工具、执行任务。
“知道自己在说什么”—— 需要RAG，基于真实资料回答。
缺了RAG，Agent就是一个"什么都敢说但什么都可能说错"的家伙。接了RAG，Agent才真正变成一个"知道什么说什么、说的都有据可查"的可信赖助手。
未来，最强的Agent一定是"知识最丰富的Agent"。怎么建设知识库、管理知识库、更新知识库，会成为企业AI能力的核心竞争点。
知识库的质量决定了Agent的上限。一个干净、准确、完整的知识库，可以让Agent的回答质量大幅提升。反之，一个混乱、过时、满是错误知识的知识库，可以让Agent给出比没有知识库更糟糕的回答。
建设知识库，是一个需要长期投入的事情。但这是值得的。
2026年AI行业最大的机会，毫无疑问就在应用层！
字节跳动已有7个团队全速布局Agent
大模型岗位暴增69%，年薪破百万！
腾讯、京东、百度开放招聘技术岗，80%与AI相关……
如今，超过60%的企业都在推进AI产品落地，而真正能交付项目的大模型应用开发工程师**，**却极度稀缺！
落地AI应用绝对不是写几个prompt，调几个API就能搞定的，企业真正需要的，是能搞定这三项核心能力的人：
✅RAG：融入外部信息，修正模型输出，给模型装靠谱大脑
✅Agent智能体：让AI自主干活，通过工具调用（Tools）环境交互，多步推理完成复杂任务。比如做智能客服等等……
✅微调：针对特定任务优化，让模型适配业务
目前，脉脉上有超过1000家企业发布大模型相关岗位，人工智能岗平均月薪7.8w！实习生日薪高达4000！远超其他行业收入水平！
技术的稀缺性，才是你「值钱」的关键！
具备AI能力的程序员，比传统开发高出不止一截！有的人早就转行AI方向，拿到百万年薪！👇🏻👇🏻
AI浪潮，正在重构程序员的核心竞争力！现在入场，仍是最佳时机！
我把大模型的学习全流程已经整理📚好了！抓住AI时代风口，轻松解锁职业新可能，希望大家都能把握机遇，实现薪资/职业跃迁～
这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
⭐️从大模型微调到AI Agent智能体搭建
剖析AI技术的应用场景，用实战经验落地AI技术。从GPT到最火的开源模型，让你从容面对AI技术革新！
大模型微调
掌握主流大模型（如DeepSeek、Qwen等）的微调技术，针对特定场景优化模型性能。
学习如何利用领域数据（如制造、医药、金融等）进行模型定制，提升任务准确性和效率。
RAG应用开发
- 深入理解检索增强生成（Retrieval-Augmented Generation, RAG）技术，构建高效的知识检索与生成系统。
- 应用于垂类场景（如法律文档分析、医疗诊断辅助、金融报告生成等），实现精准信息提取与内容生成。
AI Agent智能体搭建
- 学习如何设计和开发AI Agent，实现多任务协同、自主决策和复杂问题解决。
- 构建垂类场景下的智能助手（如制造业中的设备故障诊断Agent、金融领域的投资分析Agent等）。
如果你也有以下诉求：
快速链接产品/业务团队，参与前沿项目
构建技术壁垒，从竞争者中脱颖而出
避开35岁裁员危险期，顺利拿下高薪岗
迭代技术水平，延长未来20年的新职业发展！
……
那这节课你一定要来听！
因为，留给普通程序员的时间真的不多了！
立即扫码，即可免费预约
「AI技术原理 + 实战应用 + 职业发展」
「大模型应用开发实战公开课」
👇👇
👍🏻还有靠谱的内推机会+直聘权益！！
完课后赠送：大模型应用案例集、AI商业落地白皮书
)
