RouteRAG是一种基于强化学习的混合检索RAG框架,通过统一文本和知识图谱检索为动作空间,实现动态路由决策。该方法解决了传统RAG在多跳问题上的局限性,通过两阶段训练优化检索策略与奖励平衡。实验表明,RouteRAG在多个数据集上准确率提升,同时检索开销降低32%,总延迟减少24%,显著提高了大模型推理效率与成本效益。
https://github.com/YucanGuo/RouteRAGhttps://arxiv.org/pdf/2512.09487RouteRAG: Efficient Retrieval-Augmented Generation from Text andGraph via Reinforcement Learning1 为什么“混合检索”这么难?
传统 RAG 只拿文本做检索,遇到“多跳”问题(如“甲公司的创始人创办的慈善机构资助了哪位科学家?”)就容易断链。
把知识图谱拉进来能补全关系,却带来三重痛点:
- 图谱检索比文本检索贵 1–2 个数量级(需实时子图采样/匹配)。
- 文本 vs 图谱的触发条件靠人工写规则,换数据集就失灵。
- 一旦推理链变长,系统无法“中途”决定再查一次图谱。
一句话:固定 pipeline 的“混合 RAG”在成本与效果之间没有自适应能力。
2 RouteRAG——把“何时查、查什么”做成一个强化学习策略
| 核心思想 | 一句话解释 |
|---|---|
| 统一动作空间 | 把“查文本 / 查图谱 / 生成答案”统统映射成同一个策略网络的 token 级动作。 |
| 两阶段训练 | ① 冷启动:模仿最优 oracle 轨迹;② 精细调:用策略梯度优化“任务奖励 − 检索开销”。 |
| 动态路由 | 模型可在任意时刻决定再查一次文本或图谱,直到置信度足够再输出答案。 |
2.1 方法框架图
图 1:RouteRAG 把文本检索器与图谱检索器封装成两个可微动作,由 RL 策略统一调度
2.2 动作空间与奖励设计
| 动作 | 描述 | 奖励分量 |
|---|---|---|
retrieve_text(q) | 用问题 q 查文本库 | 负开销 −cₜ |
retrieve_graph(q) | 用问题 q 采样子图 | 负开销 −c₉ (c₉≫cₜ) |
gen_answer(a) | 输出答案并结束 | +EM 正确率 −λ·总开销 |
3 五大数据集全面涨点,检索开销降 30%+
表 1:主实验结果
3.1 效率分析
图 3:在 HotpotQA 上,RouteRAG 用 30% 的图谱检索次数达到与贪心基线相同的准确率
- 图谱检索调用次数平均 ↓ 32%
- **总延迟 ↓ 24%**(单卡 A100)
3.2 消融实验
| 变体 | 准确率 | 图谱调用次数 |
|---|---|---|
| w/o RL(仅用模仿学习) | 67.2 EM | 1.8× |
| w/o 文本检索动作 | 65.9 EM | 1.0× |
| w/o 图谱检索动作 | 68.4 EM | 0×(无法做多跳) |
| 完整 RouteRAG | 71.8 EM | 0.68× |
表 2:HotpotQA 消融结果
如何学习AI大模型?
如果你对AI大模型入门感兴趣,那么你需要的话可以点击这里大模型重磅福利:入门进阶全套104G学习资源包免费分享!
这份完整版的大模型 AI 学习和面试资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
这是一份大模型从零基础到进阶的学习路线大纲全览,小伙伴们记得点个收藏!
第一阶段:从大模型系统设计入手,讲解大模型的主要方法;
第二阶段:在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;
第三阶段:大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;
第四阶段:大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;
第五阶段:大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;
第六阶段:以SD多模态大模型为主,搭建了文生图小程序案例;
第七阶段:以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。
100套AI大模型商业化落地方案
大模型全套视频教程
200本大模型PDF书籍
👉学会后的收获:👈
• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;
• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;
• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;
• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。
LLM面试题合集
大模型产品经理资源合集
大模型项目实战合集
👉获取方式:
😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓