RAG 是将附加文档存储为嵌入向量，将传入的查询计算向量与这些向量进行匹配，并将最相似的信息与查询一起提供给LLM的过程。
由于附加文档可能非常大，流程的步骤1还需要分块，将大文档分成较小/方便管理的文本块，RAG的分块策略主要有五种，分别是固定大小分块、语义分块、递归分块、基于文档结构的分块、基于LLM的分块。
- 固定大小的分块
固定大小的分块是最直观和直接的方法，根据预定数量的字符、单词或标记将文本分成统一的段。
由于直接分割会破坏语义，因此在实际使用时在两个连续块之间保持一些重叠。还有一个问题，固定大小分块通常会打断句子或者语境。因此，重要的信息很可能会分散到不同的块中。
- 语义分块
根据句子、段落或主题部分等有意义的单位对文档进行细分，为每个片段创建嵌入，如果多个文本段的嵌入向量具有较高的余弦相似度，一直持续到余弦相似度显著下降，则这些段就形成了一个文本块。
与固定大小的块不同，这保持了语言的自然流畅并保留了完整的想法。由于每个块都更加丰富、完整，它提高了检索准确性，进而使 LLM 产生更加连贯和相关的响应。
由于依赖于一个阈值来确定余弦相似度是否显著下降，而这个阈值在不同文档之间差异可能很大。
- 递归分块
根据固有分隔符（如段落或章节）进行分块。接下来，如果每个块的大小超出了预定义的块大小限制，则将其拆分成更小的块。但是，如果块符合块大小限制，则不再进行进一步拆分。
与固定大小的块不同，这种方法还保持了语言的自然流畅性并保留了完整的语境。然而，在实施和计算复杂性方面存在一些额外的开销。
- 基于文档结构的分块
它利用文档的固有结构（如标题、章节或段落）来定义块边界，它就通过与文档的逻辑部分对齐来保持结构完整性。
基于文档结构的分块应用的前提条件是假设文档具有清晰的结构，但事实可能并非如此。此外，文本块的长度可能会有所不同，可能会超出模型token的限制。当出现这些问题时通常使用递归拆分进行合并。
- 基于LLM的分块
基于LLM的分块可以按照 LLM 生成语义上孤立且有意义的块，这种方法将确保较高的语义准确性，因为 LLM 可以理解超越简单启发式方法的上下文和含义。
唯一的问题是，基于LLM的分块是这里讨论的五种技术中计算要求最高的分块技术，另外还需要考虑 LLM 的上下文窗口通常是有限的。
- 总结
总之，每种文本分块技术都有其自身的优势和劣势。分块策略的选择将很大程度上取决于内容的性质、嵌入模型的功能、计算资源等具体情况。我在实际应用中发现语义分块在多数情况下效果很好，但你在使用语义分块时效果就有可能不理想。
普通人如何抓住AI大模型的风口？
领取方式在文末
为什么要学习大模型？
目前AI大模型的技术岗位与能力培养随着人工智能技术的迅速发展和应用 ， 大模型作为其中的重要组成部分 ， 正逐渐成为推动人工智能发展的重要引擎 。大模型以其强大的数据处理和模式识别能力， 广泛应用于自然语言处理 、计算机视觉 、 智能推荐等领域 ，为各行各业带来了革命性的改变和机遇 。
目前，开源人工智能大模型已应用于医疗、政务、法律、汽车、娱乐、金融、互联网、教育、制造业、企业服务等多个场景，其中，应用于金融、企业服务、制造业和法律领域的大模型在本次调研中占比超过30%。
随着AI大模型技术的迅速发展，相关岗位的需求也日益增加。大模型产业链催生了一批高薪新职业：
人工智能大潮已来，不加入就可能被淘汰。如果你是技术人，尤其是互联网从业者，现在就开始学习AI大模型技术，真的是给你的人生一个重要建议！
最后
只要你真心想学习AI大模型技术，这份精心整理的学习资料我愿意无偿分享给你，但是想学技术去乱搞的人别来找我！
在当前这个人工智能高速发展的时代，AI大模型正在深刻改变各行各业。我国对高水平AI人才的需求也日益增长，真正懂技术、能落地的人才依旧紧缺。我也希望通过这份资料，能够帮助更多有志于AI领域的朋友入门并深入学习。
真诚无偿分享！！！
vx扫描下方二维码即可
加上后会一个个给大家发
大模型全套学习资料展示
自我们与MoPaaS魔泊云合作以来，我们不断打磨课程体系与技术内容，在细节上精益求精，同时在技术层面也新增了许多前沿且实用的内容，力求为大家带来更系统、更实战、更落地的大模型学习体验。
希望这份系统、实用的大模型学习路径，能够帮助你从零入门，进阶到实战，真正掌握AI时代的核心技能！
01教学内容
从零到精通完整闭环：【基础理论 →RAG开发 → Agent设计 → 模型微调与私有化部署调→热门技术】5大模块，内容比传统教材更贴近企业实战！
大量真实项目案例：带你亲自上手搞数据清洗、模型调优这些硬核操作，把课本知识变成真本事！
02适学人群
应届毕业生：无工作经验但想要系统学习AI大模型技术，期待通过实战项目掌握核心技术。
零基础转型：非技术背景但关注AI应用场景，计划通过低代码工具实现“AI+行业”跨界。
业务赋能突破瓶颈：传统开发者（Java/前端等）学习Transformer架构与LangChain框架，向AI全栈工程师转型。
vx扫描下方二维码即可
本教程比较珍贵，仅限大家自行学习，不要传播！更严禁商用！
03入门到进阶学习路线图
大模型学习路线图，整体分为5个大的阶段：
04视频和书籍PDF合集
从0到掌握主流大模型技术视频教程（涵盖模型训练、微调、RAG、LangChain、Agent开发等实战方向）
新手必备的大模型学习PDF书单来了！全是硬核知识，帮你少走弯路（不吹牛，真有用）
05行业报告+白皮书合集
收集70+报告与白皮书，了解行业最新动态！
0690+份面试题/经验
AI大模型岗位面试经验总结（谁学技术不是为了赚$呢，找个好的岗位很重要）
07 deepseek部署包+技巧大全
由于篇幅有限
只展示部分资料
并且还在持续更新中…
真诚无偿分享！！！
vx扫描下方二维码即可
加上后会一个个给大家发
