)
这一期我来详细分析一下RAG的基础理论知识.
RAG作为LLM重要的一种思想,在工作中的应用是相当广泛的.
一.为什么使用RAG
1.传统LLM
在传统LLM中,有四个重要的缺陷有待解决.
- LLM的数据不是实时的.
在这里我举个例子,比如说,不使用LLM工具,直接询问当下热点事件,大模型会回答你他不知道,这是因为大模型的数据是不能自动更新的,他的数据停留在最后训练这个模型的时间点.
- LLM缺乏专业领域的知识
就比如说,你想制造一个火箭,这是问不出来的.
- LLM会造成信息泄露
公司内部的数据使用LLM会造成信息泄露,公司内部会有自己内部训练的LLM防止信息泄露.
- 幻觉问题
LLM在不知道的问题上会胡编乱造,这就是幻觉问题.
2.RAG
为了解决LLM痛点,提出了RAG.
RAG叫做检索增强生成. 个人理解为:检索外部文档,提升生成结果的质量
那么RAG是如何解决传统LLM的痛点的.
下面是一个RAG大致的执行流程.
二:RAG工作原理
1.RAG执行流程
这里我自己画了一张RAG的大致执行流程:
在这里我们可以明显发现,有了RAG以后,传统LLM的缺陷被很好的解决了.
2.RAG缺陷
但是仔细观察执行图会发现,问题和外挂数据库结合后还是要在LLM里面处理,这还是会导致信息泄露.
如何解决这个问题呢?这里提供两种解决方法.
首先就是公司员工按需检索,其次是RAG通过用户检索提供片段内容回答.
总的来说就是通过减少信息暴露来解决RAG的这个缺陷.
三:RAG详细执行流程
我在这里列出一张详细的RAG执行流程图:
大家可以先大致的看一下这个执行流程,下面我将详细的分析一下这张执行流程图,包括重点和注意点.
- 服务端
用户输入问题-->向量嵌入用户输入的问题-->放到词向量库准备和专用知识库向量进行相似度匹配
- 外挂知识库端
知识数据库里面有很多类型的数据(pdf,csv,word等),把这些格式的数据全部转换为字符串.然后把这些字符串切割为标准长度的chunk(数据块),然后进行向量嵌入处理后放到词向量库和词向量进行相似度匹配.
- 输出端
客户端提问向量和外挂知识库相似度匹配后根据需求找出匹配度前几项,然后把这几项和原始问题结合起来组成prompt,把prompt提供给LLM处理后输出结果.
这里我来解释一下什么是向量嵌入.
向量嵌入指的是给你输入的文本贴上标签.对于用户提问来说,就是给你的提问变成向量然后贴上标签,对于外挂知识库来说,就是给你的chunk变成词向量然后贴上标签.
这就是RAG执行的细致流程.
四.常见的向量库
这里我自己总结了一写常见的向量库,我们使用的较多的是milvus.他们各自适用的场景我也列出来提供比较.
五.小结
个人认为这一节的基础知识是学习LangChain的重要部分,务必要完全掌握.列出几个比较简单的问题来回忆.
