这篇文章系统介绍了11种大型语言模型的微调方法，包括前缀调优、提示调优、P-Tuning v2、LORA及其变种(DyLORA、AdaLORA)、QLORA、OA-LOR、LongLORA、VeRA和S-LORA等。这些方法各有特点，旨在提高微调效率、减少参数量和计算资源消耗，同时保持或提升模型性能，为大型语言模型在不同任务上的应用提供了灵活高效的解决方案。
1、前缀调优
前缀调优(PrefixTuning)是一种轻量级的微调替代方法，专门用于自然语言生成任务。
前缀调优的灵感来自于语言模型提示，前缀就好像是“虚拟标记”一样，这种方法可在特定任务的上下文中引导模型生成文本。
前缀调优的独特之处在于它不改变语言模型的参数，而是通过冻结LM参数，仅优化一系列连续的任务特定向量(即前缀)来实现优化任务，如图1所示
由于在训练中只需要为每个任务存储前缀，前缀调优的轻量级设计避免了存储和计算资源的浪费，同时保持了模型的性能，具有模块化和高效利用空间的特点，有望在NLP任务中提供高效的解决方案。
2、提示调优
提示调优(PromptTuning)方法是由BrianLester在论文“ThePower of Scale for Parameter-Efficient Prompt Tuning,”中提出的。
提示调优采用“软提示”(SoftPrompt)的方式，通过冻结整个预训练模型，只允许每个下游任务在输入文本前面添加k个可调的标记(Token)来优化模型参数，赋予语言模型能够执行特定的下游任务的能力，如图2所示
在论文的实验对比中，对于T5-XXL模型，每个经过调整的模型副本需要110亿个参数，相较于为每个下游任务制作特定的预训练模型副本，提示调优需要的参数规模仅为20480个参数。该方法在少样本提示方面表现出色。
3、P-Tuning v2
尽管提示调优在相应任务上取得了一定的效果，但当底座模型规模较小，特别是小于1000亿个参数时，效果表现不佳。为了解决这个问题，清华大学的团队提出了针对深度提示调优的优化和适应性实现–P-Tuning v2方法。
该方法最显著的改进是对预训练模型的每一层应用连续提示，而不仅仅是输入层。
这实际上是一种针对大型语言模型的软提示方法，主要是将大型语言模型的词嵌入层和每个Transformer网络层前都加上新的参数。
深度提示调优增加了连续提示的功能，并缩小了在各种设置之间进行微调的差距，特别是对于小型模型和困难的任务。
4、LORA
微软公司在2021年提出了一种名为Low-RankAdaptation(LORA,低秩适配器)的方法。
LORA的核心思想是通过冻结预训练模型的权重，并将可训练的秩分解矩阵注入Transformer架构的每一层，从而显著减少下游任务中可训练参数的数量。
在训练过程中，只需要固定原始模型的参数，然后训练降维矩阵A和升维矩阵B，如图3所示
与使用Adam微调的GPT-3175B相比，LORA可以将可训练参数的数量减少10000倍，并将GPU内存需求减少3倍。
尽管LORA的可训练参数较少，训练吞吐量较高，但与ROBERTa、DeBERTa、GPT-2和GPT-3等模型相比，LORA在模型质量性能方面与微调相当，甚至更好
5、DyLORA
但随着研究的深入，LORA块存在两大核心问题
（1）一旦训练完成后，LORA块的大小便无法更改，若要调整LORA块的秩，则需重新训练整个模型，这无疑增加了大量时间和计算成本。
（2）LORA块的大小是在训练前设计的固定超参，优化秩的过程需要精细的搜索与调优操作，仅设计单一的超参可能无法有效提升模型效果。
为解决上述问题，研究者引入了一种全新的方法-DyLORA(动态低秩适应)
研究者参考LORA的基本架构，针对每个LORA块设计了上投影(Wup)和下投影(Wdw)矩阵及当前LORA块的规模范围R。
为确保增加或减少秩不会明显阻碍模型的表现，在训练过程中通过对LORA块对不同秩的信息内容进行排序，再结合预定义的随机分布中进行抽样，来对LORA块镜像上投影矩阵和下投影矩阵截断，最终确认单个LORA块的大小，如图4所示
研究结果表明，与LORA相比，使用DyLORA训练出的模型速度可提升4~7倍，且性能几乎没有下降。此外，与LORA相比，该模型在更广泛的秩范围内展现出了卓越的性能。
6、AdaLORA
正如DyLORA优化方法一样，提出AdaLORA的研究者也发现，当前LORA存在的改进方向:
由于权重矩阵在不同LORA块和模型层中的重要性存在差异，因此不能提前制定一个统一规模的秩来约束相关权重信息，需要设计可以支持动态更新的参数矩阵
需要设计有效的方法来评估当前参数矩阵的重要性，并根据重要性程度，为重要性高的矩阵分配更多参数量，以提升模型效果，对重要性低的矩阵进行裁剪，进一步降低计算量根据上述思想。
研究者提出了AdaLORA方法，可以根据权重矩阵的重要性得分，在权重矩阵之间自适应地分配参数规模。
在实际操作中，AdaLoRA采用奇异值分解(SVD)的方法来进行参数训练，根据重要性指标剪裁掉不重要的奇异值来提高计算效率，从而进一步提升模型在微调阶段的效果。
7、QLORA
TimDettmers等研究者在论文“QLORA:Efficient Finetuning ofQuantized LLMs”中提出了一种高效的模型微调方法–OLORA，如图5所示
OLORA的创新内容主要如下:
4bit NormalFloat(NF4)。NF4是一种新型数据类型，它对正态分布的权重来说是信息理论上的最优选择
双重量化技术。双重量化技术减少了平均内存的使用，它通过对已量化的常量进行再量化来实现
分页优化器。分页优化器有助于管理内存峰值，防止梯度检查点时出现内存不足的错误
实验表明，QLORA技术使得研究者能够在单个48GBGPU上微调650亿个参数规模的模型，同时维持16bit精度任务的完整性能。
例如，在训练Guanaco模型时，仅需在单个GPU上微调24h，即可达到与ChatGPT相当的99.3%性能水平。通过OLORA微调技术，可以有效降低模型微调时的显存消耗
8、OA-LOR
在论文“OA-LoRA: Quantization-aware Low-rank Adaptation oflargelanguagemodels”中，研究者提出了一种量化感知的低秩适应(OA-LORA)算法。该方法来源于量化和适应的自由度不平衡的思想。
研究者提出采用分组运算符的方式，旨在增加量化自由度的同时减少适应自由度。
QA-LORA的实现简便，仅需几行代码，同时赋予原始的LORA两倍的能力:在微调过程中，LLM的权重被量化(如INT4)，以降低时间和内存的使用
微调后，LLM和辅助权重能够自然地集成到一个量化模型中，而不损失准确性
通过在LLaMA和LLaMA2模型系列的实验中证明，QA-LORA在不同的微调数据集和下游场景中验证了其有效性。
如图6所示，与之前的适应方法LORA和QLORA相比，OA-LORA在微调和推理阶段都具有更高的计算效率。
由于不需要进行训练后量化，因此它不会导致准确性损失。在图6中展示了INT4的量化，但OA-LORA可以推广到INT3和INT2
9、LongLORA
通常情况下，用较长的上下文长度训练大型语言模型的计算成本较高，需要大量的训练时间和GPU资源。
为了在有限的计算成本下扩展预训练大型语言模型的上下文大小，研究者在论文“LongLoRA: Efficient Fine-tuningof Long-ContextLarge LanguageModels”中提出了LongLORA的方法，如图7所示
LongLORA在两个方面进行了改进:
虽然在推理过程中需要密集的全局注意力，但通过采用稀疏的局部注意力，可以有效地进行模型微调。
在LongLORA中，引入的转移短暂的注意力机制能够有效地实现上下文扩展，从而在性能上与使用香草注意力(Vanilla Attention)进行微调的效果相似
通过重新审视上下文扩展的参数高效微调机制，研究者发现在可训练嵌入和规范化的前提下，用于上下文扩展的LORA表现良好
LongLORA在从70亿、130亿到700亿个参数的LLaMA2模型的各种任务上都取得了良好的结果。
LongLORA采用LLaMA2-7B型，将上下文长度从4000个Token扩展到10万个Token，展现了其在增加上下文长度的同时保持了高效计算的能力。
这为大型语言模型的进一步优化和应用提供了有益的思路。
10、VeRA
LORA是一种常用的大型语言模型微调方法，它在微调大型语言模型时能够减少可训练参数的数量。
然而，随着模型规模的进一步扩大或者需要部署大量适应于每个用户或任务的模型时，存储问题仍然是一个挑战。
研究者提出了一种基于向量的随机矩阵适应(Vector-based Randommatrix Adaptation，VeRA)的方法，VeRA的实现方法是通过使用：
对低秩矩阵在所有层之间共享，并学习小的缩放向量来实现这一目标。
与LORA相比，VeRA成功将可训练参数的数量减少了10倍，同时保持了相同的性能水平，如图8所示，LORA通过训练低秩矩阵和来更新权重矩阵，中间秩为。
在VeRA中，这些矩阵被冻结，在所有层之间共享，并通过可训练向量和进行适应，从而显著减少可训练参数的数量。
在这种情况下，低秩矩阵和向量可以合并到原始权重矩阵中，不引入额外的延迟。
这种新颖的结构设计使得VeRA在减少存储开销的同时，还能够保持和LORA相媲美的性能，为大型语言模型的优化和应用提供了更加灵活的解决方案。
实验证明，VeRA在GLUE和E2E基准测试中展现了其有效性，并在使用LLaMA2 7B模型时仅使用140万个参数的指令就取得了一定的效果。
这一方法为在大型语言模型微调中降低存储开销提供了一种新的思路，有望在实际应用中取得更为显著的效益。
11、S-LORA
LORA作为一种参数高效的大型语言模型微调方法，通常用于将基础型适应到多种任务中，从而形成了大量派生自基础模型的LORA模型。
由于多个采用LORA形式训练的模型的底座模型都为同一个，因此可以参考批处理模式进行推理。
据此，研究者提出了一种S-LoRA(Servingthousandsofcon currentLoRAadapters)方法，S-LORA是一种专为可伸缩地服务多个LORA适配器而设计的方法。
S-LORA的设计理念是将所有适配器存储在主内存中，并在GPU内存中动态获取当前运行查询所需的适配器。
为了高效使用GPU内存并减少碎片，S-LORA引入了统一分页。统一分页采用统一的内存池来管理具有不同秩的动态适配器权重以及具有不同序列长度的KV缓存张量。
此外，S-LORA还采用了一种新颖的张量并行策略和高度优化的自定义CUDA核心，用于异构批处理LORA计算。
这些特性使得S-LORA能够在单个GPU或跨多个GPU上提供数千个LORA适配器，而开销相对较小。通过实验发现，S-LORA的吞吐量提高了4倍多，并且提供的适配器数量增加了数个数量级。
因此，S-LORA在实现对许多任务特定微调模型的可伸缩服务方面取得了显著进展，并为大规模定制微调服务提供了潜在的可能性。
如何学习大模型 AI ？
由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。
但是具体到个人，只能说是：
“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。
这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。
我在一线科技企业深耕十二载，见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事，早已在效率与薪资上形成代际优势，我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。我们整理出这套AI 大模型突围资料包：
- ✅ 从零到一的 AI 学习路径图
- ✅ 大模型调优实战手册（附医疗/金融等大厂真实案例）
- ✅ 百度/阿里专家闭门录播课
- ✅ 大模型当下最新行业报告
- ✅ 真实大厂面试真题
- ✅ 2025 最新岗位需求图谱
所有资料 ⚡️ ，朋友们如果有需要《AI大模型入门+进阶学习资源包》，下方扫码获取~
① 全套AI大模型应用开发视频教程
（包含提示工程、RAG、LangChain、Agent、模型微调与部署、DeepSeek等技术点）
② 大模型系统化学习路线
作为学习AI大模型技术的新手，方向至关重要。 正确的学习路线可以为你节省时间，少走弯路；方向不对，努力白费。这里我给大家准备了一份最科学最系统的学习成长路线图和学习规划，带你从零基础入门到精通！
③ 大模型学习书籍&文档
学习AI大模型离不开书籍文档，我精选了一系列大模型技术的书籍和学习文档（电子版），它们由领域内的顶尖专家撰写，内容全面、深入、详尽，为你学习大模型提供坚实的理论基础。
④ AI大模型最新行业报告
2025最新行业报告，针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估，以了解哪些行业更适合引入大模型的技术和应用，以及在哪些方面可以发挥大模型的优势。
⑤ 大模型项目实战&配套源码
学以致用，在项目实战中检验和巩固你所学到的知识，同时为你找工作就业和职业发展打下坚实的基础。
⑥ 大模型大厂面试真题
面试不仅是技术的较量，更需要充分的准备。在你已经掌握了大模型技术之后，就需要开始准备面试，我精心整理了一份大模型面试题库，涵盖当前面试中可能遇到的各种技术问题，让你在面试中游刃有余。
以上资料如何领取？
为什么大家都在学大模型？
最近科技巨头英特尔宣布裁员2万人，传统岗位不断缩减，但AI相关技术岗疯狂扩招，有3-5年经验，大厂薪资就能给到50K*20薪！
不出1年，“有AI项目经验”将成为投递简历的门槛。
风口之下，与其像“温水煮青蛙”一样坐等被行业淘汰，不如先人一步，掌握AI大模型原理+应用技术+项目实操经验，“顺风”翻盘！
这些资料真的有用吗？
这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理，现任上海殷泊信息科技CEO，其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证，服务航天科工、国家电网等1000+企业，以第一作者在IEEE Transactions发表论文50+篇，获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。
资料内容涵盖了从入门到进阶的各类视频教程和实战项目，无论你是小白还是有些技术基础的技术人员，这份资料都绝对能帮助你提升薪资待遇，转行大模型岗位。
