文章目录
- 一、为什么我要写这篇
- Java 开发者为什么要懂一点 LoRA
- 阅读建议
- 二、先说结论：Mac 虚拟机不适合直接训 Qwen-7B
- 三、准备 Ubuntu 基础环境
- 四、创建项目目录和 Python 虚拟环境
- Python 虚拟环境是干什么的？
- 五、安装依赖
- 六、依赖验证时踩的坑
- 1. `IndentationError: unexpected indent`
- 2. `transformers.version` 报错
- 七、HuggingFace 不通怎么办
- 八、准备训练数据
- 九、LoRA 训练脚本
- 十、LoRA adapter 是什么
- 十一、训练时的几个坑
- 1. `no_cuda` 参数报错
- 2. 训练到一半 `Killed`
- 3. 训练完回答还是胡编
- 十二、epoch 和过拟合
- 十三、验证 LoRA 结果
- 十四、这次实操到底学到了什么
- 十五、总结
一、为什么我要写这篇
最近我在学习大模型微调，目标很简单：
不是一上来训练一个能上生产的模型，而是先把LoRA 微调的完整流程跑通。
我手头环境比较普通：
- Mac 电脑
- Ubuntu 虚拟机
- 没有 NVIDIA CUDA GPU
- 没有完整深度学习环境
所以这篇不是那种“上来 A100 跑 Qwen-7B”的教程，而是一篇更贴近日常学习的实操记录：
在没有 GPU 的 Ubuntu 虚拟机里，如何从零搭环境，跑通 Qwen 小模型的 LoRA 微调流程。
整个过程包括：
- 安装 Ubuntu 基础环境
- 创建 Python 虚拟环境
- 安装 PyTorch、Transformers、PEFT 等依赖
- 准备训练数据
- 使用 LoRA 训练 Qwen2.5-0.5B-Instruct
- 生成 adapter
- 加载 adapter 推理验证
- 记录过程中遇到的坑
这篇文章适合：
- Java 后端想了解大模型微调
- 做 AI 应用层开发，但想补一点模型训练常识
- 想理解 LoRA / adapter / epoch / 过拟合这些概念
- 没有 GPU，只想先把流程跑通
