Python学习100天（从入门到精通系列文章）
文章目录
- Python学习100天（从入门到精通系列文章）
- 前言
- 一、回归模型概述
- 1.1 什么是回归模型
- 1.2 回归模型的实际应用
- 1.3 回归模型的分类
- 二、线性回归：核心原理与数学推导
- 2.1 一元线性回归
- 2.2 多元线性回归
- 2.3 回归系数的计算：最小二乘法
- 2.4 梯度下降法
- 三、实战案例：汽车MPG数据集回归分析
- 3.1 数据集介绍
- 3.2 数据预处理
- 3.3 线性回归实现
- 3.4 模型评估
- 四、正则化方法：防止过拟合的利器
- 4.1 岭回归（Ridge Regression）
- 4.2 套索回归（Lasso Regression）
- 4.3 弹性网络回归（Elastic Net）
- 五、多项式回归与逻辑回归
- 5.1 多项式回归
- 5.2 逻辑回归
- 5.3 随机梯度下降回归
- 六、常见错误与避坑指南
- 6.1 错误一：忽略特征缩放直接使用梯度下降
- 6.2 错误二：多项式回归阶数过高导致过拟合
- 6.3 错误三：混淆逻辑回归的"回归"本质
- 参考链接
- 总结
前言
在上一篇文章中，我们学习了朴素贝叶斯分类算法，掌握了如何通过概率来进行分类预测。今天我们将转向机器学习的另一大核心任务——回归分析。回归模型是机器学习和统计学中最基础的模型之一，用于预测连续型输出变量。从房价预测到销量预估，从电池寿命评估到股票趋势分析，回归模型无处不在。本文将带你从线性回归的基本原理出发，逐步深入到多项式回归、正则化方法和逻辑回归，通过汽车MPG数据集的实战案例，帮助你全面掌握回归分析的核心技术。适合有一定Python基础、正在系统学习机器学习的读者。
一、回归模型概述
1.1 什么是回归模型
回归模型是机器学习和统计学中的一种基本模型，用于预测连续型输出变量。简单地说，给定一组输入变量（自变量）和对应的输出变量（因变量），回归模型旨在找到输入变量和输出变量之间的映射关系。通常，我们建立回归模型主要有两个目标：
- 描述数据之间的关系。机器学习的关键就是要通过历史数据掌握如何从特征映射到目标值，这个过程不需要我们事先设置任何规则，而是让机器通过对历史数据的学习来获得。回归模型可以帮助我们通过模型表达输入和输出之间的关系。
- 对未知数据做出预测。通过学习到的映射关系，模型可以对新的输入数据进行预测。
1.2 回归模型的实际应用
回归模型的应用非常广泛，我们为大家举几个具体的例子：
