（图片来自于电子书和B站datawhale）
第三章课程大纲：
文章图片
1.机器学习的三要素：
文章图片
1.确定假设空间为正交回归：
文章图片
文章图片
2.原理讲解（分别用最小二乘法和极大似然估计）
文章图片
文章图片
文章图片
文章图片
文章图片
文章图片
文章图片
3.求解最适合的w，b：
文章图片
（First，确定E是关于w和b的凸函数）
文章图片
（首先要求出函数f（x）在x处的梯度（一阶导数））
文章图片
（再求二阶导写出海塞矩阵）
【机器学习|西瓜书《机器学习》第三章重点总结（上，一元线性回归）】
文章图片
（计算过程：一阶导再到二阶导）
文章图片
文章图片
文章图片
文章图片
文章图片
文章图片
（写出海塞矩阵，判断是否为半正定矩阵，再得出E是否为关于w，b的凸函数：）
文章图片
文章图片
文章图片
（求解最小误差下0的w和b：）
文章图片
（求b：）
文章图片
（求w：）
文章图片
文章图片
文章图片
4.在编程上的实现：
文章图片
推荐阅读
- 机器学习|西瓜书《机器学习》第三章重点总结（下，二分类线性判别分析）
- 人工智能|西瓜书《机器学习》第三章重点总结（中2，对数几率回归）
- 机器学习|西瓜书《机器学习》第三章重点总结（中，多元线性回归）
- 机器学习|西瓜书《机器学习》第二章重点总结（下）
- 机器学习|西瓜书《机器学习》第二章重点总结（上）
- 机器学习|【学习笔记】西瓜书机器学习之第四章（决策树）
- 机器学习|机器学习西瓜书——第04章决策树
- 开发Study|《机器学习》（西瓜书）第4章 决策树理解记录
- 学习笔记|机器学习入门-西瓜书总结笔记第七章