机器学习|西瓜书《机器学习》第三章重点总结(中,多元线性回归)

(图片均来自于B站datawhale)
1.本节课程大纲:
机器学习|西瓜书《机器学习》第三章重点总结(中,多元线性回归)
文章图片

2.多元线性回归的Ew的引入:

机器学习|西瓜书《机器学习》第三章重点总结(中,多元线性回归)
文章图片

机器学习|西瓜书《机器学习》第三章重点总结(中,多元线性回归)
文章图片
3.使多元线性回归向量化(为了引入numpy更好计算):
机器学习|西瓜书《机器学习》第三章重点总结(中,多元线性回归)
文章图片

机器学习|西瓜书《机器学习》第三章重点总结(中,多元线性回归)
文章图片


把后者(竖着的)进行转化:
机器学习|西瓜书《机器学习》第三章重点总结(中,多元线性回归)
文章图片

机器学习|西瓜书《机器学习》第三章重点总结(中,多元线性回归)
文章图片


4.证明Ew为凸函数,验证其海塞矩阵为正定矩阵:
机器学习|西瓜书《机器学习》第三章重点总结(中,多元线性回归)
文章图片

机器学习|西瓜书《机器学习》第三章重点总结(中,多元线性回归)
文章图片

机器学习|西瓜书《机器学习》第三章重点总结(中,多元线性回归)
文章图片



(*用到3个重要的矩阵微分公式) 机器学习|西瓜书《机器学习》第三章重点总结(中,多元线性回归)
文章图片

机器学习|西瓜书《机器学习》第三章重点总结(中,多元线性回归)
文章图片


5.求一阶导等于0的w*的解:
机器学习|西瓜书《机器学习》第三章重点总结(中,多元线性回归)
文章图片


【机器学习|西瓜书《机器学习》第三章重点总结(中,多元线性回归)】

    推荐阅读