机器学习基础知识|机器学习之多元线性回归

多元线性回归 多元线性回归: 多元线性在一元线性回归的基础上,增加了多个特征,目标函数与一元线性回归类似,但也有区别
机器学习基础知识|机器学习之多元线性回归
文章图片

这样一比,区别自然而然就出来了!
多元线性回归的目标函数以及解析解 补充:
【机器学习基础知识|机器学习之多元线性回归】机器学习基础知识|机器学习之多元线性回归
文章图片

多元线性回归的目标函数
机器学习基础知识|机器学习之多元线性回归
文章图片

目标函数的解析解
机器学习基础知识|机器学习之多元线性回归
文章图片

注意:
机器学习基础知识|机器学习之多元线性回归
文章图片

代码实现

#从0实现多元回归 import numpy as np # 创建样本数据 X = np.array([[1, 2], [2, 3], [3, 4], [5, 6]]) y = np.dot(X, np.array([3, 3])) + 1 # 先使用sklearn自带的库来解决 model = LinearRegression().fit(X, y) res = np.matmul(np.linalg.inv(np.matmul(X.T,X)),np.matmul(X.T,y)) print ("手写代码实现线性回归模型参数为 coef: ", res[1:], " intercept: %.5f"%res[0])

    推荐阅读