正规方程法在求解线性回归问题时 。正规方程法非常有用 。
举一个简单的例子 – 单变量的线性回归 。在下图中 。有三个线性方程 。因为我们有三个数据 。
文章插图
文章插图
在线性代数中 。线性系统可以表示为矩阵方程 。
文章插图
文章插图
如果您熟悉线性代数中的伪逆的概念 。则可以通过以下公式获得参数θ：
文章插图
文章插图
在多元线性回归中 。公式与上述相同 。但是 。如果正规方程是不可逆的怎么办？然后考虑删除冗余特征或使用正则化 。
总之 。使用正规方程的优点是
无需选择学习率α
无需迭代
特征缩放不是必需的
请注意 。如果特征的数量非常大 。则“正规方程”的工作速度非常慢 。而“梯度下降”算法仍能正常工作 。
推荐阅读
- 华油杂50产量高吗 华油杂50品种介绍
- “良言一句三冬暖,恶语伤人六月寒”,你有什么体悟？
- 怎样在主流地图的底图上标注上我的店铺位置？现在只能搜索可见？
- 宝宝双耳朵不一样怎么治疗 宝宝两只耳朵不一样怎么办
- 千元四核手机推荐 千元内的四核手机哪个牌子最好
- 王志安在周立波事件中起到了什么作用？
- 如何让商铺位置在高德地图上优先显示？
- 抖音父亲节走心文案 父亲节走心祝福语
- 孩子嘴唇发紫的原因 孩子嘴唇发紫的原因是什么