矩阵分解——8.4 最小二乘问题
8.4 最小二乘问题
- 前置知识
- 最小二乘问题
- Moore-Pseudo 广义逆
- 最小二乘解的扰动分析
- 8.4.1 满秩最小二乘问题
- 正规化方法
- QR 分解方法（？？？）
- SVD 分解方法
- 8.4.2 亏秩最小二乘问题
- 8.4.3 数值秩的定义和确定方法
- 8.4.4 齐次最小二乘问题
- 8.4.5 约束齐次最小二乘问题
前置知识 最小二乘问题 利用已知的 A输入的刺激 b观测到的响应 求x未知系统
文章图片
8.4.1证明中因为Xls使b-AX最小，所以b-A（x+y）要大，所以两者相减大于等于0；
文章图片
Moore-Pseudo 广义逆
文章图片
文章图片
文章图片
最小二乘解的扰动分析 【矩阵分解——8.4 最小二乘问题】类似于系统的零状态和零输入响应
文章图片
8.4.1 满秩最小二乘问题
文章图片
正规化方法 将求解问题(8.4.1)转化为求解正规化方程组
文章图片
文章图片
QR 分解方法（？？？）
文章图片
这里Q是HouseholderQR分解后，Q为mxm的矩阵
文章图片
SVD 分解方法
文章图片
分子分母作为v的系数
8.4.2 亏秩最小二乘问题
文章图片
8.4.3 数值秩的定义和确定方法 从上面的讨论，可以看出亏秩最小二乘问题(8.4.1)求解与矩阵的秩密切相关。然而“秩”这一在数学上精确定义的概念，在数据有误差时或者在计算机上进行浮点运算时，就变得模糊不清了。这样就自然地引进了所谓的数值秩的概念。
文章图片
文章图片
8.4.4 齐次最小二乘问题
文章图片
文章图片
利用矩阵A 的SVD 分解，也可以求解(8.4.15)。
文章图片
齐次就是个Reilaygh商
8.4.5 约束齐次最小二乘问题
文章图片
文章图片
文章图片
中间一步x’掉了下标r
已知输入及观测值为0，求系统
推荐阅读
- 急于表达——往往欲速则不达
- 慢慢的美丽
- 《真与假的困惑》???|《真与假的困惑》??? ——致良知是一种伟大的力量
- 2019-02-13——今天谈梦想（）
- 考研英语阅读终极解决方案——阅读理解如何巧拿高分
- Ⅴ爱阅读，亲子互动——打卡第178天
- 低头思故乡——只是因为睡不着
- 取名——兰
- 每日一话（49）——一位清华教授在朋友圈给大学生的9条建议
- 广角叙述|广角叙述 展众生群像——试析鲁迅《示众》的展示艺术