概述
最小二乘法可以说是线性回归或者机器学习中最重要一个工具了。维基百科云：它通过最小化误差的平方和寻找数据的最佳函数匹配。这学期在上导师的新课 Estimation in Control。从预估的角度，我们来看看通过最小二乘法我们能做些什么用于模型的参数预估。
文章结构如下：
- 问题描述
- 最小二乘法应用
问题描述
假设我们有系统输入
如果我们假设我们的模型参数与输入为线性关系：
我们可以定义：
那么我们就有：
上面的这个模型不仅仅适用于线性时不变系统（LTI），还可以推广用来表示其他系统，例如：
线性时变系统：
这里我们可以定义：
非线性系统：
我们可以对应地定义：
只要我们的要预估的参数于系统输入成线性关系，都可以用式（1）来表示。
假设我们可以测量
最小二乘法应用
预估模型参数可以通过最小二乘法来实现，首先我们可以定义用于评判模型参数优劣指标：残差（residual）—— 实际观察值与估计值之间的差：
最小二乘法通过最小化下面的目标函数来找到最优的模型参数：
上面的最优问题可以通过对
如果我们定义：
我们可以得到：
如果
最后
以上就是年轻悟空为你收集整理的matlab 最小二乘法拟合_模型参数预估 & 最小二乘法的全部内容，希望文章能够帮你解决matlab 最小二乘法拟合_模型参数预估 & 最小二乘法所遇到的程序开发问题。
如果觉得靠谱客网站的内容还不错，欢迎将靠谱客网站推荐给程序员好友。
本图文内容来源于网友提供，作为学习参考使用，或来自网络收集整理，版权属于原作者所有。
发表评论 取消回复