数据统计基础知识误差(error)偏差(Bias)残差(residual)方差(Variance)
因此,只要有一个确定的取值以及模型,则模型肯定有一个估计值,也就有一个残差了。但是由于在一般情况下,真实值是不知道的(测量的目的就是为了测得真实值),因此处理实际问题时常常在尽量减小系统误差的前提下,把多次平行测量值当作真实值,把偏差当作误差。我们任何一次测量都是有误差的,比如用一把米尺测量桌子的宽度,但是因为尺子的精度问题,导致并不能测出真实的宽度,再改用游标卡尺等等只能尽可能的缩小误差,但是无法避免误差。观察值等于真实值加上误差,误差由于是随机分布且均值为0,所以可以用多次测量的观测值作为真