病态矩阵

  中国有句古话“差之毫厘，谬以千里”，说的可能是测量时一个小小的误差，方程组的解就差距非常大。比如以下方程组：
$$\begin{gathered} x_1+x_2=20 \\ {x}_1+1.999x_2=19.99 \end{gathered}$$
  解得$x_1=10,x_2=10$。假如这是一个实验场景，再一次测量得到了另一个方程：
$$\begin{gathered} x_1+x_2=20 \\ {x}_1+1.001x_2=19.99 \\ {x}_1=30,x_2=-10 \end{gathered}$$
  这时候方程组的解为$x_1=30,x_2=-10$。一个小小的系数误差，方程组的解就变动如此巨大。对于这种系数矩阵，我们就叫它病态矩阵ill-conditioned matrix。

误差分析

  当然，病态矩阵无论是系数变动一下还是常数项变动一下，结果都千差万别。所以只需要研究下常数项的变动就可以了。假设原方程如下：
$$Ax=b$$
  常数项出了点误差，误差为$e$，方程就变成了：
$$Ay=b+e$$
  如果常数项只是一个数字，那么常数项的误差系数就是$\frac{e}{b}$。但是向量没有除法，所有怎么衡量误差呢？这个时候就需要用到范数，把向量变成一个非负实数。所以常数项的误差就这样衡量：
$$\frac{\parallel e\parallel }{\parallel b\parallel }$$
  同意，方程解的误差就这样衡量：
$$\frac{\parallel y-x\parallel }{\parallel x\parallel }$$

误差不等式

  方程组误差不等式：
$$\frac{1}{\parallel A\parallel \parallel A^{-1}\parallel }\frac{\parallel e\parallel }{\parallel b\parallel }\le \frac{\parallel y-x\parallel }{\parallel x\parallel }\le \parallel A\parallel \parallel A^{-1}\parallel \frac{\parallel e\parallel }{\parallel b\parallel }$$
  怎么证明呢？首先，两个方程相减，得到了以下方程：
$$\begin{gathered} A(y-x)=e \\ \Rightarrow y-x=A^{-1}e \end{gathered}$$
  根据范数的相容不等式，有：
$$\parallel y-x\parallel \le \parallel A^{-1}\parallel \parallel e\parallel$$
  再根据$b=Ax$和范数相容不等式，有：
$$\begin{gathered} \parallel b\parallel \le \parallel A\parallel \parallel x\parallel \\ \Rightarrow 1\le \frac{\parallel A\parallel \parallel x\parallel }{\parallel b\parallel } \\ \Rightarrow \frac{1}{\parallel x\parallel }\le \frac{\parallel A\parallel }{\parallel b\parallel } \end{gathered}$$
  将两个不等式相乘得到了：
$$\begin{gathered} \parallel y-x\parallel \frac{1}{\parallel x\parallel }\le \parallel A^{-1}\parallel \parallel e\parallel \frac{\parallel A\parallel }{\parallel b\parallel } \\ \Rightarrow \frac{\parallel y-x\parallel }{\parallel x\parallel }\le \parallel A\parallel \parallel A^{-1}\parallel \frac{\parallel e\parallel }{\parallel b\parallel } \end{gathered}$$
  右边就证明完了。根据$e=A(y-x)$，有：
$$\begin{gathered} \parallel e\parallel \le \parallel A\parallel \parallel y-x\parallel \\ \Rightarrow \frac{\parallel e\parallel }{\parallel A\parallel }\le \parallel y-x\parallel \end{gathered}$$
  再根据$x=A^{-1}b$，有：
$$\begin{gathered} \parallel x\parallel \le \parallel A^{-1}\parallel \parallel b\parallel \\ \Rightarrow \parallel A^{-1}\parallel \parallel b\parallel \ge \parallel x\parallel \\ \Rightarrow \frac{1}{\parallel A^{-1}\parallel \parallel b\parallel }\le \frac{1}{\parallel x\parallel } \end{gathered}$$
  两个不等式合起来，得到：
$$\begin{gathered} \frac{\parallel e\parallel }{\parallel A\parallel }\frac{1}{\parallel A^{-1}\parallel \parallel b\parallel }\le \parallel y-x\parallel \frac{1}{\parallel x\parallel } \\ \Rightarrow \frac{1}{\parallel A\parallel \parallel A^{-1}\parallel }\frac{\parallel e\parallel }{\parallel b\parallel }\le \frac{\parallel y-x\parallel }{\parallel x\parallel } \end{gathered}$$
  左边就证明出来。

条件数

  误差$\frac{\parallel y-x\parallel }{\parallel x\parallel }$的最小值没有什么意义，因为随着$\parallel e\parallel$变得很小，误差也很小，重点看方程解误差的最大值。$\parallel A\parallel \parallel A^{-1}\parallel$决定了对方程组常数项误差的最大放大倍数，这个就是矩阵的条件数condition number,符号为$K(A)$。一般来说向量2-范数和矩阵F范数相容，所以我们就用F-范数计算矩阵范数。
  再来看前面那个方程组的条件数是多少：
$$\begin{gathered} A=\left(\begin{array}{cc}1& 1\\ 1& 0.999\end{array}\right) \\ ||A|{|}_F=1.9995001875468779 \\ {A}^{-1}=\left(\begin{array}{cc}-998.9999999999991& 999.9999999999991\\ 999.9999999999991& -999.9999999999991\end{array}\right) \\ ||A^{-1}|{|}_F=1999.500187546876 \\ ||A|{|}_F||A^{-1}|{|}_F=3998.000999999996 \end{gathered}$$
  所以这个矩阵的条件数是非常大的，一个微小的误差就会导致方程的解变化很大。

最后

以上就是失眠口红为你收集整理的7.6 矩阵的条件数病态矩阵误差分析误差不等式条件数的全部内容，希望文章能够帮你解决7.6 矩阵的条件数病态矩阵误差分析误差不等式条件数所遇到的程序开发问题。

如果觉得靠谱客网站的内容还不错，欢迎将靠谱客网站推荐给程序员好友。