概述
最近看了一点矩阵分解的论文发现了一些好玩的东西,所以会准备总结几篇矩阵分解的文章,标题图来自facebook research。
奇异值分解相对于矩阵分解的问题
每个学过线性代数的人都不会对奇异值分解感到陌生,因为SVD广泛地应用于统计学,信号处理以及机器学习当中。形式上来看,一个维度为 m × n的实数矩阵的奇异值分列可以表示为A = U Σ Vᵀ;其中U代表的是一个维度为m × m的正交奇异向量矩阵,∑代表着奇异值的对角矩阵,最后一项是一个n × n的正交奇异向量矩阵。
在矩阵分解这个问题上,奇异值分解提供的策略是计算一个相对于A更低秩的近似矩阵Aᵣ,意味着r<m, n, 并且要使得||Aᵣ – A||最小。那么对于A = U Σ Vᵀtruncate SVD的策略是:
- 对于对角矩阵上面的奇异值进行降序排序;
- 在对角矩阵∑上面取前r个奇异值,相对应的在左右两边的奇异向量矩阵上面也取相对于的r列,最后分别得到了Σᵣ,Uᵣ, Vᵣ。
- 将Aᵣ = Uᵣ Σᵣ Vᵣᵀ作为最终矩阵分解的产物。
上述过程可以用如下的示意图来表示:
这样,通过SVD就可以成功的完成矩阵降维的过程。我们从矩阵分解来到了很相近的另外一个主题——降维,作为降维届的代表技术——PCA,而矩阵的奇异值分解能够直接得到矩阵通过
最后
以上就是舒服中心为你收集整理的qr分解求线性方程组_矩阵分解之一:Truncate SVD 和random SVD的全部内容,希望文章能够帮你解决qr分解求线性方程组_矩阵分解之一:Truncate SVD 和random SVD所遇到的程序开发问题。
如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。
本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
发表评论 取消回复