FISTA的由来:从梯度下降法到ISTA & FISTA前言:1.梯度下降法2.ISTA算法3.FISTA4.ISTA&FISTA的应用(去模糊)5.ISTA&FISTA的应用(特征匹配)
前言:FISTA(A fast iterative shrinkage-thresholding algorithm)是一种快速的迭代阈值收缩算法(ISTA)。FISTA和ISTA都是基于梯度下降的思想,在迭代过程中进行了更为聪明(smarter)的选择,从而达到更快的迭代速度。理论证明:FISTA和ISTA的迭代收敛速度分别为O(1/k2)和O(1/k)。 本篇博文先从解决优化问题的传