matlab将每次迭代结果画图,机器学习-线性回归以及MATLAB octave实现

参考资料：

斯坦福大学公开课 ：机器学习课程 [第2集]监督学习应用.梯度下降

http://v.163.com/movie/2008/1/B/O/M6SGF6VB4_M6SGHJ9BO.html

http://blog.csdn.net/abcjennifer/article/details/7732417

octave入门教程

http://wenku.baidu.com/view/22f5bb10cc7931b765ce1588.html

关于非线性优化fminbnd函数的说明(仅供新手参考)(也可作为fmincon函数的参考)

http://hi.baidu.com/maodoulovexixi/item/4205be1c11fbce6d3e87ce39 http://www.docin.com/p-214776767.html

由于是刚开始接触ML和MATLAB，所以记录一些比较简单的笔记。

个人实验中未使用MATLAB，而是使用了Octave作为替代，区别只是把函数结束的end改成endfunction即可，其他部分和matlab保持一致。

文中主要框架内容参考 http://blog.csdn.net/abcjennifer/article/details/7732417

第一部分：基本模型

在解决拟合问题的解决之前，我们首先回忆一下线性回归基本模型。

设待拟合参数 θn*1 和输入参数[ xm*n, ym*1] 。

对于各类拟合我们都要根据梯度下降的算法，给出两部分：

①   cost function(指出真实值y与拟合值h之间的距离)：给出cost function 的表达式，每次迭代保证cost function的量减小；给出梯度g