机器学习导论(2)–梯度下降法

3,102次阅读
一条评论

引言

最近再看网易公开课–机器学习,准备好好学习一下机器学习的算法。在之前的学习过程中总是没有那么的细致的研究,现在有时间从公式的推导一步一步完成机器学习算法的学习。今天这个文章介绍的是最优化算法–梯度下降法,本来打算晚上发文章的,可是网速实在是不给力啊!

这篇的博客不再是手写了,我在草稿纸上手写推导完成以照片的形式上传~

推导过程

机器学习导论(2)--梯度下降法

步骤一

机器学习导论(2)--梯度下降法

步骤二

机器学习导论(2)--梯度下降法

步骤三

机器学习导论(2)--梯度下降法

步骤四

机器学习导论(2)--梯度下降法

步骤五

机器学习导论(2)--梯度下降法

步骤六

机器学习导论(2)--梯度下降法

步骤七

机器学习导论(2)--梯度下降法

步骤八

机器学习导论(2)--梯度下降法

步骤九

结论

随机梯度下降法面对大量的训练数据时计算的速度较快,但是不一定会收敛到全局最小值。

admin
版权声明:本站原创文章,由admin2015-05-30发表,共计703字。
转载提示:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
评论(一条评论)
boostcj@126.com 博主
2015-05-30 18:36:52 回复

:idea: