引言

最近再看网易公开课–机器学习，准备好好学习一下机器学习的算法。在之前的学习过程中总是没有那么的细致的研究，现在有时间从公式的推导一步一步完成机器学习算法的学习。今天这个文章介绍的是最优化算法–梯度下降法，本来打算晚上发文章的，可是网速实在是不给力啊！

这篇的博客不再是手写了，我在草稿纸上手写推导完成以照片的形式上传~

推导过程

步骤一

步骤二

步骤三

步骤四

步骤五

步骤六

步骤七

步骤八

步骤九

结论

随机梯度下降法面对大量的训练数据时计算的速度较快，但是不一定会收敛到全局最小值。