2019年09月19日的内容
深度学习优化器-优化Tricks
在前面两篇文章中，我们用一个框架梳理了各大优化算法，并且指出了以 Adam 为代表的自适应学习率优化算法可能存在的问题。那么，在实践中我们应该如何选择呢？本文介绍 Adam+SGD 的组合策略，以及一些比较有用的 tricks.回顾前文：Adam 那么棒，为什么还对 SGD 念念不忘 (1)Adam 那么棒，为什么还对 SGD 念念不忘 (2)不同……
09-19 立刻查看
深度学习优化器-Adam两宗罪
在上篇文章中，我们用一个框架来回顾了主流的深度学习优化算法。可以看到，一代又一代的研究者们为了我们能炼（xun）好（hao）金（mo）丹（xing）可谓是煞费苦心。从理论上看，一代更比一代完善，Adam/Nadam 已经登峰造极了，为什么大家还是不忘初心 SGD 呢？举个栗子。很多年以前，摄影离普罗大众非常遥远。十年前，傻瓜相机开始风靡，游客几乎人手一个。……
09-19 立刻查看
深度学习优化器-一个框架看懂优化算法
机器学习界有一群炼丹师，他们每天的日常是：拿来药材（数据），架起八卦炉（模型），点着六味真火（优化算法），就摇着蒲扇等着丹药出炉了。不过，当过厨子的都知道，同样的食材，同样的菜谱，但火候不一样了，这出来的口味可是千差万别。火小了夹生，火大了易糊，火不匀则半生半糊。机器学习也是一样，模型优化算法的选择直接关系到最终模型的性能。有时候效果不好，未必是特征的……
09-19 立刻查看
