2019年04月的内容
Tensorflow 分布式训练 horovod概念
在写这篇文章之前，压根就没使用过 tensorflow 分布式学习，以前日常工作的数据量也不需要这么大的计算资源，现在需要面临处理数亿级别的数据，所以为了提升模型训练的效率，必须要使用分布式训练，所以还是需要去学习分布式模型训练，并且还要修改源码支持分布式训练。 为什么不选择传统分布式 TensorFlow?The primary motivatio……
TensorFlow SaveModel API 入门
最近换了新坑，组里的 tensorflow 版本基本上都赶到了最新的 1.13 版本了，我最近写的代码都是基于 1.13.1 了，其中有一个就是 tensorflow 保存模型这块，使用了 SavedModel。为什么不使用 checkpoint？Saver.restore()需要提前建立好计算图，这在理论上是可行的，但是对于模型跨平台来说，成本和效率……
Tensorflow中梯度裁剪
本文简单介绍梯度裁剪(gradient clipping)的方法及其作用，不管在 RNN 或者在其他网络都是可以使用的，比如博主最最近训练的 DNN 网络中就在用。梯度裁剪一般用于解决 梯度爆炸(gradient explosion) 问题，而梯度爆炸问题在训练 RNN 过程中出现得尤为频繁，所以训练 RNN 基本都需要带上这个参数。常见的 gradien……
Tensorflow pipline 性能
输入管道性能指南GPU 和 TPU 可以从根本上缩短执行单个训练步骤所需的时间。为了实现最佳性能的目的，我们需要一个高效的输入管道用于在当前步骤完成前为下一步骤提供数据。tf.data API 有利于构建灵活高效的输入管道。本文档介绍了 tf.data 的特性以及在各种模型和加速器中构建高性能 TensorFlow 输入管道的最佳实践。本指南主要有以下内……
tf.GraphKeys简介
GraphKeystf.GraphKeys包含所有graph collection中的标准集合名，有点像 Python 里的 build-in fuction。首先要了解graph collection是什么。graph collection在官方教程——图和会话中，介绍什么是 tf.Graph是这么说的：tf.Graph包含两类相关信息：……
136.OJ-获取列表中仅出现一次的数字
给定一个非空的整数数组，除了一个元素外，每个元素都会出现两次。 找一个单一的。Note:您的算法应具有线性运行时复杂性。 你能不用额外的内存来实现吗？示例 1:Input: [2,2,1]Output: 1 示例 2:Input: [4,1,2,1,2]Output: 4解法：这个题算是划水的，主要是注意点是在不适用额……
123. 最佳时间买卖股票(仅限N次)
假设您有一个数组，其中第 i 个元素是第 i 天给定股票的价格。设计算法以找到最大利润。 您最多可以完成两笔交易。注意：您不得同时进行多笔交易（即，您必须在再次购买之前卖出股票）。例 1：输入：[3,3,5,0,0,3,1,4]产量：6说明：在第 4 天买入（价格= 0）并在第 6 天卖出（价格= 3），利润= 3-0 = 3。然后在第 7 天……
121. Best Time to Buy and Sell Stock(最佳时间买卖)
假设您有一个数组，其中的 ith 元素是第 i 天给定股票的价格。如果你只被允许完成至多一笔交易（即买一份，卖一份股票），设计一个算法来找到最大利润。请注意，在购买股票之前，您不能出售股票。Example 1:Input: [7,1,5,3,6,4]Output: 5Explanation: Buy on day 2 (price = 1) ……
118. Pascal’s Triangle(帕斯卡三角形)
Given a non-negative integer numRows, generate the first numRows of Pascal’s triangle.In Pascal’s triangle, each number is the sum of the two numbers directly above ……
