tensorflow随机性设置

案例一：

import tensorflow as tf
tf.set_random_seed(42)
sess = tf.InteractiveSession()
a = tf.constant([1, 2, 3, 4, 5])
tf.initialize_all_variables().run()
a_shuf = tf.random_shuffle(a)
print(a.eval())
print(a_shuf.eval())
sess.close()

上述代码重复运行会产生不一样的结果

import tensorflow as tf
tf.set_random_seed(42)
sess = tf.InteractiveSession()
a = tf.constant([1, 2, 3, 4, 5])
tf.initialize_all_variables().run()
a_shuf = tf.random_shuffle(a，seed=42)
print(a.eval())
print(a_shuf.eval())
sess.close()

这段代码产生相同的结果

案例二：

# using global seed
tf.set_random_seed(1)
fc1_W = tf.Variable(tf.truncated_normal(shape=(2, 2), mean=0, stddev=1))
fc2_W = tf.Variable(tf.truncated_normal(shape=(2, 2), mean=0, stddev=1))# initialize session
with tf.Session() as sess:sess.run(tf.global_variables_initializer())print('\n variables with global seed ')print('round 2.0')print(fc1_W.eval(sess))print(fc2_W.eval(sess))# new session
with tf.Session() as sess:sess.run(tf.global_variables_initializer())print('round 2.1')print(fc1_W.eval(sess))print(fc2_W.eval(sess))

第一次运行：
variables with global seed
round 2.0
[[-0.89710885 0.39287093]
[ 0.4009913 -1.9170585 ]]
[[ 1.2090957 -0.13654923]
[ 1.6384401 -0.18959242]]
round 2.1
[[-0.89710885 0.39287093]
[ 0.4009913 -1.9170585 ]]
[[ 1.2090957 -0.13654923]
[ 1.6384401 -0.18959242]]
第一次与第二次不断的创建图，其结果是相同的

第二次运行：
variables with global seed
round 2.0
[[ 1.1742289 0.03763932]
[ 0.7202809 -0.52002007]]
[[ 1.5818138 0.81615436]
[ 1.2647419 -0.6432518 ]]
round 2.1
[[ 1.1742289 0.03763932]
[ 0.7202809 -0.52002007]]
[[ 1.5818138 0.81615436]
[ 1.2647419 -0.6432518 ]]

第一次运行与第二次运行结果不相同；

结论：只靠tf.set_random_seed是没有办法做到消除随机性，该函数可以在一次运行中，创建的多个图的结果是一样的; 因为从本质上来讲，operation-level的初始值是一样的（因为初始化一次被多个图使用），而graph-level的随机种子相同，所以对于不同的图而言，不存在随机性；

随机性由两个随机种子确认（Operations that rely on a random seed actually derive it from two seeds: the graph-level and operation-level seeds来自于tensorflow官网）

tensorflow随机性设置相关推荐

TensorFlow中设置学习率的方式
目录 1. 指数衰减 2. 分段常数衰减 3. 自然指数衰减 4. 多项式衰减 5. 倒数衰减 6. 余弦衰减 6.1 标准余弦衰减 6.2 重启余弦衰减 6.3 线性余弦噪声 6.4 噪声余弦衰减 ...
一文简单弄懂tensorflow_在tensorflow中设置梯度衰减
我是从keras入门深度学习的,第一个用的demo是keras实现的yolov3,代码很好懂(其实也不是很好懂,第一次也搞了很久才弄懂) 然后是做的车牌识别,用了tiny-yolo来检测车牌位置,当时 ...
tensorflow动态设置trainable
tensorflow中定义的tf.Variable时,可以通过trainable属性控制这个变量是否可以被优化器更新.但是,tf.Variable的trainable属性是只读的,我们无法动态更改这个 ...
tensorflow/pytorch 设置GPU的使用
os.environ["CUDA_DEVICE_ORDER"] = "PCI_BUS_ID" # 按照PCI_BUS_ID顺序从0开始排列GPU设备 os.en ...
numpy 随机数_TF+Numpy减少随机性的影响
有这么一个段子: 深度学习论文有一半不公开源代码,另外公开源代码的一半复现不了,鬼知道作者怎么把结果搞得这么牛逼的. 其中一个原因就是深度学习使用了大量的随机数,就我一般使用的Python+Tenso ...
TensorFlow 卷积神经网络实用指南：1~5
原文:Hands-On Convolutional Neural Networks with TensorFlow 协议:CC BY-NC-SA 4.0 译者:飞龙本文来自[ApacheCN 深度学 ...
DL：深度学习框架Pytorch、 Tensorflow各种角度对比
DL:深度学习框架Pytorch. Tensorflow各种角度对比目录先看两个框架实现同样功能的代码 1.Pytorch.Tensorflow代码比较 2.Tensorflow(数据即是代码,代 ...
[转]在C＃中像Python一样编写TensorFlow机器学习代码
机器学习是一个令人激动人心的领域,一直有新的技术突破.研究人员不断推动机器智能的提升,教机器如何听说读写--这些曾经是我们人类专属的技能.机器学习的首选语言是Python,最受欢迎的库是Google的 ...
Tensorflow高级API的进阶--利用tf.contrib.learn建立输入函数
正文共5958个字,预计阅读时间15分钟. 笔记整理者:王小草笔记整理时间:2017年2月27日笔记对应的官方文档:https://www.tensorflow.org/get_started/i ...

tensorflow随机性设置

tensorflow随机性设置相关推荐

最新文章

热门文章