TensorFlow 第二步小试牛刀：一个神经元

http://neuralnetworksanddeeplearning.com/chap3.html

neuralnetworks and deeplearning 第三章

如果采用方差函数做损失函数C，sigmod做激活函数σ（），当初始输出误差过大时，σ’≈0,导致神经元误差过小，学习很慢。

如，x=1.0,w=2.0,b=2.0,η=0.15 x*w+b=4.0

a=0.982014

a'=0.017663

下面用TensorFlow试试：

# coding=utf-8import os
#os.environ["TF_CPP_MIN_LOG_LEVEL"]='1' # 这是默认的显示等级，显示所有信息
os.environ["TF_CPP_MIN_LOG_LEVEL"]='2' # 只显示 warning 和 Error
#os.environ["TF_CPP_MIN_LOG_LEVEL"]='3' # 只显示 Error  import tensorflow as tf
x=tf.constant(1.0, name="x")
w=tf.Variable(2.0,name="w")
b=tf.Variable(2.0,name="b")
y_desired=tf.constant(0.0,name="y_desired")
model=tf.multiply(x,w,"model")
model=tf.add(model,b)
model=tf.sigmoid(model)
loss_fun=0.5*tf.pow(y_desired-model,2,name="loss_fun")
opt=tf.train.GradientDescentOptimizer(0.15).minimize(loss_fun)
#以下汇总一些参数用于TensorBoard
for value in [x,w,y_desired,model,loss_fun]:tf.summary.scalar(value.op.name,value) #汇总的标签及值
summaries=tf.summary.merge_all() #汇总合并
sess=tf.Session()# 生成一个写日志的writer，并将当前的tensorflow计算图写入日志。
# tensorflow提供了多种写日志文件的API
summary_writer=tf.summary.FileWriter(r'C:\temp\log_simple_stats',sess.graph)
sess.run(tf.global_variables_initializer())
for i in range(300):print(sess.run(model)) #取值打印summary_writer.add_summary(sess.run(summaries), i)sess.run(opt)
summary_writer.close()

在终端运行：

Tensorboard –logdir= C:\temp\log_simple_stats

C:\Users\li\AppData\Local\Programs\Python\Python36\Scripts>tensorboard --logdir=

C:\temp\log_simple_stats

TensorBoard 1.10.0 at http://li-PC:6006 (Press CTRL+C to quit)

用谷歌浏览器打开http://li-pc:6006/

写入日志文件中的可视化数据：

计算图：

TensorFlow 第二步小试牛刀：一个神经元相关推荐

tensorflow中打印一个tensor值
tensorflow中打印一个tensor值代码: import tensorflow as tf x = tf.ones(shape=[2, 3], dtype=tf.int32,name='x' ...
一个神经元的价值和一个神经病的坚持
点击上方,选择星标或置顶,不定期资源大放送! 阅读大概需要15分钟 Follow小博主,每天更新前沿干货一个神经元能够催生多少故事?香港中文大学信息工程系助理教授周博磊近日撰文介绍了他自 2015 ...
我用 tensorflow 实现的“一个神经聊天模型”：一个基于深度学习的聊天机器人
我用 tensorflow 实现的"一个神经聊天模型":一个基于深度学习的聊天机器人个工作尝试重现这个论文的结果A Neural Conversational Model(aka ...
周博磊自述5年研究经历：一个神经元的价值和一个神经病的坚持
一个神经元能够催生多少故事?香港中文大学信息工程系助理教授周博磊近日撰文介绍了他自 2015 年开始至今对神经元的研究经历.最近,他与 David Bau.朱俊彦等人合作的神经元研究论文发表在了 PN ...
使用TensorFlow 来实现一个简单的验证码识别过程
本文我们来用 TensorFlow 来实现一个深度学习模型,用来实现验证码识别的过程,这里识别的验证码是图形验证码,首先我们会用标注好的数据来训练一个模型,然后再用模型来实现这个验证码的识别. 1.验 ...
dotnet 从零开始写一个人工智能从一个神经元开始
现在小伙伴说的人工智能都是弱智能,可以基于神经网络来做.而神经网络是有多层网络,每一层网络都有多个神经元.那么最简单的神经网络就是只有一层,而这一层只有一个神经元,也就是整个神经网络只是有一个神经元. ...
TensorFlow官方入门实操课程-一个神经元的网络（线性曲线预测）
基于如下的课程进行的学习记录 TensorFlow官方入门实操课程 #设置显卡内存使用率,根据使用率占用 import os os.environ["TF_FORCE_GPU_ALLOW_G ...
一个神经元顶5到8层神经网络，深度学习的计算复杂度被生物碾压了
点击上方"AI遇见机器学习",选择"星标"公众号重磅干货,第一时间送达来自:机器之心看来人工智能的发展还任重道远. 来自耶路撒冷希伯来大学的研究者对单个神 ...
python输入float_python – 在tensorflow中创建一个float64变量
我正在尝试进行逻辑回归,我的训练数据集来自一个numpy float64数组.我的代码看起来像, import tensorflow as tf graph = tf.Graph() with gra ...

TensorFlow 第二步小试牛刀：一个神经元

TensorFlow 第二步小试牛刀：一个神经元相关推荐

最新文章

热门文章

TensorFlow 第二步 小试牛刀：一个神经元

TensorFlow 第二步 小试牛刀：一个神经元相关推荐

最新文章

热门文章

TensorFlow 第二步小试牛刀：一个神经元

TensorFlow 第二步小试牛刀：一个神经元相关推荐