TensorFlow基础篇（八）——tf.contrib.layers.l1regularizer()-12

TensorFlow中计算L1正则化和L2正则化的函数：

L1正则化：tf.contrib.layers.l1regularizer(lambda)(w)，它可以返回一个函数，这个函数可以计算一个给定参数的L1正则化项的值。

L2正则化：tf.contrib.layers.12_regularizer(lambda)(w)，可以计算L2正则化项的值。

lambda参数表示了正则化项的权重，也就是公式J（θ）＋λR(w）中的λ。w为需要计算正则化损失的参数。

正则化可以解决模型过拟合问题。

下边代码是计算L1和L2正则化：

import tensorflow as tfweights = tf.constant([[1.0, -2.0],[-3.0 , 4.0]])
with tf.Session() as sess:# 输出为(|1|+|-2|＋|-3|+|4|)x0.5=5。其中0.5为正则化项的权重。print("L1正则化值为：", end="")print(sess.run(tf.contrib.layers.l1_regularizer(0.5)(weights)))# 输出为((1)^2+(-2)^2＋(-3)^2+(4)^2)/2x0.5=7.5。其中0.5为正则化项的权重。# TensorFlow会将L2正则化损失值除以2使得求导得到的结果更加1简洁 。print("L2正则化值为：", end="")print(sess.run(tf.contrib.layers.l2_regularizer(0.5)(weights)))

结果为：

L1正则化值为：5.0
L2正则化值为：7.5

TensorFlow基础篇（八）——tf.contrib.layers.l1regularizer()-12_regularizer(lambda)相关推荐

【TensorFlow】TensorFlow函数精讲之tf.contrib.layers.l1regularizer()-12_regularizer(lambda)
TensorFlow中计算L1正则化和L2正则化的函数: L1正则化:tf.contrib.layers.l1regularizer(lambda)(w)函数,它可以返回一个函数,这个函数可以计算一个 ...
tensorflow学习（一）——有关tensorflow不同层的使用（tf.nn 和tf.layers以及tf.contrib.layers）的简单区别
版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明. 本文链接:https://blog.csdn.net/holmes_MX/article/de ...
TensorFlow——tf.contrib.layers库中的相关API
在TensorFlow中封装好了一个高级库,tf.contrib.layers库封装了很多的函数,使用这个高级库来开发将会提高效率,卷积函数使用tf.contrib.layers.conv2d,池化函 ...
TensorFlow基础篇（六）——tf.nn.max_pool()和tf.nn.avg_pool()
tf.nn.max_pool()和tf.nn.avg_pool()是TensorFlow中实现最大池化和平均池化的函数,在卷积神经网络中比较核心的方法. 有些和卷积很相似,可以参考TensorFlow ...
【TensorFlow】TensorFlow函数精讲之tf.contrib.layers.flatten()
tf.contrib.layers.flatten(A)函数使得P保留第一个维度,把第一个维度包含的每一子张量展开成一个行向量,返回张量是一个二维的,返回的shape为[第一维度,子张量乘积). 一般 ...
tf.nn 和tf.layers以及tf.contrib.layers的简单区别（转）
tensorflow不同层的使用(tf.nn 和tf.layers以及tf.contrib.layers)的简单区别(转) 2018年09月02日 18:50:33 holmes_MX 版权声明:原创 ...
第十六节，使用函数封装库tf.contrib.layers
目录一 tf.contrib.layers中的具体函数介绍 1.tf.contrib.layers.conv2d()函数的定义如下: 2.tf.contrib.layers.max_pool2d() ...
tf.contrib.layers.fully_connected详解
博主 https://www.jianshu.com/p/673fd07954e9 tf.contrib.layers.fully_connected(F, num_outputs,activatio ...
TensorFlow基础篇（三）——tf.nn.softmax_cross_entropy_with_logits
tf.nn.softmax_cross_entropy_with_logits()函数是TensorFlow中计算交叉熵常用的函数. 后续版本中,TensorFlow更新为:tf.nn.softmax ...

TensorFlow基础篇（八）——tf.contrib.layers.l1regularizer()-12_regularizer(lambda)

TensorFlow基础篇（八）——tf.contrib.layers.l1regularizer()-12_regularizer(lambda)相关推荐

最新文章

热门文章