tansig、logsig公式与导数推导

原文来自《老饼玩转-BP神经网络》http://bp.bbbdata.com/teach#132

一、公式

二、导数

三、求导过程

(一)tansig求导过程

(二)logsig求导过程

tansig和logsig经常用于做BP神经网络的激活函数，它们的导数都有良好的性质：导数可以用自身表示。

本文讲述tansig和logsig的导数推导过程。

一、公式

tansig和logsig都是S型曲线，它们的区别在于，tansig的取值范围在[-1,1]之间，而logsig的范围在[0,1]之间。

二、导数

tansig和logsig的导数公式如下：

tansig求导

logsig求导

三、求导过程

下面我们具体推导tansig和logsig的导数过程

(一)tansig求导过程

又

即有：

所以，tansig只需要算出自身的平方值，再1-即可以得到导数值。

(二)logsig求导过程

所以，logsig只要算出自身值，再自身体-自身值的平方即可得到导数值。

相关文章

《BP神经网络梯度推导》

《BP神经网络提取的数学表达式》

《一个BP的完整建模流程》

tansig、logsig公式与导数推导相关推荐

x的a次方怎么用计算机求x,x的a次方的导数图像-导数的求导法则-x的a次方求导公式用定义推导...
宜城教育资源网www.ychedu.com x的a次方的导数图像-导数的求导法则-x的a次方求导公式用定义推导导数的求导法则1.求导的线性:对函数的线性组合求导,等于先对其中每个部分求导后再取线性组 ...
余弦函数导数推导过程_人工智能数学基础----导数
人工智能数学基础----导数人工智能数学基础系列文章 1. 人工智能数学基础----导数 2. 人工智能数学基础----矩阵 3. 人工智能数学基础----线性二阶近似人工智能的学习对于数学要求还 ...
余弦函数导数推导过程_对三角函数深入理解以及换元法的应用
在上期内容<高考倒计时决战60日--第四集:线性规划概念梳理及对应解题策略>中,叶老师向大家再次介绍了一下线性规划的有关概念以及对应高考题的解题策略,并向大家再次强调了三种目标函数的化简以 ...
Lucene学习总结之六：Lucene打分公式的数学推导
Lucene学习总结之六:Lucene打分公式的数学推导在进行Lucene的搜索过程解析之前,有必要单独的一张把Lucene score公式的推导,各部分的意义阐述一下.因为Lucene的搜索 ...
LSTM公式详解推导
书籍简介 LSTM理解 LSTM流程简介算法及公式一些函数一些符号前向传播反向传播关于误差的定义公式推导总结书籍简介 <Surpervised Sequence Labelli ...
罗德里格斯公式理解、推导
罗德里格斯公式(Rodriguez formula)是计算机视觉中的一大经典公式,在描述相机位姿的过程中很常用.公式: R = I + s i n ( θ ) K + ( 1 − c o s ( ...
正余弦函数及其反函数导数推导
正余弦函数及其反函数导数推导背景三角函数的求导涉及到重要极限 limx→0sinxx\lim_{x\to0}\frac{sin x}{x} 的使用. 其反三角函数涉及复合函数求导.此文主要是对这两 ...
样本方差公式是如何推导出来的？
样本方差公式是如何推导出来的? - 知乎先计算出期望和方差的最大似然估计,再判断他们是否有偏差,给予修正偏差有无是通过估计量的期望是否= 被估计量的真实值来衡量的方差:一个随机变量的方差 ...
math_基本导数公式@积分公式@部分推导
文章目录导数积分公式表

tansig、logsig公式与导数推导

一、公式

二、导数

三、求导过程

(一)tansig求导过程

(二)logsig求导过程

tansig、logsig公式与导数推导相关推荐

最新文章

热门文章