【Python-ML】神经网络激励函数-Softmax

# -*- coding: utf-8 -*-
'''
Created on 2018年1月27日
@author: Jason.F
@summary: 前馈神经网络激励函数-softmax函数，评估多类别分类任务中的类别概率
'''
import numpy as np
import timeif __name__ == "__main__":   start = time.clock()  def net_input(X,w):z=X.dot(w)return zdef softmax(z):return np.exp(z)/np.sum(np.exp(z))def softmax_activation(X,w):z=net_input(X,w)return softmax(z)#W:array,shape=[n_output_units,n_hidden_units+1],weight matrix for hidden layer --> output layer#note that first column (A[:][0]=1) are the bias units.W=np.array([[1.1,1.2,1.3,0.5],[0.1,0.2,0.4,0.1],[0.2,0.5,2.1,1.9]])#A:array,shape=[n_hiddern+1,n_samples],Activation of hidden layer.#note that first element (A[0][0]=1) is the bias unit.A=np.array([[1.0],[0.1],[0.3],[0.7]])#Z:array,shape=[n_output_units,n_samples],Net input of the output layer.Z=W.dot(A)y_probas = softmax(Z)print ('Probabilities:\n',y_probas)print (y_probas.sum())y_class = np.argmax(Z,axis=0)print ('predicted class label:%d'%y_class[0])end = time.clock()    print('finish all in %s' % str(end - start))

结果：

('Probabilities:\n', array([[ 0.40386493],[ 0.07756222],[ 0.51857284]]))
1.0
predicted class label:2
finish all in 0.00170994801643

【Python-ML】神经网络激励函数-Softmax相关推荐

结合反向传播算法使用python实现神经网络的ReLU、Sigmoid、Affine、Softmax-with-Loss层
结合反向传播算法使用python实现神经网络的ReLU.Sigmoid激活函数层这里写目录标题一.ReLU层的实现二.Sigmoid层的实现三.实现神经网络的Affine层四.Softmax ...
梯度、梯度法、python实现神经网络的梯度计算
[机器学习]梯度.梯度法.python实现神经网络的梯度计算一.python实现求导的代码: 二.what is 梯度三.使用梯度法寻找神经网络的最优参数四.神经网络的梯度计算一.python ...
python跑神经网络_程序员深夜用Python跑神经网络，只为用中二动作关掉台灯！
原标题:程序员深夜用Python跑神经网络,只为用中二动作关掉台灯! 关注文章源于网络,如有侵权请联系删除. 对于上了床就再也不想下来的人来说,关灯成为睡觉前面临的最大挑战! 然而这一届网友永远不会 ...
Python 卷积神经网络 ResNet的基本编写方法
ResNet(Residual Network)是由微软亚洲研究院提出的深度卷积神经网络,它在2015年的ImageNet挑战赛上取得了第一名的好成绩.ResNet最大的特点是使用了残差学习,可以解决 ...
python实现简单的神经网络,python实现神经网络算法
如何用9行Python代码编写一个简易神经网络学习人工智能时,我给自己定了一个目标--用Python写一个简单的神经网络.为了确保真得理解它,我要求自己不使用任何神经网络库,从头写起.多亏了Andr ...
python搭建神经网络模型,python实现神经网络算法
如何用 Python 构建神经网络择时模型 . importmathimportrandom(0)defrand(a,b):#随机函数return(b-a)*random.random()+adefm ...
python制作神经网络_python_deeplearning02_使用python制作神经网络
20180421 qzd ch02 - 使用python制作神经网络构建框架初始化函数 -- 设定输入层节点.隐藏层节点和输出层节点的数量. 训练 -- 学习给定训练集样本后,优化权重(权重--网 ...
深度学习与计算机视觉：基于Python的神经网络的实现
在前面两篇文章介绍了深度学习的一些基本概念,本文则使用Python实现一个简单的深度神经网络,并使用MNIST数据库进行测试. 神经网络的实现,包括以下内容: 神经网络权值的初始化正向传播误差评估 ...
【Python-ML】神经网络激励函数-双曲正切(hyperbolic tangent,tanh)函数
# -*- coding: utf-8 -*- ''' Created on 2018年1月27日 @author: Jason.F @summary: 前馈神经网络激励函数-双曲正切(hyperbo ...

【Python-ML】神经网络激励函数-Softmax

【Python-ML】神经网络激励函数-Softmax相关推荐

最新文章

热门文章