神经网络的物理学解释（一）---权重与概率幅

假设在m,n,k位置上有三个球A，B，C

现在让A撞向B，同时也让C撞向B，无论这三个小球是如何相互作用的，不管是强相互作用，弱相互作用，电磁力，或者是引力，也不管作用方向，作用力的大小，总之这两次碰撞的结果都可以用B球在n点出现概率的变化来表示，B球在n点出现的概率w3=w1+w2

制作一个简单1*2*2的神经网络，B点的输入很显然是A*Wab，按照波动力学，概率幅和电子电荷相乘就代表了电荷在空间的实际分布，把A看作电荷，Wab是归一化的权重当然也可以看作是概率幅，A*Wab就是B点的电荷的分布。

然后用Fermi-Dirac分布函数做激活函数

但是把β=1 ，εF=0

β≡1/（kB*T）

KB是玻尔兹曼常数

T是温度

εF系统中电子的化学势

ε是能量，假设能量是与B点电荷的分布有关，并且考虑电性让B点的能量

ε=（-1）*A*Wab

这样就把Fermi-Dirac分布函数变成了sigmoid分布函数

按照Fermi-Dirac的物理意义，S（x）=1/（1+e^(-A*Wab)）的意义就是B粒子占据能量-A*Wab的几率。比如S（x）=0.1的意思就是在B位置能量为-A*Wab的粒子数可能为0.1个

同理C点就是C粒子占据能量 -（B*Wbc+D*Wdc）的几率。

神经网络的物理学解释（一）---权重与概率幅相关推荐

神经网络相关名词解释
神经网络相关名词解释这篇文章的目的是把之前概念理解的名词用公式记忆一下. 1. 正则化 1.0 过拟合这是正则化主要解决的问题. 过拟合现象主要体现在accuracy rate和cost两方面: ...
神经网络算法有哪些模型,神经网络算法通俗解释
神经网络算法实例说明有哪些? 在网络模型与算法研究的基础上,利用人工神经网络组成实际的应用系统,例如,完成某种信号处理或模式识别的功能.构作专家系统.制成机器人.复杂系统控制等等. 纵观当代新兴科学技 ...
收藏 | 深度学习中神经网络的可视化解释！
点击上方"小白学视觉",选择加"星标"或"置顶" 重磅干货,第一时间送达本文转自:计算机视觉联盟第一个卷积神经网络是Alexander ...
Nat.Commun.|使用基于注意力机制的多标签神经网络预测并解释12种RNA修饰
今天介绍来自西交利物浦大学和福建医科大学的Zitao Song, Daiyun Huang等人六月份发表在Nature Communication的文章"Attention-based mu ...
卷积神经网络中的参数共享/权重复制
参数共享或权重复制是深度学习中经常被忽略的领域.但是了解这个简单的概念有助于更广泛地理解卷积神经网络的内部.卷积神经网络(cnn)能够使那些通过网络馈送的图像在进行仿射变换时具有不变性. 这个特点提供 ...
表征学习、图神经网络、可解释的 AI，ML 机器人七大研究进展一览
2020-01-21 05:41:47 作者 | Gregory J Stein编译 | 翻译官balala 编辑 | 丛末随着每一年的结束,麻省理工学院电气工程与计算机科学系博士 Gregory ...
论文浅尝 - SWJ | 基于知识图谱和注意力图卷积神经网络的可解释零样本学习
论文题目:Explainable Zero-shot Learning via Attentive Graph Convolutional Network and Knowledge Graphs 本 ...
【深度学习系列】——神经网络的可视化解释
这是深度学习系列的第三篇文章,欢迎关注原创公众号 [计算机视觉联盟],第一时间阅读我的原创!回复 [西瓜书手推笔记] 还可获取我的机器学习纯手推笔记! 深度学习系列 [深度学习系列]--深度学习简介 ...
第五章（1.1）深度学习——神经网络相关名词解释
一.前言很多人认为深度学习很枯燥,大部分情况是因为对深度学习的学术词语,特别是专有名词很困惑,即便对相关从业者,亦很难深入浅出地解释这些词语的含义. 人工智能,深度学习,机器学习-无论你在做什么,如 ...

神经网络的物理学解释（一）---权重与概率幅

神经网络的物理学解释（一）---权重与概率幅相关推荐

最新文章

热门文章