在一维的世界里寻找迭代次数的影子
( A, B )---1*30*2---( 1, 0 )( 0, 1 )
让网络的输入只有1个节点，AB各由3张二值化的图片组成，排列组合A和B的所有可能性，固定收敛误差，统计收敛迭代次数
|
A |
B |
迭代次数 |
||||||||||
|
0 |
0 |
0 |
1 |
1 |
1 |
1b |
1b |
1b |
0*0*0-1*1*1 |
27152.97 |
如网络0*0*0-1*1*1，A是0，0，0，B是1，1，1.差值结构是1b，1b，1b，当收敛误差为7e-4的时候平均迭代次数为27152次。
其余各组数据如下
|
A |
B |
7.00E-04 |
||||||||||
|
0 |
0 |
0 |
1 |
1 |
1 |
1b |
1b |
1b |
0*0*0-1*1*1 |
27152.97487 |
||
|
1 |
1 |
1 |
0 |
0 |
0 |
1 |
1 |
1 |
1*1*1-0*0*0 |
27300.39698 |
||
|
1 |
1 |
0 |
0 |
0 |
0 |
1 |
1 |
0 |
1*1*0-0*0*0 |
28585.72362 |
||
|
0 |
0 |
0 |
1 |
0 |
1 |
1b |
0 |
1b |
0*0*0-1*0*1 |
28613.12563 |
||
|
1 |
0 |
1 |
0 |
0 |
0 |
1 |
0 |
1 |
1*0*1-0*0*0 |
28617.34171 |
||
|
0 |
0 |
0 |
1 |
1 |
0 |
1b |
1b |
0 |
0*0*0-1*1*0 |
28675.66834 |
||
|
0 |
1 |
1 |
0 |
0 |
0 |
0 |
1 |
1 |
0*1*1-0*0*0 |
28685.56281 |
||
|
0 |
0 |
0 |
0 |
1 |
1 |
0 |
1b |
1b |
0*0*0-0*1*1 |
28721.68844 |
||
|
1 |
1 |
1 |
0 |
1 |
0 |
1 |
k |
1 |
1*1*1-0*1*0 |
46507.47739 |
||
|
1 |
1 |
1 |
1 |
0 |
0 |
k |
1 |
1 |
1*1*1-1*0*0 |
46618.54271 |
||
|
1 |
1 |
1 |
0 |
0 |
1 |
1 |
1 |
k |
1*1*1-0*0*1 |
46639.72864 |
||
|
0 |
0 |
1 |
1 |
1 |
1 |
1b |
1b |
k |
0*0*1-1*1*1 |
46759.24121 |
||
|
1 |
0 |
0 |
1 |
1 |
1 |
k |
1b |
1b |
1*0*0-1*1*1 |
46799.26131 |
||
|
0 |
1 |
0 |
1 |
1 |
1 |
1b |
k |
1b |
0*1*0-1*1*1 |
46822.42714 |
||
|
0 |
0 |
0 |
0 |
0 |
1 |
0 |
0 |
1b |
0*0*0-0*0*1 |
63014.05025 |
||
|
0 |
0 |
0 |
1 |
0 |
0 |
1b |
0 |
0 |
0*0*0-1*0*0 |
63260 |
||
|
0 |
0 |
0 |
0 |
1 |
0 |
0 |
1b |
0 |
0*0*0-0*1*0 |
63339.60804 |
||
|
1 |
0 |
0 |
0 |
0 |
0 |
1 |
0 |
0 |
1*0*0-0*0*0 |
63340.37688 |
||
|
0 |
0 |
1 |
0 |
0 |
0 |
0 |
0 |
1 |
0*0*1-0*0*0 |
63340.75879 |
||
|
0 |
1 |
0 |
0 |
0 |
0 |
0 |
1 |
0 |
0*1*0-0*0*0 |
63485.92462 |
||
|
1 |
1 |
1 |
1 |
0 |
1 |
k |
1 |
k |
1*1*1-1*0*1 |
121408.5427 |
||
|
1 |
1 |
1 |
1 |
1 |
0 |
k |
k |
1 |
1*1*1-1*1*0 |
121973.3668 |
||
|
0 |
1 |
1 |
1 |
1 |
1 |
1b |
k |
k |
0*1*1-1*1*1 |
121988.8392 |
||
|
1 |
0 |
1 |
1 |
1 |
1 |
k |
1b |
k |
1*0*1-1*1*1 |
122891.6533 |
||
|
1 |
1 |
1 |
0 |
1 |
1 |
1 |
k |
k |
1*1*1-0*1*1 |
123237.3869 |
||
|
1 |
1 |
0 |
1 |
1 |
1 |
k |
k |
1b |
1*1*0-1*1*1 |
123529.2915 |
||
|
0 |
0 |
0 |
0 |
0 |
0 |
0 |
0 |
0 |
0*0*0-0*0*0 |
400000 |
||
|
0 |
0 |
1 |
0 |
0 |
1 |
0 |
0 |
k |
0*0*1-0*0*1 |
400000 |
||
|
0 |
0 |
1 |
0 |
1 |
0 |
0 |
1b |
1 |
0*0*1-0*1*0 |
400000 |
||
|
0 |
0 |
1 |
1 |
0 |
0 |
1b |
0 |
1 |
0*0*1-1*0*0 |
400000 |
||
|
0 |
1 |
0 |
0 |
0 |
1 |
0 |
1 |
1b |
0*1*0-0*0*1 |
400000 |
||
|
0 |
1 |
0 |
0 |
1 |
0 |
0 |
k |
0 |
0*1*0-0*1*0 |
400000 |
||
|
0 |
1 |
0 |
1 |
0 |
0 |
1b |
1 |
0 |
0*1*0-1*0*0 |
400000 |
||
|
0 |
1 |
1 |
0 |
1 |
1 |
0 |
k |
k |
0*1*1-0*1*1 |
400000 |
||
|
0 |
1 |
1 |
1 |
0 |
1 |
1b |
1 |
k |
0*1*1-1*0*1 |
400000 |
||
|
0 |
1 |
1 |
1 |
1 |
0 |
1b |
k |
1 |
0*1*1-1*1*0 |
400000 |
||
|
1 |
0 |
0 |
0 |
0 |
1 |
1 |
0 |
1b |
1*0*0-0*0*1 |
400000 |
||
|
1 |
0 |
0 |
0 |
1 |
0 |
1 |
1b |
0 |
1*0*0-0*1*0 |
400000 |
||
|
1 |
0 |
0 |
1 |
0 |
0 |
k |
0 |
0 |
1*0*0-1*0*0 |
400000 |
||
|
1 |
0 |
1 |
0 |
1 |
1 |
1 |
1b |
k |
1*0*1-0*1*1 |
400000 |
||
|
1 |
0 |
1 |
1 |
0 |
1 |
k |
0 |
k |
1*0*1-1*0*1 |
400000 |
||
|
1 |
1 |
0 |
0 |
1 |
1 |
1 |
k |
1b |
1*1*0-0*1*1 |
400000 |
||
|
1 |
1 |
0 |
1 |
0 |
1 |
k |
1 |
1b |
1*1*0-1*0*1 |
400000 |
||
|
1 |
1 |
0 |
1 |
1 |
0 |
k |
k |
0 |
1*1*0-1*1*0 |
400000 |
||
|
1 |
1 |
1 |
1 |
1 |
1 |
k |
k |
k |
1*1*1-1*1*1 |
400000 |
||
|
1 |
0 |
1 |
1 |
1 |
0 |
k |
1b |
1 |
1*0*1-1*1*0 |
400023.7889 |
||
|
0 |
0 |
1 |
0 |
1 |
1 |
0 |
1b |
k |
0*0*1-0*1*1 |
400502.5126 |
||
|
0 |
0 |
1 |
1 |
0 |
1 |
1b |
0 |
k |
0*0*1-1*0*1 |
400502.5126 |
||
|
0 |
0 |
1 |
1 |
1 |
0 |
1b |
1b |
1 |
0*0*1-1*1*0 |
400502.5126 |
||
|
0 |
1 |
0 |
0 |
1 |
1 |
0 |
k |
1b |
0*1*0-0*1*1 |
400502.5126 |
||
|
0 |
1 |
0 |
1 |
0 |
1 |
1b |
1 |
1b |
0*1*0-1*0*1 |
400502.5126 |
||
|
0 |
1 |
0 |
1 |
1 |
0 |
1b |
k |
0 |
0*1*0-1*1*0 |
400502.5126 |
||
|
0 |
1 |
1 |
0 |
0 |
1 |
0 |
1 |
k |
0*1*1-0*0*1 |
400502.5126 |
||
|
0 |
1 |
1 |
0 |
1 |
0 |
0 |
k |
1 |
0*1*1-0*1*0 |
400502.5126 |
||
|
0 |
1 |
1 |
1 |
0 |
0 |
1b |
1 |
1 |
0*1*1-1*0*0 |
400502.5126 |
||
|
1 |
0 |
0 |
0 |
1 |
1 |
1 |
1b |
1b |
1*0*0-0*1*1 |
400502.5126 |
||
|
1 |
0 |
0 |
1 |
0 |
1 |
k |
0 |
1b |
1*0*0-1*0*1 |
400502.5126 |
||
|
1 |
0 |
0 |
1 |
1 |
0 |
k |
1b |
0 |
1*0*0-1*1*0 |
400502.5126 |
||
|
1 |
0 |
1 |
0 |
0 |
1 |
1 |
0 |
k |
1*0*1-0*0*1 |
400502.5126 |
||
|
1 |
0 |
1 |
0 |
1 |
0 |
1 |
1b |
1 |
1*0*1-0*1*0 |
400502.5126 |
||
|
1 |
0 |
1 |
1 |
0 |
0 |
k |
0 |
1 |
1*0*1-1*0*0 |
400502.5126 |
||
|
1 |
1 |
0 |
0 |
0 |
1 |
1 |
1 |
1b |
1*1*0-0*0*1 |
400502.5126 |
||
|
1 |
1 |
0 |
0 |
1 |
0 |
1 |
k |
0 |
1*1*0-0*1*0 |
400502.5126 |
||
|
1 |
1 |
0 |
1 |
0 |
0 |
k |
1 |
0 |
1*1*0-1*0*0 |
400502.5126 |
这些数据可分成6组，其中5组如下
|
A |
B |
迭代次数 |
等位点数值差 |
|||||||||||
|
0 |
0 |
0 |
1 |
1 |
1 |
1b |
1b |
1b |
0*0*0-1*1*1 |
27152.97 |
3 |
|||
|
0 |
0 |
0 |
1 |
1 |
0 |
1b |
1b |
0 |
0*0*0-1*1*0 |
28675.67 |
2 |
|||
|
0 |
0 |
1 |
1 |
1 |
1 |
1b |
1b |
k |
0*0*1-1*1*1 |
46759.24 |
2 |
|||
|
0 |
0 |
0 |
1 |
0 |
0 |
1b |
0 |
0 |
0*0*0-1*0*0 |
63260 |
1 |
|||
|
0 |
1 |
1 |
1 |
1 |
1 |
1b |
k |
k |
0*1*1-1*1*1 |
121988.8 |
1 |
这5组数据大体上是符合迭代次数与等位点数值差的反比假设的，
|
0 |
0 |
0 |
1 |
1 |
0 |
1b |
1b |
0 |
0*0*0-1*1*0 |
28675.67 |
2 |
|||
|
0 |
0 |
1 |
1 |
1 |
1 |
1b |
1b |
k |
0*0*1-1*1*1 |
46759.24 |
2 |
这两组的等位点数值差都是2但是1b，1b，k的迭代次数要大些，同样
|
0 |
0 |
0 |
1 |
0 |
0 |
1b |
0 |
0 |
0*0*0-1*0*0 |
63260 |
1 |
|||
|
0 |
1 |
1 |
1 |
1 |
1 |
1b |
k |
k |
0*1*1-1*1*1 |
121988.8 |
1 |
这两组的等位点数值差也是相同的，但是1b，k，k的迭代次数要大些。
所以只要假设k是一个大于-1且小于0的数，就可以解释所有这5组数据迭代次数的大小关系。
|
A |
B |
迭代次数 |
等位点数值差 |
|||||||||||
|
0 |
0 |
0 |
1 |
1 |
1 |
1b |
1b |
1b |
0*0*0-1*1*1 |
27152.97 |
3 |
|||
|
0 |
0 |
0 |
1 |
1 |
0 |
1b |
1b |
0 |
0*0*0-1*1*0 |
28675.67 |
2 |
|||
|
0 |
0 |
1 |
1 |
1 |
1 |
1b |
1b |
k |
0*0*1-1*1*1 |
46759.24 |
2+k |
|||
|
0 |
0 |
0 |
1 |
0 |
0 |
1b |
0 |
0 |
0*0*0-1*0*0 |
63260 |
1 |
|||
|
0 |
1 |
1 |
1 |
1 |
1 |
1b |
k |
k |
0*1*1-1*1*1 |
121988.8 |
1+k+k |
|||
|
-1<k<0 |
还有第6组数据，如果迭代400000次还未收敛则终止收敛，表明A或B中如果不含0，0，0，或者1，1，1则网络似乎无法收敛。
在一维的世界里寻找迭代次数的影子相关推荐
- 在形态的世界里寻找基数的影子
(A,苹果)---m*n*k---(1,0)(0,1) (A,苹果*2)---m*n*k---(1,0)(0,1) 用神经网络分类A和苹果,然后再用这个网络分类A和两个苹果,在相同的收敛误差的情况下得 ...
- 决定迭代次数的两种效应
由于对称导致的空间结构耦合的不规则效应,和等位点数值差导致的线性效应共同决定了神经网络的迭代次数.而增加训练集图片数量和扩大图片的尺寸都可能弱化对称性,并同时弱化结构耦合的不规则效应,使得线性效应占优 ...
- 形态等位点对迭代次数的贡献
用神经网络分类8123*11和8123*99,在收敛误差一致的情况下他们的迭代次数之间有什么关系?哪个迭代次数更大些? 移位距离和假设 (A,B)---m*n*k---(1,0)(0,1) 用神经网络 ...
- 等位点数值差对迭代次数的影响
移位距离和假设 (A,B)---m*n*k---(1,0)(0,1) 用神经网络分类A和B,把参与分类的A和B中的数字看作是组成A和B的粒子,分类的过程就是让A和B中的粒子互相交换位置,寻找最短移位路 ...
- 神经网络迭代次数的一个近似关系
(A,B)---m*n*k---(1,0)(0,1) 移位距离和假设 用神经网络分类A和B,把参与分类的A和B中的数字看作是组成A和B的粒子,分类的过程就是让A和B中的粒子互相交换位置,寻找最短移位路 ...
- c语言控制迭代次数,LR中的迭代次数设置
在参数化时,对于一次压力测试中均只能用一次的资源应该怎么参数化呢?就是说这些资源用了一次就不能在用了的. --参数化时,在select next row选择unique,update value o ...
- python实现牛顿法和梯度下降法求解对率回归_最优化问题中，牛顿法为什么比梯度下降法求解需要的迭代次数更少？...
多图预警 本文讲你肯定能懂的机器学习多维极值求解,主要讲梯度下降和牛顿法的区别应该能够完美的回答题主的问题 事先说明 本文面向学习过高等数学统计学和线性代数基础知识的本科生,并假设读者拥有基本的矩阵运 ...
- 智能算法中终止条件： “最大评估次数” or “最大迭代次数”
使用 最大迭代次数依据: 智能算法既然是通过迭代,一步步的趋向最优解,那就应该在同样的代数下一代'进行对比 使用 评估次数依据: 一般 种群大小*迭代次数=评价次数.当种群大小一样时,可以使用迭代次 ...
- caffe中在某一层获得迭代次数的方法以及caffe编译时报错 error: ‘to_string‘ is not a member of ‘std‘解决方法
caffe中在某一层获得迭代次数的方法以及caffe编译时报错 error: 'to_string' is not a member of 'std'解决方法 参考文章: (1)caffe中在某一层获 ...
- 基于迭代次数的多中心定位分类法
(A,B)---m*n*k---(1,0)(0,1) 让A为分类原点,B为分类对象,在收敛误差一定的情况下,统计迭代次数.并将迭代次数作为B到A的距离.这个距离都是特征的,利用这个特征距离足以实现分类 ...
最新文章
- Redis源码分析：基础概念介绍与启动概述
- centos系统下安装Nginx
- C语言自学《八》---- C语言知识总结
- 运用多种知识点实现一个综合小游戏
- Python中的enumerate的用法
- 每日一博 - ThreadLocal VS InheritableThreadLocal VS TransmittableThreadLocal
- 共享卫士完全设置教程图解
- 从近年CVPR看域自适应立体匹配
- pymysql语法_pymysql的用法
- 【黑金原创教程】【TimeQuest】【第二章】TimeQuest模型角色，网表概念，时序报告...
- CompletableFuture详解~thenAcceptAsync
- 2017.3.25 魔术球问题 思考记录
- SpringBoot应用部署[转]
- solr的suggest模块
- Python连接MySQL的实例代码
- winform中listview选中整行_Excel办公实操，操作区域的3大小技巧，办公中的你使用过吗...
- re2正则表达式引擎学习（一）
- 古城钟楼微博地支报时程序铛，100行代码实现，价值一天20万粉丝
- QQ群怎么快速封群，如何举报骗子QQ群可以使之封群？
- 基于ResNet50网络的简单垃圾分类网络
热门文章
- codeforces topcoder 指南
- 数据挖掘在淘宝CRM中的应用
- 网站百度竞价有展现，点击无咨询原因
- 2012服务器系统有什么版本的,Windows server 2012操作系统有哪几个版本
- 【Eclipse中的Preferences窗口中没有Server的解决方案】【Eclipse配置Tomcat】
- iis服务器版本信息泄漏,IIS短文件和文件夹泄漏漏洞
- R语言使用grid包的unit函数将数据对象转化为有计量单位的数据（例如转化为毫米单位、长度单位mm）
- adb devices offline 怎么处理
- html去除背景颜色怎么设置,word文档背景颜色怎么去掉,文档背景颜色怎么去掉
- CodeForces - 1427C