学习笔记:Keras 错误提示
目录:
- 目录:
- Keras使用陷阱
- TF卷积核与TH卷积核
- 向BN层中载入权重
- Keras的可训练参数在前,不可训练参数在后
- Merge层的层对象与函数方法
本系列参考官方文档官方文档
这就是keras可以参考前篇:这就是keras
学习笔记 Keras:一些基本概念 一些基本概念
Keras:常见问题学习笔记:Keras常见问题
Windows 下Keras安装和配置指南:Windows 下Keras安装和配置指南
Keras使用陷阱
这里归纳了Keras使用过程中的一些常见陷阱和解决方法,当然未完待续,有新发现会立马补上。
TF卷积核与TH卷积核
Keras提供了三套后端,Theano和Tensorflow和CNTK,这是一件幸福的事,就像手中拿着馒头,想蘸红糖蘸红糖,想蘸白糖蘸白糖
如果你从无到有搭建自己的一套网络,则大可放心。但如果你想使用一个已有网络,或把一个用th/tf 训练的网络以另一种后端应用,在载入的时候你就应该特别小心了。
卷积核与所使用的后端不匹配,不会报任何错误,因为它们的shape是完全一致的,没有方法能够检测出这种错误。
在使用预训练模型时,一个建议是首先找一些测试样本,看看模型的表现是否与预计的一致。
如需对卷积核进行转换,可以使用utils.convert_all_kernels_in_model对模型的所有卷积核进行转换
向BN层中载入权重
如果你不知道从哪里淘来一个预训练好的BN层,想把它的权重载入到Keras中,要小心参数的载入顺序。
一个典型的例子是,将caffe的BN层参数载入Keras中,caffe的BN由两部分构成,bn层的参数是mean,std,scale层的参数是gamma,beta
按照BN的文章顺序,似乎载入Keras BN层的参数应该是[mean, std, gamma, beta]
然而不是的,Keras的BN层参数顺序应该是[gamma, beta, mean, std],这是因为gamma和beta是可训练的参数,而mean和std不是
Keras的可训练参数在前,不可训练参数在后
错误的权重顺序不会引起任何报错,因为它们的shape完全相同
shuffle和validation_split的顺序
模型的fit函数有两个参数,shuffle用于将数据打乱,validation_split用于在没有提供验证集的时候,按一定比例从训练集中取出一部分作为验证集
这里有个陷阱是,程序是先执行validation_split,再执行shuffle的,所以会出现这种情况:
假如你的训练集是有序的,比方说正样本在前负样本在后,又设置了validation_split,那么你的验证集中很可能将全部是负样本
同样的,这个东西不会有任何错误报出来,因为Keras不可能知道你的数据有没有经过shuffle,保险起见如果你的数据是没shuffle过的,最好手动shuffle一下
Merge层的层对象与函数方法
Keras定义了一套用于融合张量的方法,位于keras.layers.Merge,里面有两套工具,以大写字母开头的是Keras Layer类,使用这种工具是需要实例化一个Layer对象,然后再使用。以小写字母开头的是张量函数方法,本质上是对Merge Layer对象的一个包装,但使用更加方便一些。注意辨析。
学习笔记:Keras 错误提示相关推荐
- 学习笔记 Keras:常见问题
目录: 目录: 常见问题 如何引用Keras? 如何使Keras调用GPU? 如何在多张GPU卡上使用Keras? 数据并行 设备并行 "batch", "epoch&q ...
- 学习笔记 Keras:基于Python的深度学习库
目录: [TOC] 本系列参考官方文档官方文档 这就是Keras Keras是一个高层神经网络API,Keras由纯Python编写而成并基Tensorflow.Theano以及CNTK后端.Kera ...
- 学习笔记 Keras:一些基本概念
目录: 目录: 一些基本概念 符号计算 张量 data_format 函数式模型 batch epochs 对新手友好的小说明 关于Python 关于深度学习 其他 本系列参考官方文档官方文档 这就是 ...
- Flask学习笔记:错误处理
1. 做好准备工作 进入项目主目录 激活虚拟环境 2. Flask中的错误处理 登陆账号,点开编辑资料页面,试着将用户名改为一个已经存在的用户名,然后,你会看到屏幕显示"Internal S ...
- Python学习笔记:错误和异常
本文来自:入门指南 开胃菜参考:开胃菜 使用Python解释器:使用Python解释器 本文对Python的简介:Python简介 Python流程介绍:深入Python流程 Python数据结构:P ...
- Pytho学习笔记:错误,测试,调试(合)
前言 最近在学习深度学习,已经跑出了几个模型,但Pyhton的基础不够扎实,因此,开始补习Python了,大家都推荐廖雪峰的课程,因此,开始了学习,但光学有没有用,还要和大家讨论一下,因此,写下这些帖 ...
- Python学习笔记:错误,测试,调试(转)
前言 最近在学习深度学习,已经跑出了几个模型,但Pyhton的基础不够扎实,因此,开始补习Python了,大家都推荐廖雪峰的课程,因此,开始了学习,但光学有没有用,还要和大家讨论一下,因此,写下这些帖 ...
- Python学习笔记:错误,测试,调试(承)
前言 最近在学习深度学习,已经跑出了几个模型,但Pyhton的基础不够扎实,因此,开始补习Python了,大家都推荐廖雪峰的课程,因此,开始了学习,但光学有没有用,还要和大家讨论一下,因此,写下这些帖 ...
- Python学习笔记:错误,测试,调试(起)
前言 最近在学习深度学习,已经跑出了几个模型,但Pyhton的基础不够扎实,因此,开始补习Python了,大家都推荐廖雪峰的课程,因此,开始了学习,但光学有没有用,还要和大家讨论一下,因此,写下这些帖 ...
最新文章
- 【Qt】通过QtCreator源码学习Qt(三):linux平台的信号、程序崩溃处理
- SAP WM初阶之TO报表LX12 - TOs Resident Documents(Detailed Overview)
- java jsp失效问题--待解决
- Oracle常用批量操作
- 答读者问(6):有关IT培训和毕业之前的迷茫等问题
- .php t=,关于php:意外的T_VARIABLE,期望T_FUNCTION
- github 公钥 私钥_windows下如何使用Git将本地项目上传到GitHub
- iview 下拉select样式_Ant Design 4.0 的一些杂事儿 - Select 篇
- 图像等比例缩放的函数封装(PHP)
- ubuntu下mingw32交叉编译环境搭建
- 解决征信中心密码控件无法安装
- CSS的border属性绘制简单三角形、边框三角形
- 如何从头开始创建可用于生产环境的Webpack 4配置
- 前度面试总结,被问的概率极大
- PyCharm创建app的两种方式
- matlab输入数据作方程,用MATLAB函数编写并求解微分方程
- Microsoft Edge浏览器文件保存位置记录
- 论文精读2: Ground-to-Aerial Image Geo-LocalizationWith a Hard Exemplar Reweighting Triplet Loss
- CMOS与CCD的区别是什么?
- 如何通过日志恢复被删除的数据