Keras学习笔记(四)：MaxPooling1D和GlobalMaxPooling1D的区别

区别：

1.GlobalMaxPooling1D:

在steps维度（也就是第二维）对整个数据求最大值。
比如说输入数据维度是[10, 4, 10]，那么进过全局池化后，输出数据的维度则变成[10, 10]。

2.MaxPooling1D：

也是在steps维度（也就是第二维）求最大值。但是限制每一步的池化的大小。比如，输入数据维度是[10, 4, 10]，池化层大小pooling_size=2，步长stride=1，那么经过MaxPooling(pooling_size=2, stride=1)后，输出数据维度是[10, 3, 10]。

实例：

只考虑一条样本，可以认为是SGD（随机梯度下降），假设这条样本三个字，词向量（eg.word2vec）如下所示，数据维度是 [1,4,3]。一般我们不会直接将数据送进池化层，此处假设更方便。

MaxPooling1D:
假设我们通过一个MaxPooling1D(pool_size=2, strides=1)的池化层，那么数据的变化过程如下所示。步长是1，池化层大小是2。

the  [[.7, -0.2, .1]   |池化大小是2，所以一次选两个字，首先对
boy   [.8, -.3,  .2]   | 前两个向量求最大值，也就是the和boy。   | 步长是1，移动到
will  [.2, -.1,  .4]                                       | boy和will
live  [.4  -.4,  .8]]

最后返回的维度是 [1,3,3]。

GlobalMaxPooling1D:
全局最大，返回的是一个二维张量，维度是 [1,3]，也就是 live对应的词向量。

GlobalMaxPooling1D的前后维度变化可以简单总结为：

输入维度： 3维张量 (batch_size, steps, features)
输出维度： 2维张量 (batch_size, features)

模型比较：

可以用以下代码构造模型，比较两个不同的池化层前后数据维度的变化情况。

import numpy as np
from keras.models import Sequential
from keras.layers import Dense, LSTM, GlobalMaxPooling1DD = np.random.rand(10, 6, 10)model = Sequential()
model.add(LSTM(16, input_shape=(6, 10), return_sequences=True))
model.add(MaxPooling1D(pool_size=2, strides=1))
model.add(LSTM(10))
model.add(Dense(1))
model.compile(loss='binary_crossentropy', optimizer='sgd')# print the summary to see how the dimension change after the layers are
# appliedprint(model.summary())# try a model with GlobalMaxPooling1D nowmodel = Sequential()
model.add(LSTM(16, input_shape=(6, 10), return_sequences=True))
model.add(GlobalMaxPooling1D())
model.add(Dense(1))
model.compile(loss='binary_crossentropy', optimizer='sgd')print(model.summary())

Keras学习笔记(四)：MaxPooling1D和GlobalMaxPooling1D的区别相关推荐

官网实例详解4.37（pretrained_word_embeddings.py）-keras学习笔记四
预训练词嵌入(向量) 脚本加载预处理的词向量(GloVe embeddings)加载到冻结的Keras嵌入层中,并基于20 Newsgroup数据集使用它来训练文本分类模型. (把newsgroup消 ...
官网实例详解-目录和实例简介-keras学习笔记四
https://github.com/keras-team/keras/tree/master/examples Keras examples directory Keras实例目录 (点击跳转) 官 ...
Keras学习笔记：序列式模型
目录: 目录: 快速开始序列(Sequential)模型指定输入数据的shape 编译训练例子用于序列分类的栈式LSTM 采用stateful LSTM的相同模型本系列参考官方文档官方文档 ...
C#可扩展编程之MEF学习笔记(四)：见证奇迹的时刻
前面三篇讲了MEF的基础和基本到导入导出方法,下面就是见证MEF真正魅力所在的时刻.如果没有看过前面的文章,请到我的博客首页查看. 前面我们都是在一个项目中写了一个类来测试的,但实际开发中,我们往往要 ...
IOS学习笔记(四)之UITextField和UITextView控件学习
IOS学习笔记(四)之UITextField和UITextView控件学习(博客地址:http://blog.csdn.net/developer_jiangqq) Author:hmjiangqq ...
RabbitMQ学习笔记四：RabbitMQ命令（附疑难问题解决）
RabbitMQ学习笔记四:RabbitMQ命令(附疑难问题解决) 参考文章: (1)RabbitMQ学习笔记四:RabbitMQ命令(附疑难问题解决) (2)https://www.cnblogs. ...
JSP学习笔记(四十九)：抛弃POI，使用iText生成Word文档
POI操作excel的确很优秀,操作word的功能却不敢令人恭维.我们可以利用iText生成rtf文档,扩展名使用doc即可. 使用iText生成rtf,除了iText的包外,还需要额外的一个支持rt ...
Keras学习笔记---保存model文件和载入model文件
Keras学习笔记---保存model文件和载入model文件保存keras的model文件和载入keras文件的方法有很多.现在分别列出,以便后面查询. keras中的模型主要包括model和we ...
Ethernet/IP 学习笔记四
Ethernet/IP 学习笔记四 EtherNet/IP Quick Start for Vendors Handbook (PUB213R0): https://www.odva.org/Port ...

Keras学习笔记(四)：MaxPooling1D和GlobalMaxPooling1D的区别

区别：

1.GlobalMaxPooling1D:

2.MaxPooling1D：

实例：

模型比较：

Keras学习笔记(四)：MaxPooling1D和GlobalMaxPooling1D的区别相关推荐

最新文章

热门文章