keras.layers.Embedding层介绍

本层应用，就是把稀疏矩阵变成一个密集矩阵，也称为查表，因为他们之间是一个一一映射关系。与其对应的是one-hot编码，multi-hot编码，对于特征维度过大的应用，直接使用会造成维度灾难。

Embedding层本质也是一个映射，不过不是映射为on-hot编码，而是映射为一个指定维度的向量，该向量是一个变量，通过学习寻找到最优值；此过程类似word2vec的原理。

而通常输入的特征都是字符串，所以在映射之前先转化为数字，也就是StringLookup对应的count模式所做的事情。

使用方式如下：

import tensorflow as tf
#其中1000表示input_dimension,也就是词汇表的大小，size of vocabulary
embedding = tf.keras.layers.Embedding(1000, 64)
input_array = np.random.randint(20, size=(32, 10))
embedding(input_array)
#输出，数字会随着模型的训练而变化调优
<tf.Tensor: shape=(32, 10, 64), dtype=float32, numpy=
array([[[-0.00223513,  0.04911561,  0.03994017, ..., -0.00141234,0.03842745, -0.03368234],[-0.00223513,  0.04911561,  0.03994017, ..., -0.00141234,0.03842745, -0.03368234],[-0.02339436, -0.03834909,  0.01074553, ...,  0.01113864,-0.04465676,  0.02594434],...,[ 0.02353707,  0.02030389, -0.03473636, ..., -0.00815297,-0.0427214 , -0.02282931],[ 0.02353707,  0.02030389, -0.03473636, ..., -0.00815297,-0.0427214 , -0.02282931],

降维的原理和意义，参考：深度学习-函数-tf.nn.embedding_lookup 与tf.keras.layers.Embedding_茫茫人海一粒沙的博客-CSDN博客

keras.layers.Embedding层介绍相关推荐

Keras.layers各种层介绍，网络层、卷积层、池化层等
[转载]Keras.layers各种层介绍 - 心冰之海 - bk园 https://www.cnblogs.com/lhxsoft/p/13534667.html 文章导航一.网络层 1.常用网络 ...
keras.layers 各种层介绍
http://www.manongjc.com/detail/8-lmdxlrmdfqxetzq.html
嵌入层 tf.keras.layers.Embedding() 介绍【TensorFlow2入门手册】
函数原型 tf.keras.layers.Embedding(input_dim, output_dim, embeddings_initializer='uniform',embeddings_re ...
tf.keras.layers.Embedding 嵌入层示例
将正整数(索引)转换为固定大小的密集向量.此层只能用作模型中的第一层 import tensorflow as tf import numpy as np embedding_layer = tf.k ...
深度学习-函数-tf.nn.embedding_lookup 与tf.keras.layers.Embedding
embedding函数用法 1. one_hot编码 1.1. 简单对比 1.2.优势分析: 1.3. 缺点分析: 1.4. 延伸思考 2. embedding的用途 2.1 embedding有两个 ...
TensorFlow tf.keras.layers.Embedding
参数参数描述 input_dim 词汇表的维度(总共有多少个不相同的词) output_dim 嵌入词空间的维度 input_length 输入语句的长度 embeddings_initializ ...
Tensorflow.keras.layers各种层的学习笔记
目录 karas简介一. 输入层keras.layers.Input 二. 嵌入层keras.layers.Embedding 三. Lambda层keras.layers.Lamda karas简 ...
在Keras的Embedding层中使用预训练的word2vec词向量
文章目录 1 准备工作 1.1 什么是词向量? 1.2 获取词向量 2 转化词向量为keras所需格式 2.1 获取所有词语word和词向量 2.2 构造"词语-词向量"字典 2. ...
深入浅出TensorFlow2函数——tf.keras.layers.Embedding
分类目录:<深入浅出TensorFlow2函数>总目录语法 tf.keras.layers.Embedding(input_dim, output_dim, embeddings_ini ...

keras.layers.Embedding层介绍

keras.layers.Embedding层介绍相关推荐

最新文章

热门文章