tf 从RNN到BERT

数据初始化

import tensorflow as tf
from tensorflow import keras
from tensorflow.keras.layers import *((x_train, y_train), (x_test, y_test)) = keras.datasets.mnist.load_data()x_train = x_train.reshape(60000, -1)
y_train = keras.utils.np_utils.to_categorical(y_train)

SimpleRNN

model1 = keras.Sequential()
model1.add(Embedding(input_dim=256, output_dim=5))
model1.add(SimpleRNN(units=2))
model1.add(Dense(10))model1.compile(loss="categorical_crossentropy", optimizer="adam", metrics=["accuracy"])
model1.fit(x_train, y_train, batch_size=10)

GRU

model2 = keras.Sequential()
model2.add(Embedding(input_dim=256, output_dim=5))
model2.add(GRU(units=2))
model2.add(Dense(10))model2.compile(loss="categorical_crossentropy", optimizer="adam", metrics=["accuracy"])
model2.fit(x_train, y_train, batch_size=10)

LSTM

model3 = keras.Sequential()
model3.add(Embedding(input_dim=256, output_dim=5))
model3.add(LSTM(units=2))
model3.add(Dense(10))model3.compile(loss="categorical_crossentropy", optimizer="adam", metrics=["accuracy"])
model3.fit(x_train, y_train, batch_size=10)

encoder-decoder

model3 = keras.Sequential()
model3.add(Embedding(input_dim=256, output_dim=5))
model3.add(LSTM(units=2))
model3.add(Dense(10))model3.compile(loss="categorical_crossentropy", optimizer="adam", metrics=["accuracy"])
model3.fit(x_train, y_train, batch_size=10)

tf 从RNN到BERT相关推荐

DL之LSTM：tf.contrib.rnn.BasicLSTMCell(rnn_unit)函数的解读
DL之LSTM:tf.contrib.rnn.BasicLSTMCell(rnn_unit)函数的解读目录 tf.contrib.rnn.BasicLSTMCell(rnn_unit)函数的解读函 ...
Tensorflow：tf.contrib.rnn.DropoutWrapper函数(谷歌已经为Dropout申请了专利！)、MultiRNNCell函数的解读与理解
Tensorflow:tf.contrib.rnn.DropoutWrapper函数(谷歌已经为Dropout申请了专利!).MultiRNNCell函数的解读与理解目录 1.tf.contrib. ...
TF之RNN：TF的RNN中的常用的两种定义scope的方式get_variable和Variable
TF之RNN:TF的RNN中的常用的两种定义scope的方式get_variable和Variable 目录输出结果代码设计输出结果代码设计 # tensorflow中的两种定义scope(命 ...
DL之RNN：基于TF利用RNN实现简单的序列数据类型(DIY序列数据集)的二分类(线性序列随机序列)
DL之RNN:基于TF利用RNN实现简单的序列数据类型(DIY序列数据集)的二分类(线性序列&随机序列) 目录序列数据类型&输出结果设计思路序列数据类型&输出结果 1.t ...
DL之RNN：人工智能为你写代码——基于TF利用RNN算法实现生成编程语言代码(C++语言)、训练测试过程全记录
DL之RNN:基于TF利用RNN算法实现生成编程语言代码(C语言).训练&测试过程全记录目录输出结果监控模型训练&测试过程全记录训练的数据集展示输出结果 1.test01 ...
TF之RNN：实现利用scope.reuse_variables()告诉TF想重复利用RNN的参数的案例
TF之RNN:实现利用scope.reuse_variables()告诉TF想重复利用RNN的参数的案例目录输出结果代码设计输出结果后期更新-- 代码设计 import tensorflow ...
RNN调试错误：lstm_cell = tf.contrib.rnn.core_rnn_cell.BasicLSTMCell(lstm_size) 方法已失效
调试递归神经网络(RNN)的时候出现如下错误: ### module 'tensorflow.contrib.rnn' has no attribute 'core_rnn_cell' 经检查是tf. ...
DL之RNN：人工智能为你写周董歌词——基于TF利用RNN算法实现【机器为你作词】、训练测试过程全记录
DL之RNN:人工智能为你写周董歌词--基于TF利用RNN算法实现~机器为你作词~.训练&测试过程全记录目录输出结果模型监控训练.测试过程全记录训练的数据集输出结果 1.test0 ...
DL之RNN：人工智能为你写小说——基于TF利用RNN算法训练数据集(William Shakespeare的《Coriolanus》)替代你写英语小说短文、训练测试过程全记录
DL之RNN:基于TF利用RNN算法训练数据集(William Shakespeare的<Coriolanus>)替代你写英语小说短文.测试过程全记录目录输出结果监控模型训练过程全 ...

tf 从RNN到BERT

数据初始化

SimpleRNN

GRU

LSTM

encoder-decoder

tf 从RNN到BERT相关推荐

最新文章

热门文章