推荐:常见NLP模型的代码实现(基于TensorFlow和PyTorch)
推荐github上的一个NLP代码教程:nlp-tutorial,教程中包含常见的NLP模型代码实现(基于TensorFlow和Pytorch),而且教程中的大多数NLP模型都使用少于100行代码。
教程说明
这是使用TensorFlow和Pytorch学习NLP(自然语言处理)的教程,把常用NLP模型用不到100行的代码实现了,教程里附论文下载,并且包含py和ipynb文件,经过测试全部通过。
仓库地址:
https://github.com/graykode/nlp-tutorial
里面有使用说明和样例(py和ipynb格式)。
注意:论文下载请“阅读原文”。
教程目录
1. Basic Embedding Model(基础嵌入模型)
1-1. NNLM(Neural Network Language Model)- Predict Next Word
论文下载
A Neural Probabilistic LanguageModel(2003)
代码实现
NNLM_Tensor.ipynb, NNLM_Torch.ipynb
1-2. Word2Vec(Skip-gram) - EmbeddingWords and Show Graph
论文下载
Distributed Representations of Wordsand Phrases and their Compositionality(2013)
代码实现
Word2Vec_Tensor(NCE_loss).ipynb,Word2Vec_Tensor(Softmax).ipynb,Word2Vec_Torch(Softmax).ipynb
1-3. FastText(Application Level)- Sentence Classification
论文下载
Bag of Tricks for Efficient Text Classification(2016)
代码实现
FastText.ipynb
2. CNN(卷积神经网络)
2-1. TextCNN - BinarySentiment Classification
论文下载
Convolutional Neural Networks for SentenceClassification(2014)
代码实现
TextCNN_Tensor.ipynb, TextCNN_Torch.ipynb
2-2. DCNN(Dynamic Convolutional Neural Network)
3. RNN(循环神经网络)
3-1. TextRNN - Predict NextStep
论文下载
Finding Structure in Time(1990)
代码实现
TextRNN_Tensor.ipynb, TextRNN_Torch.ipynb
3-2. TextLSTM - Autocomplete
论文下载
LONG SHORT-TERM MEMORY(1997)
代码实现
TextLSTM_Tensor.ipynb, TextLSTM_Torch.ipynb
3-3. Bi-LSTM - Predict NextWord in Long Sentence
代码实现
Bi_LSTM_Tensor.ipynb, Bi_LSTM_Torch.ipynb
4. Attention Mechanism(注意力机制)
4-1. Seq2Seq - Change Word
论文下载
Learning Phrase Representations using RNN Encoder–Decoder for Statistical MachineTranslation(2014)
代码实现
Seq2Seq_Tensor.ipynb, Seq2Seq_Torch.ipynb
4-2. Seq2Seq with Attention - Translate
论文下载
NeuralMachine Translation by Jointly Learning to Align and Translate(2014)
代码实现
Seq2Seq(Attention)_Tensor.ipynb,Seq2Seq(Attention)_Torch.ipynb
4-3. Bi-LSTM with Attention - BinarySentiment Classification
代码实现
Bi_LSTM(Attention)_Tensor.ipynb,Bi_LSTM(Attention)_Torch.ipynb
5. Model based on Transformer(Transformer模型)
5-1. The Transformer - Translate
论文下载
Attention Is All You Need(2017)
代码实现
Transformer_Torch.ipynb, Transformer(Greedy_decoder)_Torch.ipynb
5-2. BERT - ClassificationNext Sentence & Predict Masked Tokens
论文下载
BERT: Pre-training of Deep Bidirectional Transformers for LanguageUnderstanding(2018)
代码实现
BERT_Torch.ipynb
部分内容截图
TextCNN的两种实现方式(使用TensorFlow和Pytorch)
总结
推荐github上的一个NLP代码教程:nlp-tutorial,一个使用TensorFlow和Pytorch学习NLP(自然语言处理)的教程,教程中的大多数NLP模型都使用少于100行代码实现。
仓库地址:
https://github.com/graykode/nlp-tutorial
里面有使用说明和样例(py和ipynb格式)。
仓库作者:Tae Hwan Jung(Jeff Jung)
注意:论文下载请“阅读原文”。
本站简介↓↓↓
“机器学习初学者”是帮助人工智能爱好者入门的个人公众号(创始人:黄海广)
初学者入门的道路上,最需要的是“雪中送炭”,而不是“锦上添花”。
本站的知识星球(黄博的机器学习圈子)ID:92416895
目前在机器学习方向的知识星球排名第一(上图二维码)
往期精彩回顾
良心推荐:机器学习入门资料汇总及学习建议(2018版)
黄海广博士的github镜像下载(机器学习及深度学习资源)
吴恩达老师的机器学习和深度学习课程笔记打印版
机器学习小抄-(像背托福单词一样理解机器学习)
首发:深度学习入门宝典-《python深度学习》原文代码中文注释版及电子书
机器学习的数学基础
机器学习必备宝典-《统计学习方法》的python代码实现、电子书及课件
吐血推荐收藏的学位论文排版教程(完整版)
Python环境的安装(Anaconda+Jupyter notebook+Pycharm)
Python代码写得丑怎么办?推荐几个神器拯救你
重磅 | 完备的 AI 学习路线,最详细的资源整理!
备注:本站qq群:865189078(共8个群,不用重复加)。
加入本站微信群,请加黄博的助理微信,说明:公众号用户加群。
推荐:常见NLP模型的代码实现(基于TensorFlow和PyTorch)相关推荐
- Github标星5.4k+:常见NLP模型的代码实现(基于TensorFlow和PyTorch)
推荐github上的一个NLP代码教程:nlp-tutorial,教程中包含常见的NLP模型代码实现(基于TensorFlow和Pytorch),而且教程中的大多数NLP模型都使用少于100行代码. ...
- 【NLP】Github标星7.7k+:常见NLP模型的PyTorch代码实现
推荐github上的一个NLP代码教程:nlp-tutorial,教程中包含常见的NLP模型代码实现(基于Pytorch1.0+),而且教程中的大多数NLP模型都使用少于100行代码. 教程说明 这是 ...
- pytorch 获取模型参数_剑指TensorFlow,PyTorch Hub官方模型库一行代码复现主流模型...
选自PyTorch 机器之心编译 参与:思源.一鸣 经典预训练模型.新型前沿研究模型是不是比较难调用?PyTorch 团队今天发布了模型调用神器 PyTorch Hub,只需一行代码,BERT.GPT ...
- Pytorch手敲NLP 模型训练代码四大步骤总结
https://blog.csdn.net/muyao987/article/details/106897093
- rknn3399pro 2小时入门指南(三)在PC上搭建RKNN模拟环境、 模型转换代码、RK3399 pro使用
目录 1.前言 官方论坛说明 2.PC-ubuntu系统下tensorflow+keras虚拟环境搭建 3.在PC-ubuntu下搭建rknn模拟环境搭建 4.相关转化代码 (1) h5 -> ...
- CNN如何用于NLP任务?一文简述文本分类任务的7个模型(附代码)
点击上方,选择星标或置顶,不定期资源大放送! 阅读大概需要15分钟 Follow小博主,每天更新前沿干货 选自 | Ahmed BESBES 作者 | Ahmed Besbes 转自 | 机器之心 ...
- 如何0代码、快速定制企业级NLP模型?百度工程师详解技术选型与模型调优策略...
主讲人 | 龙心尘 百度NLP资深研发工程师 量子位编辑 | 公众号 QbitAI 近几年以预训练为代表的NLP技术取得了爆发式发展,新技术新模型层出不穷.企业与开发者如何将最先进的NLP领域科研成果 ...
- 开源教程 「nlp-tutorial」!用百行代码搞定各类NLP模型
↑↑↑关注后"星标"Datawhale 每日干货 & 每月组队学习,不错过 Datawhale干货 参与:思源.贾伟 来源:机器之心 NLP 的研究,从词嵌入到 CNN ...
- lstm代码_贼好理解,这个项目教你如何用百行代码搞定各类NLP模型
机器之心报道 参与:思源.贾伟 NLP 的研究,从词嵌入到 CNN,再到 RNN,再到 Attention,以及现在正红火的 Transformer,模型已有很多,代码库也成千上万.对于初学者如何把握 ...
最新文章
- apache和nginx的性能分析
- mybatis返回map操作
- Linux 下关闭防火墙设置
- 第三方登录(QQ登录)开发流程详解
- 【转】ofbiz数据库表结构设计
- pta龟兔赛跑Java_PTA-龟兔赛跑
- continue 结束本次循环,继续下一次循环
- 分段三次hermite插值python
- 写给本命年24岁的自己和你:这一年决定你的未来
- [美国]《霍比特人:意外之旅》[BD-RMVB.720p.中英双字][2012年奇幻动作]
- word2010制作自动编号目录
- Ghost过程中出现GHOSTERR.TXT文件的解决方法
- python3中import time是什么意思_python3_time模块详解
- CSS 自动换行样式
- Session有什么重大BUG,微软提出了什么方法加以解决?
- 【 失踪人口回归】新·学期
- Idea关联java documentation帮助文档
- P1909 [NOIP2016 普及组] 买铅笔 优雅算法
- 嵩天老师Python面向对象-28,文本清洗及统计案例
- 如何利用波段组合解决同物异谱和异物同谱现象?