Github标星5.4k+:常见NLP模型的代码实现(基于TensorFlow和PyTorch)
推荐github上的一个NLP代码教程:nlp-tutorial,教程中包含常见的NLP模型代码实现(基于TensorFlow和Pytorch),而且教程中的大多数NLP模型都使用少于100行代码。
教程说明
这是使用TensorFlow和Pytorch学习NLP(自然语言处理)的教程,把常用NLP模型用不到100行的代码实现了,教程里附论文下载,并且包含py和ipynb文件,经过测试全部通过。
仓库地址:
https://github.com/graykode/nlp-tutorial
里面有使用说明和样例(py和ipynb格式)。
注意:论文下载请“阅读原文”。
教程目录
1. Basic Embedding Model(基础嵌入模型)
1-1. NNLM(Neural Network Language Model)- Predict Next Word
论文下载
A Neural Probabilistic LanguageModel(2003)
代码实现
NNLM_Tensor.ipynb, NNLM_Torch.ipynb
1-2. Word2Vec(Skip-gram) - EmbeddingWords and Show Graph
论文下载
Distributed Representations of Wordsand Phrases and their Compositionality(2013)
代码实现
Word2Vec_Tensor(NCE_loss).ipynb,Word2Vec_Tensor(Softmax).ipynb,Word2Vec_Torch(Softmax).ipynb
1-3. FastText(Application Level)- Sentence Classification
论文下载
Bag of Tricks for Efficient Text Classification(2016)
代码实现
FastText.ipynb
2. CNN(卷积神经网络)
2-1. TextCNN - BinarySentiment Classification
论文下载
Convolutional Neural Networks for SentenceClassification(2014)
代码实现
TextCNN_Tensor.ipynb, TextCNN_Torch.ipynb
2-2. DCNN(Dynamic Convolutional Neural Network)
3. RNN(循环神经网络)
3-1. TextRNN - Predict NextStep
论文下载
Finding Structure in Time(1990)
代码实现
TextRNN_Tensor.ipynb, TextRNN_Torch.ipynb
3-2. TextLSTM - Autocomplete
论文下载
LONG SHORT-TERM MEMORY(1997)
代码实现
TextLSTM_Tensor.ipynb, TextLSTM_Torch.ipynb
3-3. Bi-LSTM - Predict NextWord in Long Sentence
代码实现
Bi_LSTM_Tensor.ipynb, Bi_LSTM_Torch.ipynb
4. Attention Mechanism(注意力机制)
4-1. Seq2Seq - Change Word
论文下载
Learning Phrase Representations using RNN Encoder–Decoder for Statistical MachineTranslation(2014)
代码实现
Seq2Seq_Tensor.ipynb, Seq2Seq_Torch.ipynb
4-2. Seq2Seq with Attention - Translate
论文下载
NeuralMachine Translation by Jointly Learning to Align and Translate(2014)
代码实现
Seq2Seq(Attention)_Tensor.ipynb,Seq2Seq(Attention)_Torch.ipynb
4-3. Bi-LSTM with Attention - BinarySentiment Classification
代码实现
Bi_LSTM(Attention)_Tensor.ipynb,Bi_LSTM(Attention)_Torch.ipynb
5. Model based on Transformer(Transformer模型)
5-1. The Transformer - Translate
论文下载
Attention Is All You Need(2017)
代码实现
Transformer_Torch.ipynb, Transformer(Greedy_decoder)_Torch.ipynb
5-2. BERT - ClassificationNext Sentence & Predict Masked Tokens
论文下载
BERT: Pre-training of Deep Bidirectional Transformers for LanguageUnderstanding(2018)
代码实现
BERT_Torch.ipynb
部分内容截图
TextCNN的两种实现方式(使用TensorFlow和Pytorch)
总结
推荐github上的一个NLP代码教程:nlp-tutorial,一个使用TensorFlow和Pytorch学习NLP(自然语言处理)的教程,教程中的大多数NLP模型都使用少于100行代码实现。
仓库地址:
https://github.com/graykode/nlp-tutorial
里面有使用说明和样例(py和ipynb格式)。
仓库作者:Tae Hwan Jung(Jeff Jung)
注意:论文下载请“阅读原文”。
往期精彩回顾适合初学者入门人工智能的路线及资料下载机器学习在线手册深度学习在线手册AI基础下载(pdf更新到25集)本站qq群1003271085,加入微信群请回复“加群”获取一折本站知识星球优惠券,请回复“知识星球”喜欢文章,点个在看
Github标星5.4k+:常见NLP模型的代码实现(基于TensorFlow和PyTorch)相关推荐
- Github标星86.4K+:常见数据结构与算法的Python实现
有人问我数据结构与算法怎么学? 免费的我推荐严蔚敏老师的数据结构课程,网上可以查到,当年考博士时候学的就是这个. 收费的我推荐王争老师的<数据结构与算法之美>,内容挺全面,学了应该对算法有 ...
- 推荐:常见NLP模型的代码实现(基于TensorFlow和PyTorch)
推荐github上的一个NLP代码教程:nlp-tutorial,教程中包含常见的NLP模型代码实现(基于TensorFlow和Pytorch),而且教程中的大多数NLP模型都使用少于100行代码. ...
- Github标星10.4k:用 NumPy 实现所有主流机器学习模型
用 NumPy 手写所有主流 ML 模型,普林斯顿博士后 David Bourgin 最近开源了一个非常剽悍的项目.超过 3 万行代码.30 多个模型,这也许能打造「最强」的机器学习基石?(编辑:机器 ...
- 【CV】给AI一张高清照片,分分钟还你细节满满的3D人体模型,GitHub标星4.4k | 在线可玩...
继上次分享的中科院博士用一张"静态图"就能实现人脸3D建模新研究,又一重要力作. 手动对人体进行3D建模并非易事. 但现在,只给AI一张高清照片,它还真就能分分钟搞定这件事. 甚至 ...
- 【机器学习】GitHub 标星17.4K:机器学习 100 天!
Github热门项目:100-Days-Of-ML-Code 中文版地址: https://github.com/MLEveryday/100-Days-Of-ML-Code 英文版地址: https ...
- 卧槽!GitHub标星7.9K star,抢茅台酒脚本竟然开源了!网友:已抢到,真香!
点击上方"Github爱好者社区",选择星标 回复"资料",获取小编整理的一份资料 作者:GG哥 来源:GitHub爱好者社区(github_shequ) 这是 ...
- GitHub标星1.6K,大佬开源的抖音项目,刷屏全网!
点击上方"Github爱好者社区",选择星标 回复"资料",获取小编整理的一份资料 作者:GG哥 来源:GitHub爱好者社区(github_shequ) 这是 ...
- 常见算法的python实现(Github标星75.5k+)
我找到一个github标星75.5k+star的仓库,把各种常见算法用python实现了,而且还有动图演示,非常值得推荐.(黄海广) 仓库说明 这个仓库用python语言实现了绝大部分算法,主要是用于 ...
- Github标星66.6k+:常见数据结构与算法的Python实现
有人问我数据结构与算法怎么学? 怎么用Python实现常见的数据结构算法?我找到一个github标星66.6k+的仓库,把各种常见算法用Python实现了,而且还有动图演示,非常值得推荐.(黄海广) ...
最新文章
- R语言ggplot2可视化在X轴上可视化时间标签实战:可视化时间标签、对时间标签进行旋转
- Mysql+MHA高可用集群
- linux(1)- 简单的 shell 解释器
- js实现txt/excel文件下载
- ubuntu更改默认python版本_更改Ubuntu默认python版本的方法
- Georgia and Bob POJ - 1704
- mysql索引及优化
- Windows7下用VirtualBox安装Ubuntu网卡配置
- 【转】Quartz.NET
- Find the longest route with the smallest starting point
- [论文阅读] Learning a Unified Classifier Incrementally via Rebalancing
- python基础篇 —— 类
- 三、北京54坐标系与西安80坐标系
- 2022年4月第十三届蓝桥杯省赛C组C语言/C++真题及答案
- 红米note9pro刷鸿蒙,红米Note10Pro:正式说你好,红米Note9Pro:彻底说再见!
- UCI机器学习数据库
- (收藏)《博客园精华集》ASP.NET分册
- python winrar密码_python+winrar 指令压缩文件 | 学步园
- 利用PS如何进行精细抠图
- 飞凌课堂丨液晶模块的DE和HV模式
热门文章
- 08年最热门七大技术和最紧缺的IT人才
- @Scheduled(cron = 0/5 * * * * *)将时间改为配置
- 使用装饰器配置路由的
- JRE与JDK,SDK的区别
- Linux - 操作系统查找文件的过程以及硬链接与软链接的区别
- hdu 2612(bfs)Find a way
- php抓取页面400错误
- [Craftor原创]EZ-USB与FPGA的通信接口设计
- 谈谈我对Java中CallBack的理解
- Oxite移植到ASP.NET MVC2 BETA 笔记(关于Html.RenderPartialFromSkin)