AI_Challenger 机器翻译

官方提供的脚本有不少错误，python脚本从2迁移到了3。训练脚本中去掉了batch_size项，改用 --worker_gpu_memory_fraction 可以免去内存溢出风险。经尝试，在base、big模式下训练的模型效果很差，只有hparams_set=transformer_base_single_gpu 时，训练的模型效果好。最近在客户提供的单个服务器上用4块v100 32g transformer_big_single_gpu训练6万次时已经比提交结果时用公司的k40结果强多了。自然语言处理，好设备代表好结果。本次比赛，官方的脚本中有错误、许多地方描述不清、定义新问题根本就没有提。初学者shell命令基础比较差时，很难训练出好的模型，也很难生成可以提交的结果。本项目把整个过程脚本化，可以帮助初学者训练出还算不错的模型。才知道，所谓big模式就是生成的模型比较大，需要5个多G。需要注意的是t2t训练的模型最后很难收敛，遇到比较好的模型要及时备份，t2t只留下最新的10个模型。有使用本项目训练出好的汉译英模型的，希望能上传到网盘，给本人一个链接。

git clone https://github.com/dreamnotover/english_chinese_machine_translation_baseline.git

数据 https://pan.baidu.com/s/1teDqwd3Tbc7cbacpzPpa7A

Neural Machine Translation (English-to-

aI_Challenger 机器翻译相关推荐

机器翻译注意力机制及其PyTorch实现
前面阐述注意力理论知识,后面简单描述PyTorch利用注意力实现机器翻译 Effective Approaches to Attention-based Neural Machine Translat ...
TVM优化GPU机器翻译
TVM优化GPU机器翻译背景神经机器翻译(NMT)是一种自动化的端到端方法,具有克服传统基于短语的翻译系统中的弱点的潜力.最近,阿里巴巴集团正在为全球电子商务部署NMT服务. 将Transform ...
TensorFlow+TVM优化NMT神经机器翻译
TensorFlow+TVM优化NMT神经机器翻译背景神经机器翻译(NMT)是一种自动化的端到端方法,具有克服传统基于短语的翻译系统中的弱点的潜力.本文为全球电子商务部署NMT服务. 目前,将Tr ...
EMNLP 2019 | 大规模利用单语数据提升神经机器翻译
BDTC大会官网:https://t.csdnimg.cn/q4TY 作者 | 吴郦军.夏应策来源 | 微软研究院AI头条(ID:MSRAsia) 编者按:目前,目标语言端的无标注单语数据已被广泛应 ...
基于RNN的NLP机器翻译深度学习课程 | 附实战代码
作者 | 小宋是呢来源 | CSDN博客深度学习用的有一年多了,最近开始NLP自然处理方面的研发.刚好趁着这个机会写一系列 NLP 机器翻译深度学习实战课程. 本系列课程将从原理讲解与数据处理深入 ...
NLP机器翻译深度学习实战课程基础 | 深度应用
作者 | 小宋是呢来源 | CSDN博客 0.前言深度学习用的有一年多了,最近开始 NLP 自然处理方面的研发.刚好趁着这个机会写一系列 NLP 机器翻译深度学习实战课程. 本系列课程将从原理讲解 ...
Transformer新型神经网络在机器翻译中的应用 | 公开课笔记
嘉宾 | 于恒来源 | AI科技大本营在线公开课编辑 | Jane 于恒:直播间的朋友大家好!欢迎大家来到本次AI科技大本营公开课,我是本次讲师于恒. 在讲课开始之前先简短的做个自我介绍,我是博士 ...
翻译们又要失业？Facebook最新无监督机器翻译成果，BLEU提升10个点！
作者 | 琥珀出品 | AI科技大本营(公众号ID:rgznai100) 神经机器翻译(NMT)关注的是通过 AI 在不同人类语言之间进行翻译的过程.2015 年,蒙特利尔学习算法研究所的研究人员开 ...
明晚8点直播 | Transformer新型神经网络在机器翻译中的应用
机器翻译是自然语言处理领域的皇冠明珠,学术界和产业界的研究人员已经致力于机器翻译研究很多年,从最早的基于规则,到基于统计模型,再到基于神经网络,发展速度是高速倍增的. 近几年机器翻译领域不断取得实质性 ...

aI_Challenger 机器翻译

AI_Challenger 机器翻译

aI_Challenger 机器翻译相关推荐

最新文章

热门文章