基于TensorRT优化的Machine Translation
基于TensorRT优化的Machine Translation
机器翻译系统用于将文本从一种语言翻译成另一种语言。递归神经网络(RNN)是机器翻译中最流行的深度学习解决方案之一。
TensorRT机器翻译示例的一些示例包括:
Neural Machine Translation (NMT) Using A Sequence To Sequence (seq2seq) Model Building An RNN Network Layer By Layer
4.1. Neural Machine Translation (NMT) Using A Sequence To Sequence (seq2seq) Model
此示例sample, sampleNMT演示了使用TensorRT API基于TensorFlow seq2seq模型实现的神经机器翻译(NMT)。TensorFlow seq2seq模型是一个开源的NMT项目,它使用深层神经网络将文本从一种语言翻译成另一种语言。
What does this sample do?
具体地说,这个示例是一个端到端的示例,它采用TensorFlow模型,构建一个引擎,并使用生成的网络运行推理。该示例是模块化的,因此可以作为机器翻译应用程序的起点。 此示例使用TensorFlow NMT(seq2seq)教程提供并培训的数据来实现德语到英语的翻译。
Where is this sample located?
此示例保存在GitHub: sampleNMT存储库中的samples/opensource/sampleNMT目录下。如果使用Debian或RPM包,则示例位于/usr/src/tensorrt/samples/sampleNMT。如果使用tar或zip包,则示例位于<extracted_path>/samples/sampleNMT。
How do I get started?
有关入门的更多信息,请参见使用C++示例开始。有关此示例的详细信息,请参阅GitHub: sampleNMT/README.md文件获取有关此示例如何工作的详细信息、示例代码以及有关如何运行和验证其输出的分步说明。
4.2. Building An RNN Network Layer By Layer
这个示例sampleCharRNN使用TensorRT API逐层构建RNN网络,设置权重和输入/输出,然后执行推理。
What does this sample do?
具体地说,这个示例创建了一个CharRNN网络,它是在莎士比亚的小数据集上训练出来的。有关字符级建模的详细信息,请参见char rnn。
TensorFlow有一个有用的RNN教程,可以用来训练单词级模型。单词级模型学习所有可能单词序列的概率分布。因为我们的目标是训练一个char级别的模型,它学习一组所有可能特征的概率分布,所以需要做一些修改才能使TensorFlow样本工作。
Where is this sample located?
此示例保存在GitHub: sampleCharRNN存储库中的samples/opensource/sampleCharRNN目录下。如果使用Debian或RPM包,则示例位于
/usr/src/tensorrt/samples/sampleCharRNN。如果使用tar或zip包,则示例位于<extracted_path>/samples/sampleCharRNN。
How do I get started?
有关入门的更多信息,请参见使用C++示例开始。有关此示例的详细信息,请参阅GitHub: sampleCharRNN/README.md文件获取有关此示例如何工作的详细信息、示例代码以及有关如何运行和验证其输出的分步说明。
基于TensorRT优化的Machine Translation相关推荐
- 基于PyTorch实现Seq2Seq + Attention的英汉Neural Machine Translation
NMT(Neural Machine Translation)基于神经网络的机器翻译模型效果越来越好,还记得大学时代Google翻译效果还是差强人意,近些年来使用NMT后已基本能满足非特殊需求了.目前 ...
- 基于TensorRT车辆实时推理优化
基于TensorRT车辆实时推理优化 Optimizing NVIDIA TensorRT Conversion for Real-time Inference on Autonomous Vehic ...
- tensorrt轻松部署高性能dnn推理_基于TensorRT车辆实时推理优化
基于TensorRT车辆实时推理优化 Optimizing NVIDIA TensorRT Conversion for Real-time Inference on Autonomous Vehic ...
- 《Effective Approaches to Attention-based Neural Machine Translation》—— 基于注意力机制的有效神经机器翻译方法
目录 <Effective Approaches to Attention-based Neural Machine Translation> 一.论文结构总览 二.论文背景知识 2.1 ...
- nlp论文-《Neural Machine Translation by Jointly Learning to Align and Translate》-基于联合学习对齐和翻译的神经机器翻译(一)
<Neural Machine Translation by Jointly Learning to Align and Translate>--基于联合学习对齐和翻译的神经机器翻译 作者 ...
- nlp论文-《Neural Machine Translation by Jointly Learning to Align and Translate》-基于联合学习对齐和翻译的神经机器翻译(二)
1.论文整体框架 1.1 摘要 神经机器翻译的任务定义: 传统神经机器翻译所用的编码器-解码器模型的缺陷: 本文提出一种能够自动搜索原句中与预测目标词相关的神经机器翻译模型: 所提出的模型的效果: 1 ...
- 【Paper】Learning Phrase Representations using RNN Encoder-Decoder for Statistical Machine Translation
论文原文:PDF 论文年份:2014 论文被引:11398(2020/11/08) 18225(2022/03/26) 论文作者:Kyunghyun Cho et.al. 文章目录 Abstract ...
- 文献阅读(60)ACL2021-Attention Calibration for Transformer in Neural Machine Translation
本文是对<Attention Calibration for Transformer in Neural Machine Translation>一文的浅显翻译与理解,如有侵权即刻删除. ...
- Bridging the Gap between Training and Inference for Neural Machine Translation翻译
Bridging the Gap between Training and Inference for Neural Machine Translation 翻译 原文链接:https://arxiv ...
最新文章
- linux误删视频恢复吗,linux 误删文件恢复
- linux中默认安装php,Linux系统中Apache PHP MySQL的默认安装路径
- AWS 基础服务学习
- python is 和 == 的区别、解码和编码 小数据池
- 玩转android studio,玩转AndroidStudioIDE
- java的垃圾回收机制包括:主流回收算法和收集器(jvm的一个主要优化方向)
- python变量赋值
- linux下ssh/sftp配置和权限设置
- Photoshop 快速选择工具抠图
- 先一XDB实时数据库采集
- 如何在阿里云上创建安全的远程工作空间
- 开发前期必须准备的利器:开发原型图、UI图工具pxCook、找图标、写接口文档、代码托管等...
- 服务器日志显示system特殊登陆,事件查看器 安全 特殊登陆 什么意思??
- 喜马拉雅.xm转化为.mp3格式
- 【转】ST、SC、FC、LC光纤接头区别
- xp系统打开itunes显示服务器失败,XP系统无法安装最新的iTunes怎么解决,图文教程...
- 电解电容的ESR到底是多少呢?
- 阿里云IoT投入智物智造战略 三年赋能10亿设备改造10万家数字工厂
- Criteria条件查询
- Unity中Camera参数—Culling Mask详解
热门文章
- mysql 快捷查询数据库各表占用空间,mysql查看索引占用空间,mysql查看数据占用空间
- Texlive安装与环境变量配置
- 固定table标题头、标题列(兼容多种浏览器)
- Python 多进程笔记 — 启动进程的方式、守护进程、进程间通信、进程池、进程池之间通信、多进程生产消费模型
- 只有变强大,才能照亮他人
- 多版本python共存,安装三方库到指定python版本 多Python版本和虚拟环境
- 群论中的拉格朗日定理(子群的阶必然能整除群阶---数学
- 受用一生的高效 PyCharm 使用技巧(六)
- Pytorch使用GPU
- 卷积神经网络(CNN)张量(图像)的尺寸和参数计算(深度学习)