CGMH: Constrained Sentence Generation by Metropolis-Hastings Sampling
Abstract
在自然语言生成的实际应用中，除了流畅度和自然度的要求外，通常还有一些其他的约束。
已有的一些语言生成技术基于 RNN 实现，对于这类方法，不容易在维持生成质量的同时对其添加约束。
文本提出 CGMH，通过 Metropolis-Hastings sampling 来实现 受约束的句子生成。
- CGMH 允许施加复杂的约束，如要求在生成的句子中必须出现多个关键词，这在传统基于 RNN 的方法中是无法做到的。
- CGMH 是在推理阶段工作的，因此不需要平行语料来训练。
我们在几种任务上对我们的方法进行了评估，包括：
- keywords-to-sentence generation
- unsupervised sen- tence paraphrasing
- unsupervised sentence error correction
相比于之前的有监督方法，CGMH 实现了很好的句子生成效果。
代码：https://github.com/NingMiao/CGMH
Introduction
句子生成中的约束分为几种：
- Hard constraints
- 如必须包含特定关键词
- Soft constraints
CGMH: Constrained Sentence Generation by Metropolis-Hastings Sampling相关推荐
- MCMC中的Metropolis–Hastings算法与吉布斯采样
Metropolis–Hastings算法是一种具体的MCMC方法,而吉布斯采样(Gibbs Sampling)是Metropolis–Hastings算法的一种特殊形式.二者在机器学习中具有重要作用 ...
- Metropolis Hastings MCMC when the proposal and target have differing support
参考: Metropolis Hastings MCMC when the proposal and target have differing support Examples of errors ...
- mh采样算法推导_科学网—MCMC中的Metropolis Hastings抽样法 - 张金龙的博文
Metropolis Hastings抽样法示例 jinlongzhang01@gmail.com Metropolis Hasting(下面简称MH)是蒙特卡罗马尔科夫链中一种重要的抽样方法.本文简 ...
- 【层级文本分类】Constrained Sequence-to-Tree Generation for Hierarchical Text Classification
Constrained Sequence-to-Tree Generation for Hierarchical Text Classification 1.背景 1.作者(第一作者和通讯作者) ...
- CommonGen: A Constrained Text Generation Challenge for Generative Commonsense Reasoning 代码执行记录
CommonGen: A Constrained Text Generation Challenge for Generative Commonsense Reasoning 代码执行踩坑记录 文章目 ...
- Metropolis–Hastings算法
1蒙特卡洛方法 蒙特卡罗方法也称统计模拟方法,是一种以概率统计理论为指导的数值计算方法.蒙特卡洛方法的基本思想是,当所求解问题是某种随机事件出现的概率,或者是某个随机变量的期望值时,通过某种" ...
- R语言实现MCMC中的Metropolis–Hastings算法与吉布斯采样
创建测试数据 第一步,我们创建一些测试数据,用来拟合我们的模型.我们假设预测变量和因变量之间存在线性关系,所以我们用线性模型并添加一些噪音. trueA <- 5trueB <- 0tru ...
- 王选计算机研究院,北京大学
2019年期刊论文 序号 作者 论文题目 会议名称(全称) 时间/地点 1 Tianyi Li, Tongxin Li, Yu Ding, Yulong Zhang, Tao Wei, Xinhui ...
- 通过Python实现马尔科夫链蒙特卡罗方法的入门级应用
通过把马尔科夫链蒙特卡罗(MCMC)应用于一个具体问题,本文介绍了 Python 中 MCMC 的入门级应用. GitHub 地址:https://github.com/WillKoehrsen/ai ...
最新文章
- vue实现div多选全选功能_怎样为你的 Vue.js 单页应用提速
- Linux的tty设备介绍
- vs2008创建mysql数据库_求教VS2008 C++连接MySQL数据库
- 光猫直连电脑不能上网_电脑插上网线不能上网怎么办
- Docker Compose基本使用-使用Compose启动Tomcat为例
- 【theano-windows】学习笔记十九——循环神经网络
- 常见数据结构与算法整理总结（下）
- C语言学习笔记---结构体的定义和初始化
- Double Deep Q-Learning Netwok的理解与实现
- 【Spark亚太研究院系列丛书】Spark实战高手之-构建Spark集群-安装Ubuntu系统(3)
- HDU1408 盐水的故事【模拟+数学】
- python 多线程读写文件_python多线程写入文件问题
- python编写计算器实例,Python只用40行代码编写的计算器实例
- Android投屏神器scrcpy
- cout 和printf的区别，输出不同
- 如何使用格式工厂截取音乐或视频的片断
- 2020-10-1 //严蔚敏《数据结构》 //赫夫曼树及其应用：创建顺序赫夫曼树创建及得到赫夫曼编码
- Matlab绘图-很详细，很全面
- 皮卡丘的python程序_皮卡丘第一种
- Android 快速集成谷歌账户登录