【NLP】动手实现一个句子生成器
本文主要介绍如何通过预先设定好的语法规则以及单词,通过Python来自动生成一些句子。
文章目录
- 解析语法
- 生成句子
- 小结
解析语法
在生成句子之前,我们需要先告诉机器生成句子的语法。
因此,我们先定义一个简单的语法:
simple_grammar = """
sentence => noun_phrase verb_phrase
noun_phrase => Article Adj* noun
Adj* => null | Adj Adj*
verb_phrase => verb noun_phrase
Article => 一个 | 这个
noun => 女人 | 篮球 | 桌子 | 小猫
verb => 看着 | 坐在 | 听着 | 看见
Adj => 蓝色的 | 好看的 | 小小的
"""
上面的语法其实可以表示成一棵语法树(Syntax Tree),对此感兴趣的话可以参考以下文章:
- 语法树:用树状图透视语法结构
- 解谜英语语法
语法说明
sentence => noun_phrase verb_phrase
:表示一个sentence
由noun_phrase
和verb_phrase
组成。Adj => 蓝色的 | 好看的 | 小小的
:表示Adj
一共有蓝色的 | 好看的 | 小小的
3个选择。
基于上面的两条规说明,我们就能够读懂上面的语法规则。
观察上面的语法,我们可以发现一共有两类词汇,左边的词汇是可以继续拓展的,右边的词汇如果不在左边,那么是不可拓展的。
我们先以adj
为例,编写代码。Adj
语法如下:
adj_grammar = """
Adj* => null | Adj Adj*
Adj => 蓝色的 | 好看的 | 小小的"""
根据上面的adj_grammar
字符串语法规则,我们将其解析成字典格式:
# 解析语法
def create_grammar(grammar_str, split = '=>', line_split = '\n'):grammar = {}for line in grammar_str.split(line_split):if not line.strip():continue # 跳过空行else:exp, stmt = line.split(split)grammar[exp.strip()] = [s.split() for s in stmt.split('|')]return grammar
结果如下:
接着我们再将上面的simple_grammar
语法规则解析成字典格式:
至此,我们已经能够使用代码解析出上面的语法规则了。
生成句子
最后,我们编写代码根据上面的语法规则,自动生成句子:
# 生成句子
def generate(gram, target):if target not in gram:return target # means target is a terminal expression# target in gram 意味着target是可以继续拓展下去的else:expaned = [generate(gram, t) for t in random.choice(gram[target])]return ''.join([e if e!='/n' else '\n' for e in expaned if e != 'null'])
利用编写的代码,随机生成一个句子:
我们可以再定义两个语法,看一下效果如何:
# 在西部世界里
# 一个”人类“的语言可以定义为:human = """
human = 自己 寻找 活动
自己 = 我 | 俺 | 我们
寻找 = 找找 | 想找点
活动 = 乐子 | 玩的
"""# 一个“接待员”的语言可以定义为host = """
host = 寒暄 报数 询问 业务相关 结尾
报数 = 我是 数字 号 ,
数字 = 单个数字 | 数字 单个数字
单个数字 = 1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9
寒暄 = 称谓 打招呼 | 打招呼
称谓 = 人称 ,
人称 = 先生 | 女士 | 小朋友
打招呼 = 你好 | 您好
询问 = 请问你要 | 您需要
业务相关 = 玩玩 具体业务
玩玩 = null
具体业务 = 喝酒 | 打牌 | 打猎 | 赌博
结尾 = 吗?
"""
“人类”和“接待员”各自随机生成5个句子:
可以看到,我们已经成功地通过自定义的语法规则来让计算机自动生成句子了。
小结
本文主要通过解析语法树,自动生成句子等方法,实现了一个自动生成句子的程序。
看完这篇文章,大家也可以设计实现自己的句子生成器。
上面生成了许多句子,但是,我们如何判断哪些句子更为合理(符合人类说话习惯),哪些句子不合理?这时候就需要用到语言模型了,关于语言模型的相关概念及代码实现,将会在后面的文章讲到,敬请期待。
【NLP】动手实现一个句子生成器相关推荐
- 小飞鱼通达二开 软件版权登记之自己动手写一个源代码文档生成器(图文)
软件开发过后,如果需要对软件进行保护就需要进行版权登记,现在登记都可以在网上进行也是非常的方便,在版权登记网站登记信息后,需要打印一份表格签字,然后就是需要准备软件的设计说明书和打印源代码2个事情. ...
- 自己动手写一个nodejs的日志生成器
自己动手写一个nodejs的logger 最近正在边学边用node.js开发个人应用的server,由于有用到websocket相关,想对websocket的通信选择性的做下日志记录,所以萌发了自己动 ...
- NLP-python-马尔科夫链(markov)-文本句子生成器实现
NLP-python-马尔科夫链(markov)-文本句子生成器实现 一.markov算法说明: 该算法的基本原理是将输入看成是由一些互相重叠的短语构成的序列. 其将每个短语分割为两个部分:一部分是由 ...
- 利用 Laravel 花 2 小时撸一个 RSS 生成器
Wait no longer! Create RSS feeds for all websites you care about and read them from the comfort of y ...
- 如何无监督地获得一个句子的向量表示?
©PaperWeekly 原创 · 作者 | 张成蹊 单位 | FreeWheel机器学习工程师 研究方向 | 自然语言处理 或许上过 NLP 或大数据课程的同学会想到课程小作业的王者:TF-IDF. ...
- Angular 原理图 Schematics 学习 - 动手开发一个实际的例子
当 ng add 命令向项目中添加某个库时,就会运行原理图.ng generate 命令则会运行原理图,来创建应用.库和 Angular 代码块. 一些术语: 规则 在原理图 中,是指一个在文件树上运 ...
- gensim提取一个句子的关键词_聊一聊 NLPer 如何做关键词抽取
微信公众号:NLP从入门到放弃 有兴趣的去github看更多NLP相关知识总结: https://github.com/DA-southampton/NLP_abilitygithub.com 关 ...
- 有趣的深度学习——使用TensorFlow 2.0 + RNN 实现一个古体诗生成器
一.前言 很早之前,我曾经写过一个古体诗生成器(详情可以戳TensorFlow练手项目二:基于循环神经网络(RNN)的古诗生成器),那个时候用的还是Python 2.7和TensorFlow 1.4. ...
- NLP学习————实现一个BERT(简记)
NLP学习-实现一个BERT(简记) 本文主要内容是介绍了BERT的代码结构.具体实现与原理,对BERT的一些简记 内容包括以下几个部分: BERT Tokenization 分词模型(BertTok ...
最新文章
- webpack原理探究 打包优化
- 跨域问题解决方案--Nginx代理转发
- 数据库分片教程mysql_简述MySQL分片中快速数据迁移
- 【渝粤题库】国家开放大学2021春1425调剂学(本)题目
- python图像文件压缩_python实现图片压缩代码实例
- mysql srid_mysql8 参考手册--索引优化
- 李嘉诚无锡演讲:骂到你成功
- pulsar常用命令
- 转载:Windows Phone 7 资源汇总(超全)
- Apache Spark技术实战之1 -- KafkaWordCount
- 跨考计算机 专硕还是学硕,考研我该如何抉择!专硕学硕不纠结
- 通过小白三步装机版安装win10系统教程
- TrinityCore3.3.5环境搭建
- 图数据库扫盲和图数据选用
- 一款自制的视频录制软件
- 影创发布首款头手6DoF MR眼镜鸿鹄,搭载高通骁龙XR2平台
- rockchip中的vop
- Chrome 跨域 请求不携带cookie
- C# 导入EXCEL 报错外部表不是预期的格式错误
- 使用hanewin实现 win系统主机,vm虚拟机中linux系统和开发板三方共享文件夹