从0到1,手把手教你如何使用哈工大NLP工具——PyLTP
导读:此文是作者基于 Python 构建知识图谱的系列实践教程,具有一定创新性和实用性。文章前半部分内容先介绍哈工大 pytltp 工具,包括安装过程、中文分词、词性标注和实体识别的一些基本用法;后半部分内容讲解词性标注、实体识别、依存句法分析和语义角色标注及代码实现。
作者:杨秀璋(CSDN id:Eastmount)
文章整理后微信平台首发于AI科技大本营(ID:rgznai100)
01 哈工大LTP
LTP(Language Technology Platform)中文为语言技术平台,是哈工大社会计算与信息检索研究中心开发的一整套中文语言处理系统。
LTP制定了基于XML的语言处理结果表示,并在此基础上提供了一整套自底向上的丰富而且高效的中文语言处理模块(包括词法、句法、语义等6项中文处理核心技术),以及基于动态链接库(Dynamic Link Library,DLL)的应用程序接口,可视化工具,并且能够以网络服务的形式进行使用。
LTP开发文档:
https://ltp.readthedocs.io/zh_CN/latest/index.html
语言云LTP-Cloud:
http://www.ltp-cloud.com/
模型下载地址:
http://ltp.ai/download.html
在线演示案例如下图所示:
相信从事NLP、数据挖掘、知识图谱等领域的博友都知道哈工大LTP、同义词词林这些工具,该系列文章也会介绍相关的知识,希望对您有所帮助。
此外,再补充另一个在线NLP分析系统,感兴趣的朋友们也可以试一下:
http://ictclas.nlpir.org/nlpir/
02 pyltp 终极安装
下面介绍 Windows10 Python 环境下 LTP 的扩展包 pyltp 安装过程。
1. 常见错误
大家通常会调用 “pip install pyltp” 安装该扩展包,但会遇到各种错误,下面介绍一种可行的方法。
2. 安装pyltp包
首先,安装Python3.6环境,如下图所示“python-3.6.7-amd64.exe”。
接着,下载pyltp扩展包的whl文件至本地,调用CMD环境进行安装,注意需要将所在文件的路径写清楚。
pyltp-0.2.1-cp35-cp35m-win_amd64.whl #对应Python3.5版本pyltp-0.2.1-cp36-cp36m-win_amd64.whl #对应Python3.6版本pip install C:\Python36\Scripts\pyltp-0.2.1-cp36-cp36m-win_amd64.whl.1-cp35-cp35m-win_amd64.whl #对应Python3.5版本pyltp-0.2.1-cp36-cp36m-win_amd64.whl #对应Python3.6版本pip install C:\Python36\Scripts\pyltp-0.2.1-cp36-cp36m-win_amd64.whl
whl下载地址:
https://download.csdn.net/download/qq_22521211/10460778
安装过程下图所示,此时表示pyltp安装成功。
注意,如果报错“error:Microsoft Visual C++ 9.0 is required”,则安装下面exe文件。
3. 下载模型文件
最后需要下载模型文件,其下载地址为:
百度云
https://pan.baidu.com/share/link?shareid=1988562907&uk=2738088569#list/path=%2F
七牛云
http://ltp.ai/download.html
本文下载3.4版本的模型,下载解压如下图所示:
模型对应的说明如下图所示:
在编写代码时,需要导入指定文件夹中的模型,再进行中文分词、词性标注、命名实体识别、依存句法分析、语义角色标注等分析。例如:
#词性标注pdir='AgriKG\\ltp\\pos.model'pos = Postagger()pos.load(pdir)postags = pos.postag(word) #基于分词得到的list将下词性标注postags = list(postags)print(u"词性:", postags)pdir='AgriKG\\ltp\\pos.model'pos = Postagger()pos.load(pdir)postags = pos.postag(word) #基于分词得到的list将下词性标注postags = list(postags)print(u"词性:", postags)
分词、词性标注、句法分析一系列任务之间存在依赖关系。举例来讲,对于词性标注,必须在分词结果之上进行才有意义。LTP中提供的5种分析之间的依赖关系如下所示:
讲到这里,哈工大pyltp基本安装成功,接下来将介绍它的基本用法。
基础性文章,希望对入门者有所帮助。
03 中文分句和分词
官方文档:
https://pyltp.readthedocs.io/zh_CN/latest/api.html#id13
实现原理:
https://ltp.readthedocs.io/zh_CN/latest/theory.html#customized-cws-reference-label
1. 中文分句
# -*- coding: utf-8 -*-from pyltp import SentenceSplitterfrom pyltp import Segmentorfrom pyltp import Postaggerfrom pyltp import NamedEntityRecognizer#分句text = "贵州财经大学要举办大数据比赛吗?那让欧几里得去问问看吧!其实是在贵阳花溪区吧。"sents = SentenceSplitter.split(text) print('\n'.join(sents))from pyltp import SentenceSplitterfrom pyltp import Segmentorfrom pyltp import Postaggerfrom pyltp import NamedEntityRecognizer#分句text = "贵州财经大学要举办大数据比赛吗?那让欧几里得去问问看吧!其实是在贵阳花溪区吧。"sents = SentenceSplitter.split(text) print('\n'.join(sents))
中文分句的输出结果如下所示:
贵州财经大学要举办大数据比赛吗?那让欧几里得去问问看吧!其实是在贵阳花溪区吧。其实是在贵阳花溪区吧。
2. 中文分词
# -*- coding: utf-8 -*-from pyltp import SentenceSplitterfrom pyltp import Segmentorfrom pyltp import Postaggerfrom pyltp import NamedEntityRecognizertext = "贵州财经大学要举办大数据比赛吗?那让欧几里得去问问看吧!其实是在贵阳花溪区吧。"#中文分词segmentor = Segmentor() #初始化实例segmentor.load("AgriKG\\ltp\\cws.model") #加载模型words = segmentor.segment(text) #分词print(type(words))print(' '.join(words))segmentor.release() #释放模型from pyltp import SentenceSplitterfrom pyltp import Segmentorfrom pyltp import Postaggerfrom pyltp import NamedEntityRecognizer
text = "贵州财经大学要举办大数据比赛吗?那让欧几里得去问问看吧!其实是在贵阳花溪区吧。"
#中文分词segmentor = Segmentor() #初始化实例segmentor.load("AgriKG\\ltp\\cws.model") #加载模型words = segmentor.segment(text) #分词print(type(words))print(' '.join(words))segmentor.release() #释放模型
输出结果如下所示(人工换行):
<class 'pyltp.VectorOfString'>贵州 财经 大学 要 举办 大 数据 比赛 吗 ? 那 让 欧 几 里 得 去 问问 看 吧 ! 其实 是 在 贵阳 花溪区 吧 。
此时的分词效果并不理想,如 “大数据” 分为了“大”、“数据”,“欧几里得”分为了“欧”、“几”、“里”、“得”,“贵阳花溪区”分为了“贵阳”、“花溪区”等,故需要引入词典进行更为准确的分词。同时,返回值类型是native的VectorOfString类型,可以使用list转换成Python的列表类型。
3. 导入词典中文分词
pyltp 分词支持用户使用自定义词典。分词外部词典本身是一个文本文件(plain text),每行指定一个词,编码同样须为 UTF-8,比如“word”文件,如下图所示:
完整代码如下所示:
# -*- coding: utf-8 -*-from pyltp import SentenceSplitterfrom pyltp import Segmentorfrom pyltp import Postaggerfrom pyltp import NamedEntityRecognizerldir='AgriKG\\ltp\\cws.model' #分词模型dicdir='word' #外部字典text = "贵州财经大学要举办大数据比赛吗?那让欧几里得去问问看吧!其实是在贵阳花溪区吧。"#中文分词segmentor = Segmentor() #初始化实例segmentor.load_with_lexicon(ldir, 'word') #加载模型words = segmentor.segment(text) #分词print(' '.join(words)) #分词拼接words = list(words) #转换listprint(u"分词:", words)segmentor.release() #释放模型from pyltp import SentenceSplitterfrom pyltp import Segmentorfrom pyltp import Postaggerfrom pyltp import NamedEntityRecognizer
ldir='AgriKG\\ltp\\cws.model' #分词模型dicdir='word' #外部字典text = "贵州财经大学要举办大数据比赛吗?那让欧几里得去问问看吧!其实是在贵阳花溪区吧。"
#中文分词segmentor = Segmentor() #初始化实例segmentor.load_with_lexicon(ldir, 'word') #加载模型words = segmentor.segment(text) #分词print(' '.join(words)) #分词拼接words = list(words) #转换listprint(u"分词:", words)segmentor.release() #释放模型
输出结果如下所示,它将“大数据”、“欧几里得”、“贵阳花溪区”进行了词典匹配,再进行相关分词,但是“贵州财经大学”仍然划分为“贵州”、“财经”、“大学”。Why?
贵州 财经 大学 要 举办 大数据 比赛 吗 ? 那 让 欧几里得 去 问问 看 吧 ! 其实 是 在 贵阳花溪区 吧 。分词: ['贵州', '财经', '大学', '要', '举办', '大数据', '比赛', '吗', '?', '那', '让', '欧几里得', '去', '问问', '看', '吧', '!', '其实', '是', '在', '贵阳花溪区', '吧', '。']其实 是 在 贵阳花溪区 吧 。分词: ['贵州', '财经', '大学', '要', '举办', '大数据', '比赛', '吗', '?', '那', '让', '欧几里得', '去', '问问', '看', '吧', '!', '其实', '是', '在', '贵阳花溪区', '吧', '。']
4. 个性化分词
个性化分词是 LTP 的特色功能。个性化分词为了解决测试数据切换到如小说、财经等不同于新闻领域的领域。在切换到新领域时,用户只需要标注少量数据。个性化分词会在原有新闻数据基础之上进行增量训练。从而达到即利用新闻领域的丰富数据,又兼顾目标领域特殊性的目的。
pyltp 支持使用用户训练好的个性化模型。在 pyltp 中使用个性化分词模型的示例如下:
# -*- coding: utf-8 -*-from pyltp import CustomizedSegmentorcustomized_segmentor = CustomizedSegmentor() #初始化实例customized_segmentor.load('基本模型', '个性模型') #加载模型words = customized_segmentor.segment('亚硝酸盐是一种化学物质')print '\t'.join(words)customized_segmentor.release()from pyltp import CustomizedSegmentorcustomized_segmentor = CustomizedSegmentor() #初始化实例customized_segmentor.load('基本模型', '个性模型') #加载模型words = customized_segmentor.segment('亚硝酸盐是一种化学物质')print '\t'.join(words)customized_segmentor.release()
词性标注、实体识别、依存句法分析和语义角色标注及代码实现:
04 词性标注
词性标注(Part-Of-Speech tagging, POS tagging)也被称为语法标注(grammatical tagging)或词类消疑(word-category disambiguation),是语料库语言学(corpus linguistics)中将语料库内单词的词性按其含义和上下文内容进行标记的文本数据处理技术。
pyltp词性标注与分词模块相同,将词性标注任务建模为基于词的序列标注问题。对于输入句子的词序列,模型给句子中的每个词标注一个标识词边界的标记。在LTP中,采用的北大标注集。
完整代码:
# -*- coding: utf-8 -*-from pyltp import SentenceSplitterfrom pyltp import Segmentorfrom pyltp import Postaggerfrom pyltp import NamedEntityRecognizerldir='AgriKG\\ltp\\cws.model' #分词模型dicdir='word' #外部字典text = "贵州财经大学要举办大数据比赛吗?"#中文分词segmentor = Segmentor() #初始化实例segmentor.load_with_lexicon(ldir, 'word') #加载模型words = segmentor.segment(text) #分词print(text)print(' '.join(words)) #分词拼接words = list(words) #转换listprint(u"分词:", words)segmentor.release() #释放模型#词性标注pdir='AgriKG\\ltp\\pos.model'pos = Postagger() #初始化实例pos.load(pdir) #加载模型postags = pos.postag(words) #词性标注postags = list(postags)print(u"词性:", postags)pos.release() #释放模型data = {"words": words, "tags": postags}print(data)from pyltp import SentenceSplitterfrom pyltp import Segmentorfrom pyltp import Postaggerfrom pyltp import NamedEntityRecognizer
ldir='AgriKG\\ltp\\cws.model' #分词模型dicdir='word' #外部字典text = "贵州财经大学要举办大数据比赛吗?"
#中文分词segmentor = Segmentor() #初始化实例segmentor.load_with_lexicon(ldir, 'word') #加载模型words = segmentor.segment(text) #分词print(text)print(' '.join(words)) #分词拼接words = list(words) #转换listprint(u"分词:", words)segmentor.release() #释放模型
#词性标注pdir='AgriKG\\ltp\\pos.model'pos = Postagger() #初始化实例pos.load(pdir) #加载模型
postags = pos.postag(words) #词性标注postags = list(postags)print(u"词性:", postags)pos.release() #释放模型
data = {"words": words, "tags": postags}print(data)
输出结果如下图所示,“贵州”词性为“ns”(地理名词 ),“财经”词性为“n”(一般名词),“举办”词性为“v”(动词),“吗”词性为“u”(助词),“?”词性为“wp”(标点)。
贵州财经大学要举办大数据比赛吗?贵州 财经 大学 要 举办 大数据 比赛 吗 ?分词: ['贵州', '财经', '大学', '要', '举办', '大数据', '比赛', '吗', '?']词性: ['ns', 'n', 'n', 'v', 'v', 'n', 'v', 'u', 'wp']{'words': ['贵州', '财经', '大学', '要', '举办', '大数据', '比赛', '吗', '?'], 'tags': ['ns', 'n', 'n', 'v', 'v', 'n', 'v', 'u', 'wp']}分词: ['贵州', '财经', '大学', '要', '举办', '大数据', '比赛', '吗', '?']词性: ['ns', 'n', 'n', 'v', 'v', 'n', 'v', 'u', 'wp']{'words': ['贵州', '财经', '大学', '要', '举办', '大数据', '比赛', '吗', '?'], 'tags': ['ns', 'n', 'n', 'v', 'v', 'n', 'v', 'u', 'wp']}
具体词性为:
Tag Description Examplea adjective:形容词 美丽 b other noun-modifier:其他的修饰名词 大型, 西式 c conjunction:连词 和, 虽然 d adverb:副词 很 e exclamation:感叹词 哎 g morpheme:词素 h prefix:前缀 阿, 伪 i idiom:成语 百花齐放 j abbreviation:缩写 公检法 k suffix:后缀 界, 率 m number:数字 一, 第一 n general noun:一般名词 苹果 nd direction noun:方向名词 右侧 nh person name:人名 杜甫, 汤姆 ni organization name:公司名 保险公司,中国银行nl location noun:地点名词 城郊ns geographical name:地理名词 北京nt temporal noun:时间名词 近日, 明代nz other proper noun:其他名词 诺贝尔奖o onomatopoeia:拟声词 哗啦p preposition:介词 在, 把,与q quantity:量词 个r pronoun:代词 我们u auxiliary:助词 的, 地v verb:动词 跑, 学习wp punctuation:标点 ,。!ws foreign words:国外词 CPUx non-lexeme:不构成词 萄, 翱z descriptive words 描写,叙述的词 瑟瑟,匆匆b other noun-modifier:其他的修饰名词 大型, 西式 c conjunction:连词 和, 虽然 d adverb:副词 很 e exclamation:感叹词 哎 g morpheme:词素 h prefix:前缀 阿, 伪 i idiom:成语 百花齐放 j abbreviation:缩写 公检法 k suffix:后缀 界, 率 m number:数字 一, 第一 n general noun:一般名词 苹果 nd direction noun:方向名词 右侧 nh person name:人名 杜甫, 汤姆 ni organization name:公司名 保险公司,中国银行nl location noun:地点名词 城郊ns geographical name:地理名词 北京nt temporal noun:时间名词 近日, 明代nz other proper noun:其他名词 诺贝尔奖o onomatopoeia:拟声词 哗啦p preposition:介词 在, 把,与q quantity:量词 个r pronoun:代词 我们u auxiliary:助词 的, 地v verb:动词 跑, 学习wp punctuation:标点 ,。!ws foreign words:国外词 CPUx non-lexeme:不构成词 萄, 翱z descriptive words 描写,叙述的词 瑟瑟,匆匆
05 命名实体识别
命名实体识别(Named Entity Recognition,简称NER),又称作“专名识别”,是指识别文本中具有特定意义的实体,主要包括人名、地名、机构名、专有名词等。命名实体识别是信息提取、问答系统、句法分析、机器翻译、面向Semantic Web的元数据标注等应用领域的重要基础工具,在自然语言处理技术走向实用化的过程中占有重要地位。
在哈工大Pyltp中,NE识别模块的标注结果采用O-S-B-I-E标注形式,其含义如下:
LTP中的NE 模块识别三种NE,分别为人名(Nh)、机构名(Ni)、地名(Ns)。
完整代码:
# -*- coding: utf-8 -*-from pyltp import SentenceSplitterfrom pyltp import Segmentorfrom pyltp import Postaggerfrom pyltp import NamedEntityRecognizerldir='AgriKG\\ltp\\cws.model' #分词模型dicdir='word' #外部字典text = "贵州财经大学要举办大数据比赛吗?"#中文分词segmentor = Segmentor() #初始化实例segmentor.load_with_lexicon(ldir, 'word') #加载模型words = segmentor.segment(text) #分词print(text)print(' '.join(words)) #分词拼接words = list(words) #转换listprint(u"分词:", words)segmentor.release() #释放模型#词性标注pdir='AgriKG\\ltp\\pos.model'pos = Postagger() #初始化实例pos.load(pdir) #加载模型postags = pos.postag(words) #词性标注postags = list(postags)print(u"词性:", postags)pos.release() #释放模型data = {"words": words, "tags": postags}print(data)print(" ")#命名实体识别nermodel='AgriKG\\ltp\\ner.model'reg = NamedEntityRecognizer() #初始化命名实体实例reg.load(nermodel) #加载模型netags = reg.recognize(words, postags) #对分词、词性标注得到的数据进行实体标识netags = list(netags)print(u"命名实体识别:", netags)#实体识别结果data={"reg": netags,"words":words,"tags":postags}print(data)reg.release() #释放模型 from pyltp import SentenceSplitterfrom pyltp import Segmentorfrom pyltp import Postaggerfrom pyltp import NamedEntityRecognizer
ldir='AgriKG\\ltp\\cws.model' #分词模型dicdir='word' #外部字典text = "贵州财经大学要举办大数据比赛吗?"
#中文分词segmentor = Segmentor() #初始化实例segmentor.load_with_lexicon(ldir, 'word') #加载模型words = segmentor.segment(text) #分词print(text)print(' '.join(words)) #分词拼接words = list(words) #转换listprint(u"分词:", words)segmentor.release() #释放模型
#词性标注pdir='AgriKG\\ltp\\pos.model'pos = Postagger() #初始化实例pos.load(pdir) #加载模型
postags = pos.postag(words) #词性标注postags = list(postags)print(u"词性:", postags)pos.release() #释放模型
data = {"words": words, "tags": postags}print(data)print(" ")
#命名实体识别nermodel='AgriKG\\ltp\\ner.model'reg = NamedEntityRecognizer() #初始化命名实体实例reg.load(nermodel) #加载模型netags = reg.recognize(words, postags) #对分词、词性标注得到的数据进行实体标识netags = list(netags)print(u"命名实体识别:", netags)
#实体识别结果data={"reg": netags,"words":words,"tags":postags}print(data)reg.release() #释放模型
输出结果如下图所示,识别出的三个命名实体分别是:“贵州”(B-Ni)表示一个NE开始-机构名,“财经”(I-Ni)表示一个NE中间-机构名,“大学”(E-Ni)表示一个NE结束-机构名。
PS:虽然导入指定词典,但“贵州财经大学”分词仍然被分割,后续研究中。
06 依存句法分析
依存句法是由法国语言学家L.Tesniere最先提出。它将句子分析成一棵依存句法树,描述出各个词语之间的依存关系。也即指出了词语之间在句法上的搭配关系,这种搭配关系是和语义相关联的。如下图所示:
哈工大Pyltp的依存句法关系如下图所示。
参考:
https://ltp.readthedocs.io/zh_CN/latest/appendix.html
完整代码:
# -*- coding: utf-8 -*-from pyltp import SentenceSplitterfrom pyltp import Segmentorfrom pyltp import Postaggerfrom pyltp import Parserfrom pyltp import NamedEntityRecognizerldir = 'AgriKG\\ltp\\cws.model' #分词模型dicdir = 'word' #外部字典text = "贵州财经大学要举办大数据比赛吗?"#中文分词segmentor = Segmentor() #初始化实例segmentor.load_with_lexicon(ldir, 'word') #加载模型words = segmentor.segment(text) #分词print(text)print(' '.join(words)) #分词拼接words = list(words) #转换listprint(u"分词:", words)segmentor.release() #释放模型#词性标注pdir = 'AgriKG\\ltp\\pos.model'pos = Postagger() #初始化实例pos.load(pdir) #加载模型postags = pos.postag(words) #词性标注postags = list(postags)print(u"词性:", postags)pos.release() #释放模型data = {"words": words, "tags": postags}print(data)print(" ")#命名实体识别nermodel = 'AgriKG\\ltp\\ner.model'reg = NamedEntityRecognizer() #初始化命名实体实例reg.load(nermodel) #加载模型netags = reg.recognize(words, postags) #对分词、词性标注得到的数据进行实体标识netags = list(netags)print(u"命名实体识别:", netags)#实体识别结果data={"reg": netags,"words":words,"tags":postags}print(data)reg.release() #释放模型print(" ")#依存句法分析parmodel = 'AgriKG\\ltp\\parser.model'parser = Parser() #初始化命名实体实例parser.load(parmodel) #加载模型arcs = parser.parse(words, postags) #句法分析#输出结果print(words)print("\t".join("%d:%s" % (arc.head, arc.relation) for arc in arcs))rely_id = [arc.head for arc in arcs] # 提取依存父节点idrelation = [arc.relation for arc in arcs] # 提取依存关系heads = ['Root' if id == 0 else words[id-1] for id in rely_id] # 匹配依存父节点词语for i in range(len(words)): print(relation[i] + '(' + words[i] + ', ' + heads[i] + ')')parser.release() #释放模型from pyltp import SentenceSplitterfrom pyltp import Segmentorfrom pyltp import Postaggerfrom pyltp import Parserfrom pyltp import NamedEntityRecognizer
ldir = 'AgriKG\\ltp\\cws.model' #分词模型dicdir = 'word' #外部字典text = "贵州财经大学要举办大数据比赛吗?"
#中文分词segmentor = Segmentor() #初始化实例segmentor.load_with_lexicon(ldir, 'word') #加载模型words = segmentor.segment(text) #分词print(text)print(' '.join(words)) #分词拼接words = list(words) #转换listprint(u"分词:", words)segmentor.release() #释放模型
#词性标注pdir = 'AgriKG\\ltp\\pos.model'pos = Postagger() #初始化实例pos.load(pdir) #加载模型
postags = pos.postag(words) #词性标注postags = list(postags)print(u"词性:", postags)pos.release() #释放模型
data = {"words": words, "tags": postags}print(data)print(" ")
#命名实体识别nermodel = 'AgriKG\\ltp\\ner.model'reg = NamedEntityRecognizer() #初始化命名实体实例reg.load(nermodel) #加载模型netags = reg.recognize(words, postags) #对分词、词性标注得到的数据进行实体标识netags = list(netags)print(u"命名实体识别:", netags)
#实体识别结果data={"reg": netags,"words":words,"tags":postags}print(data)reg.release() #释放模型print(" ")
#依存句法分析parmodel = 'AgriKG\\ltp\\parser.model'parser = Parser() #初始化命名实体实例parser.load(parmodel) #加载模型arcs = parser.parse(words, postags) #句法分析
#输出结果print(words)print("\t".join("%d:%s" % (arc.head, arc.relation) for arc in arcs))
rely_id = [arc.head for arc in arcs] # 提取依存父节点idrelation = [arc.relation for arc in arcs] # 提取依存关系heads = ['Root' if id == 0 else words[id-1] for id in rely_id] # 匹配依存父节点词语for i in range(len(words)): print(relation[i] + '(' + words[i] + ', ' + heads[i] + ')')
parser.release() #释放模型
输出结果如下所示,其中ATT表示定中关系,如“贵州-大学”、“财经-大学”;SBV表示主谓关系,如“大学-举办”;ADV表示状中结果“要-举办”;HED表示核心关系“举办-Root”,即“举办大数据”。
补充:arc.head表示依存弧的父节点词的索引,arc.relation表示依存弧的关系。arc.head中的ROOT节点的索引是0,第一个词开始的索引依次为1、2、3。
07 语义角色标注
该部分代码仅供博友们参考,作者还在深入研究中。
#语义角色标注from pyltp import SementicRoleLabellersrlmodel = 'AgriKG\\ltp\\pisrl.model'labeller = SementicRoleLabeller() #初始化实例labeller.load(srlmodel) #加载模型words = ['元芳', '你', '怎么', '看']postags = ['nh', 'r', 'r', 'v']arcs = parser.parse(words, postags) #依存句法分析#arcs使用依存句法分析的结果roles = labeller.label(words, postags, arcs) #语义角色标注# 打印结果for role in roles: print(role.index, "".join( ["%s:(%d,%d)" % (arg.name, arg.range.start, arg.range.end) for arg in role.arguments]))labeller.release() #释放模型from pyltp import SementicRoleLabeller
srlmodel = 'AgriKG\\ltp\\pisrl.model'labeller = SementicRoleLabeller() #初始化实例labeller.load(srlmodel) #加载模型
words = ['元芳', '你', '怎么', '看']postags = ['nh', 'r', 'r', 'v']arcs = parser.parse(words, postags) #依存句法分析
#arcs使用依存句法分析的结果roles = labeller.label(words, postags, arcs) #语义角色标注
# 打印结果for role in roles: print(role.index, "".join( ["%s:(%d,%d)" % (arg.name, arg.range.start, arg.range.end) for arg in role.arguments]))
labeller.release() #释放模型
输出结果如下:
3 A0:(1,1)ADV:(2,2)1,1)ADV:(2,2)
上面的例子,由于结果输出一行,所以“元芳你怎么看”有一组语义角色。其谓词索引为3,即“看”。这个谓词有三个语义角色,范围分别是(0,0)即“元芳”,(1,1)即“你”,(2,2)即“怎么”,类型分别是A0、A0、ADV。
希望这篇基础性文章对你有所帮助,如果有错误或不足之处,还请海涵。
原文链接:
https://blog.csdn.net/Eastmount/article/details/90771843
https://blog.csdn.net/Eastmount/article/details/92440722
有话要说?
Q: 哪款NLP工具最好用?
欢迎留言与大家分享
猜你想看?
发际线预警!10本程序员必读烧脑经典,你敢挑战一本吗?
手把手教你实现共享单车数据分析及需求预测
2019上半年这10本新书,技术大牛们都在追着看
高能干货:OpenCV看这篇就够了,9段代码详解图像变换基本操作
更多精彩?
在公众号对话框输入以下关键词
查看更多优质内容!
PPT | 报告 | 读书 | 书单 | 干货
大数据 | 揭秘 | Python | 可视化
AI | 人工智能 | 5G | 区块链
机器学习 | 深度学习 | 神经网络
1024 | 段子 | 数学 | 高考
据统计,99%的大咖都完成了这个神操作
?
觉得不错,请把这篇文章分享给你的朋友
转载 / 投稿请联系:baiyu@hzbook.com
更多精彩,请在后台点击“历史文章”查看
从0到1,手把手教你如何使用哈工大NLP工具——PyLTP相关推荐
- 从 0 到 1 | 手把手教你如何使用哈工大 NLP 工具 —— PyLTP!
作者 | 杨秀璋 来源 | CSDN 博客(CSDN id:Eastmount) (本文经作者授权,此系列文章整理后微信平台首发于AI科技大本营) [导语]此文是作者基于 Python 构建知识图谱的 ...
- 从0到1 | 手把手教你如何使用哈工大NLP工具——PyLTP!
作者 | 杨秀璋 来源 | CSDN 博客(CSDN id:Eastmount) (本文经作者授权,此系列文章整理后微信平台首发于AI科技大本营) [导语]此文是作者基于 Python 构建知识图谱的 ...
- 第五十八期:从0到1 手把手教你建一个区块链
近期的区块链重回热点,如果你想深入了解区块链,那就来看一下本文,手把手教你构建一个自己的区块链. 作者:Captain编译 近期的区块链重回热点,如果你想深入了解区块链,那就来看一下本文,手把手教你构 ...
- 小米 android 7.0彩蛋,手把手教你小米怎么刷入安卓7.0!
原标题:手把手教你小米怎么刷入安卓7.0! 小米3/4/Note用上原生Android 7.0,还不赶快升级?手把手教你小米怎么刷入安卓7.0! Android 7.0发布已数月,但国内仅有华为EMU ...
- vue 手机端答题页面_从0开始,手把手教你用Vue开发一个答题App
项目演示 项目源码 配套讲解视频 教程说明 本教程适合对Vue基础知识有一点了解,但不懂得综合运用,还未曾使用Vue从头开发过一个小型App的读者.本教程不对所有的Vue知识点进行讲解,而是手把手一步 ...
- vue 手机端答题页面_从0开始,手把手教你用Vue开发一个答题App01之项目创建及答题设置页面开发...
项目演示 项目源码 配套讲解视频 教程说明 本教程适合对Vue基础知识有一点了解,但不懂得综合运用,还未曾使用Vue从头开发过一个小型App的读者.本教程不对所有的Vue知识点进行讲解,而是手把手一步 ...
- 从0开始,手把手教你使用React开发答题App
项目演示地址 项目演示地址 项目源码 项目源码 视频教程 视频教程 项目代码结构 前言 React 框架的优雅不言而喻,组件化的编程思想使得React框架开发的项目代码简洁,易懂,但早期 React ...
- 从0开始,手把手教你用Vue开发一个答题App
项目演示 项目演示 项目源码 项目源码 配套讲解视频 配套讲解视频第一节 配套讲解视频第二节 教程说明 本教程适合对Vue基础知识有一点了解,但不懂得综合运用,还未曾使用Vue从头开发过一个小型App ...
- 百度工程师手把手教你实现代码规范检测工具
01 引言 代码规范是软件开发领域经久不衰的话题.在前端领域中,说到代码规范,我们会很容易想到检查代码缩进.尾逗号以及分号等等,除此之外,代码规范还包括了针对特殊场景定制化的检查.JavaScript ...
最新文章
- NB-Iot烟感01:烟感探测器原理和规格
- 美团方法论,苦练基本功
- 人工智能德国造 “弱AI“强势登场
- UniDAC使用教程(二):数据更新
- linux操作普通文件夹,Linux学习--2.文件管理的基本命令
- struts2的配置文件
- select sqlite 唯一_SQLite Select 语句
- 《Head First Python》第四章--持久存储
- 系统应用iPad设备应用需定制开发的3大理由
- jz2440开发板修改UBOOT支持NAND FLASH
- php数组转ini文件,php – 将数组转换为.ini文件
- 腾讯视频真实下载地址_腾讯视频如何多倍速播放视频
- Hadoop数据目录迁移
- navicat 将自增长字段重置(重新从1开始)的方法
- ArcGIS JS API 4 —— GET https://static.arcgis.com/fonts/simsun-regular/37888-38143.pbf 404
- php 删除前后空格,php怎么去除前面空格
- ESX4 安装前的考虑
- 2022/7/14小记
- 专访OKEX Jay Hao:期权市场的需求从何而来?
- 可拖拽的弹出窗口Js插件
热门文章
- Qt工作笔记-UDP多线程数据处理及发送(简单实例)
- STL工作笔记-map中关于erase返回值的操作
- Qt工作笔记-可拖动大小的QListWidget(自定义控件方式)
- 计算机进位法,计算机基础知识--进位计数制.docx
- android 缩放视图,当容器视图缩放为centerInside时,在android imageview中找到位图的位置...
- android日志打印机制,Android4_使用Log打印
- olap mysql_MySQL与OLAP:分析型SQL查询最佳实践探索
- (计算机组成原理)第六章总线-第四节:总线标准
- Linux系统编程39:多线程之基于阻塞队列生产者与消费者模型
- 使用 dpu 检视 dump 中的字符串.