python nlp_Python NLP入门教程
本文简要介绍Python自然语言处理(NLP),使用Python的NLTK库。NLTK是Python的自然语言处理工具包,在NLP领域中,最常使用的一个Python库。
什么是NLP?
简单来说,自然语言处理(NLP)就是开发能够理解人类语言的应用程序或服务。
这里讨论一些自然语言处理(NLP)的实际应用例子,如语音识别、语音翻译、理解完整的句子、理解匹配词的同义词,以及生成语法正确完整句子和段落。
这并不是NLP能做的所有事情。
NLP实现
搜索引擎: 比如谷歌,Yahoo等。谷歌搜索引擎知道你是一个技术人员,所以它显示与技术相关的结果;
社交网站推送:比如Facebook News Feed。如果News Feed算法知道你的兴趣是自然语言处理,就会显示相关的广告和帖子。
语音引擎:比如Apple的Siri。
垃圾邮件过滤:如谷歌垃圾邮件过滤器。和普通垃圾邮件过滤不同,它通过了解邮件内容里面的的深层意义,来判断是不是垃圾邮件。
NLP库
下面是一些开源的自然语言处理库(NLP):
Natural language toolkit (NLTK);
Apache OpenNLP;
Stanford NLP suite;
Gate NLP library
其中自然语言工具包(NLTK)是最受欢迎的自然语言处理库(NLP),它是用Python编写的,而且背后有非常强大的社区支持。
NLTK也很容易上手,实际上,它是最简单的自然语言处理(NLP)库。
在这个NLP教程中,我们将使用Python NLTK库。
安装 NLTK
如果您使用的是Windows/Linux/Mac,您可以使用pip安装NLTK:
pip install nltk
打开python终端导入NLTK检查NLTK是否正确安装:
import nltk
如果一切顺利,这意味着您已经成功地安装了NLTK库。首次安装了NLTK,需要通过运行以下代码来安装NLTK扩展包:
importnltk
nltk.download()
这将弹出NLTK 下载窗口来选择需要安装哪些包:
您可以安装所有的包,因为它们的大小都很小,所以没有什么问题。
使用Python Tokenize文本
首先,我们将抓取一个web页面内容,然后分析文本了解页面的内容。
我们将使用urllib模块来抓取web页面:
importurllib.request
response= urllib.request.urlopen('http://php.net/')
html= response.read()
print(html)
从打印结果中可以看到,结果包含许多需要清理的HTML标签。
然后BeautifulSoup模块来清洗这样的文字:
frombs4 importBeautifulSoup
importurllib.request
response= urllib.request.urlopen('http://php.net/')
html= response.read()
soup= BeautifulSoup(html,"html5lib")
# 这需要安装html5lib模块
text= soup.get_text(strip=True)
print(text)
现在我们从抓取的网页中得到了一个干净的文本。
下一步,将文本转换为tokens,像这样:
frombs4 importBeautifulSoup
importurllib.request
response= urllib.request.urlopen('http://php.net/')
html= response.read()
soup= BeautifulSoup(html,"html5lib")
text= soup.get_text(strip=True)
tokens= text.split()
print(tokens)
统计词频
text已经处理完毕了,现在使用Python NLTK统计token的频率分布。
可以通过调用NLTK中的FreqDist()方法实现:
frombs4 importBeautifulSoup
importurllib.request
importnltk
response= urllib.request.urlopen('http://php.net/')
html= response.read()
soup= BeautifulSoup(html,"html5lib")
text= soup.get_text(strip=True)
tokens= text.split()
freq= nltk.FreqDist(tokens)
forkey,val infreq.items():
print(str(key)+ ':'+ str(val))
如果搜索输出结果,可以发现最常见的token是PHP。
您可以调用plot函数做出频率分布图:
freq.plot(20,cumulative=False)
# 需要安装matplotlib库
这上面这些单词。比如of,a,an等等,这些词都属于停用词。
一般来说,停用词应该删除,防止它们影响分析结果。
处理停用词
NLTK自带了许多种语言的停用词列表,如果你获取英文停用词:
fromnltk.corpus importstopwords
stopwords.words('english')
现在,修改下代码,在绘图之前清除一些无效的token:
clean_tokens= list()
sr= stopwords.words('english')
fortokenintokens:
iftokennotinsr:
clean_tokens.append(token)
最终的代码应该是这样的:
frombs4 importBeautifulSoup
importurllib.request
importnltk
fromnltk.corpus importstopwords
response= urllib.request.urlopen('http://php.net/')
html= response.read()
soup= BeautifulSoup(html,"html5lib")
text= soup.get_text(strip=True)
tokens= text.split()
clean_tokens= list()
sr= stopwords.words('english')
fortokenintokens:
ifnottokeninsr:
clean_tokens.append(token)
freq= nltk.FreqDist(clean_tokens)
forkey,val infreq.items():
print(str(key)+ ':'+ str(val))
现在再做一次词频统计图,效果会比之前好些,因为剔除了停用词:
freq.plot(20,cumulative=False)
使用NLTK Tokenize文本
在之前我们用split方法将文本分割成tokens,现在我们使用NLTK来Tokenize文本。
文本没有Tokenize之前是无法处理的,所以对文本进行Tokenize非常重要的。token化过程意味着将大的部件分割为小部件。
你可以将段落tokenize成句子,将句子tokenize成单个词,NLTK分别提供了句子tokenizer和单词tokenizer。
假如有这样这段文本:
Hello Adam, how are you? I hope everything is going well. Today is a good day, see you dude
使用句子tokenizer将文本tokenize成句子:
fromnltk.tokenizeimportsent_tokenize
mytext= "Hello Adam, how are you? I hope everything is going well. Today is a good day, see you dude."
print(sent_tokenize(mytext))
输出如下:
['Hello Adam, how are you?', 'I hope everything is going well.', 'Today is a good day, see you dude.']
这是你可能会想,这也太简单了,不需要使用NLTK的tokenizer都可以,直接使用正则表达式来拆分句子就行,因为每个句子都有标点和空格。
那么再来看下面的文本:
Hello Mr. Adam, how are you? I hope everything is going well. Today is a good day, see you dude.
这样如果使用标点符号拆分,Hello Mr将会被认为是一个句子,如果使用NLTK:
fromnltk.tokenizeimportsent_tokenize
mytext= "Hello Mr. Adam, how are you? I hope everything is going well. Today is a good day, see you dude."
print(sent_tokenize(mytext))
输出如下:
['Hello Mr. Adam, how are you?', 'I hope everything is going well.', 'Today is a good day, see you dude.']
这才是正确的拆分。
接下来试试单词tokenizer:
fromnltk.tokenizeimportword_tokenize
mytext= "Hello Mr. Adam, how are you? I hope everything is going well. Today is a good day, see you dude."
print(word_tokenize(mytext))
输出如下:
['Hello', 'Mr.', 'Adam', ',', 'how', 'are', 'you', '?', 'I', 'hope', 'everything', 'is', 'going', 'well', '.', 'Today', 'is', 'a', 'good', 'day', ',', 'see', 'you', 'dude', '.']
Mr.这个词也没有被分开。NLTK使用的是punkt模块的PunktSentenceTokenizer,它是NLTK.tokenize的一部分。而且这个tokenizer经过训练,可以适用于多种语言。
非英文Tokenize
Tokenize时可以指定语言:
fromnltk.tokenizeimportsent_tokenize
mytext= "Bonjour M. Adam, comment allez-vous? J'espère que tout va bien. Aujourd'hui est un bon jour."
print(sent_tokenize(mytext,"french"))
输出结果如下:
['Bonjour M. Adam, comment allez-vous?', "J'espère que tout va bien.", "Aujourd'hui est un bon jour."]
同义词处理
使用nltk.download()安装界面,其中一个包是WordNet。
WordNet是一个为自然语言处理而建立的数据库。它包括一些同义词组和一些简短的定义。
您可以这样获取某个给定单词的定义和示例:
fromnltk.corpus importwordnet
syn= wordnet.synsets("pain")
print(syn[0].definition())
print(syn[0].examples())
输出结果是:
asymptom of some physical hurt ordisorder
['the patient developed severe pain and distension']
WordNet包含了很多定义:
fromnltk.corpus importwordnet
syn= wordnet.synsets("NLP")
print(syn[0].definition())
syn= wordnet.synsets("Python")
print(syn[0].definition())
结果如下:
the branch of information science that deals withnatural language information
large Old World boas
可以像这样使用WordNet来获取同义词:
fromnltk.corpus importwordnet
synonyms= []
forsyn inwordnet.synsets('Computer'):
forlemma insyn.lemmas():
synonyms.append(lemma.name())
print(synonyms)
输出:
['computer', 'computing_machine', 'computing_device', 'data_processor', 'electronic_computer', 'information_processing_system', 'calculator', 'reckoner', 'figurer', 'estimator', 'computer']
反义词处理
也可以用同样的方法得到反义词:
fromnltk.corpus importwordnet
antonyms= []
forsyn inwordnet.synsets("small"):
forlinsyn.lemmas():
ifl.antonyms():
antonyms.append(l.antonyms()[0].name())
print(antonyms)
输出:
['large', 'big', 'big']
词干提取
语言形态学和信息检索里,词干提取是去除词缀得到词根的过程,例如working的词干为work。
搜索引擎在索引页面时就会使用这种技术,所以很多人为相同的单词写出不同的版本。
有很多种算法可以避免这种情况,最常见的是波特词干算法。NLTK有一个名为PorterStemmer的类,就是这个算法的实现:
fromnltk.stem importPorterStemmer
stemmer= PorterStemmer()
print(stemmer.stem('working'))
print(stemmer.stem('worked'))
输出结果是:
work
work
还有其他的一些词干提取算法,比如 Lancaster词干算法。
非英文词干提取
除了英文之外,SnowballStemmer还支持13种语言。
支持的语言:
fromnltk.stem importSnowballStemmer
print(SnowballStemmer.languages)
'danish', 'dutch', 'english', 'finnish', 'french', 'german', 'hungarian', 'italian', 'norwegian', 'porter', 'portuguese', 'romanian', 'russian', 'spanish', 'swedish'
你可以使用SnowballStemmer类的stem函数来提取像这样的非英文单词:
fromnltk.stem importSnowballStemmer
french_stemmer= SnowballStemmer('french')
print(french_stemmer.stem("French word"))
单词变体还原
单词变体还原类似于词干,但不同的是,变体还原的结果是一个真实的单词。不同于词干,当你试图提取某些词时,它会产生类似的词:
fromnltk.stem importPorterStemmer
stemmer= PorterStemmer()
print(stemmer.stem('increases'))
结果:
increas
现在,如果用NLTK的WordNet来对同一个单词进行变体还原,才是正确的结果:
fromnltk.stem importWordNetLemmatizer
lemmatizer= WordNetLemmatizer()
print(lemmatizer.lemmatize('increases'))
结果:
increase
结果可能会是一个同义词或同一个意思的不同单词。
有时候将一个单词做变体还原时,总是得到相同的词。
这是因为语言的默认部分是名词。要得到动词,可以这样指定:
fromnltk.stem importWordNetLemmatizer
lemmatizer= WordNetLemmatizer()
print(lemmatizer.lemmatize('playing',pos="v"))
结果:
play
实际上,这也是一种很好的文本压缩方式,最终得到文本只有原先的50%到60%。
结果还可以是动词(v)、名词(n)、形容词(a)或副词(r):
fromnltk.stem importWordNetLemmatizer
lemmatizer= WordNetLemmatizer()
print(lemmatizer.lemmatize('playing',pos="v"))
print(lemmatizer.lemmatize('playing',pos="n"))
print(lemmatizer.lemmatize('playing',pos="a"))
print(lemmatizer.lemmatize('playing',pos="r"))
输出:
play
playing
playing
playing
词干和变体的区别
通过下面例子来观察:
fromnltk.stem importWordNetLemmatizer
fromnltk.stem importPorterStemmer
stemmer= PorterStemmer()
lemmatizer= WordNetLemmatizer()
print(stemmer.stem('stones'))
print(stemmer.stem('speaking'))
print(stemmer.stem('bedroom'))
print(stemmer.stem('jokes'))
print(stemmer.stem('lisa'))
print(stemmer.stem('purple'))
print('----------------------')
print(lemmatizer.lemmatize('stones'))
print(lemmatizer.lemmatize('speaking'))
print(lemmatizer.lemmatize('bedroom'))
print(lemmatizer.lemmatize('jokes'))
print(lemmatizer.lemmatize('lisa'))
print(lemmatizer.lemmatize('purple'))
输出:
stone
speak
bedroom
joke
lisa
purpl
---------------------
stone
speaking
bedroom
joke
lisa
purple
词干提取不会考虑语境,这也是为什么词干提取比变体还原快且准确度低的原因。
个人认为,变体还原比词干提取更好。单词变体还原返回一个真实的单词,即使它不是同一个单词,也是同义词,但至少它是一个真实存在的单词。
如果你只关心速度,不在意准确度,这时你可以选用词干提取。
在此NLP教程中讨论的所有步骤都只是文本预处理。在以后的文章中,将会使用Python NLTK来实现文本分析。
有需要教程的可以私我 756576218
python nlp_Python NLP入门教程相关推荐
- python自然语言处理入门教程(一)
1.NLTK自然语言处理工具包 1.1 NLTK简介 NLTK是构建Python程序与人类语言数据工作的主要平台.它提供了易于使用的界面,以超过50语料库和词汇资源,如WordNet的,连同一套文字处 ...
- 用python写脚本看什么书-终于知晓python编写脚本入门教程
PyQt5是基于Digia公司强大的图形程式框架Qt5的python接口,由一组python模块构成.PyQt5本身拥有超过620个类和6000函数及方法.在可以运行于多个平台.PyQt5拥有双重协议 ...
- python 科学计算基础教程电子版-终于领会python科学计算入门教程
PyQt5是基于Digia公司强大的图形程式框架Qt5的python接口,由一组python模块构成.PyQt5本身拥有超过620个类和6000函数及方法.在可以运行于多个平台.PyQt5拥有双重协议 ...
- python快速入门答案-总算懂得python脚本快速入门教程
PyQt5是基于Digia公司强大的图形程式框架Qt5的python接口,由一组python模块构成.PyQt5本身拥有超过620个类和6000函数及方法.在可以运行于多个平台.PyQt5拥有双重协议 ...
- python快速编程入门教程-终于懂得python快速编程入门教程
为了提高模块加载的速度,每个模块都会在__pycache__文件夹中放置该模块的预编译模块,命名为module.version.pyc,version是模块的预编译版本编码,一般都包含Python的版 ...
- Python 数据科学入门教程:机器学习:回归
Python 数据科学入门教程:机器学习:回归 原文:Regression - Intro and Data 译者:飞龙 协议:CC BY-NC-SA 4.0 引言和数据 欢迎阅读 Python 机器 ...
- Python新手基础入门教程:如何像面试官展示你的coding能力
Python新手基础入门教程:如何像面试官展示你的coding能力 作为程序员,我们通常在面试的时候面试官会出一些题来让你解决,作为优秀的程秀员,除了需要具备解决问题的思路以外,代码的质量也很关键.因 ...
- 视频教程-Python零基础入门教程-Python
Python零基础入门教程 从2012年从事互联网至今有7年软件编程经验,曾任职国内北京互联网公司,中南林业大学授课Python 现任逻辑教育Python课程负责人,精通Python语言,精通人工智能 ...
- Python极简入门教程
前言 为了方便各位小白能轻松入门Python,同时加深自己对Python的理解,所以创造了"Python极简入门教程",希望能帮到大家,若有错误请多指正,谢谢.极简入门教程代表着不 ...
最新文章
- 太酷了,Python 制作足球可视化图表 | 代码干货
- 开了一论坛,专门讨论控件技术
- swift_026(Swift 的类型转换)
- Java如何等待子线程执行结束
- python【力扣LeetCode算法题库】365- 水壶问题(裴蜀等式)
- 瑞星2009:3大拦截2大防御功能主动遏制木马病毒
- QT:为项目生成pro文件及中文显示乱码问题
- 【Python笔记】元组的用法
- .NET调用控制台下生成的exe文件,传参及获取返回参数
- 西安高铁“洋班组” 助力新春运
- android富文本文件存储,Android富文本
- windows下把文件压缩成tar.gz格式
- 一个机器人位于一个 m x n 网格的左上角,机器人每次只能向下或者向右移动一步。机器人试图达到网格的右下角。问总共有多少条不同的路?
- linux 文件夹的大小,linux怎么查看一个文件夹的大小
- 高斯过程回归GPR和多任务高斯过程MTGP原理
- 操作系统——内存交换技术
- 【JavaScript问题】JavaScript 请求后台报错 Invalid character found in the request target
- 机器学习-周志华-课后习题答案-线性模型
- Linux环境下metis与mt-metis的安装和使用
- HZ视频配音配字幕工具v1.0配音配字幕、影视视频讲解利器
热门文章
- java ee项目部署到服务器上405,HTTP状态405 - HTTP POST方法不受此URL支持:采用的GlassFish服务器的NetBeans...
- (五)ElasticSearch 6.1.1数据类型
- (JAVA)线程之lock和死锁(例)
- 网易邮箱写邮件HTML转换按钮,网易邮箱推出虚拟场景写信功能 身临其境写邮件...
- c语言编程 float p,C语言编程经典例题
- 移植U-BOOT之支持烧写YAFFS文件系统以及制作U-BOOT补丁
- 深入学习linux socket编程之select
- Django中提供了6种缓存方式
- Python基础—08-函数使用(02)
- java web开发基础学习