前言:

jieba是优秀的中文分词第三方库,由于中文文本之间每个汉字都是连续书写的,我们需要通过特定的手段来获得其中的每个词组,这种手段叫做分词,我们可以通过jieba库来完成这个过程。

目录:

一、jieba库基本介绍

(1)jieba库概述

① jieba是优秀的中文分词第三方库

②中文文本需要通过分词获得单个的词语③ jieba是优秀的中文分词第三方库,需要额外安装

④jieba库提供三种分词模式,最简单只需掌握一个函数

(2)jieba分词的原理

①分词依靠中文词库

②  利用一个中文词库,确定汉字之间的关联概率

③ 汉字间概率大的组成词组,形成分词结果

④ 除了分词,用户还可以添加自定义的词组

二、jieba库使用说明

(1)jieba分词的三种模式

精确模式、全模式、搜索引擎模式

①  jieba.cut(s) 精确模式:把文本精确的切分开,不存在冗余单词:

② jieba.lcut(s,cut_all=True) 全模式:把文本中所有可能的词语都扫描出来,有冗余:

③jieba.lcut_for_search(s) 搜索引擎模式:在精确模式基础上,对长词再次切分:

三:jieba库的安装

因为 jieba 是一个第三方库,所有需要我们在本地进行安装:

ⅠIDLE中jieba库的安装:

Windows 下使用命令安装:在联网状态下,在命令行下输入 pip

install jieba 进行安装,安装完成后会提示安装成功。具体过程如图:

①  Win + r 打开运行框并输入cmd打开指令框:

②在指令框输入“pip install jieba”并按下回车等待下载:

③ 当出现“Successfully instll”,则表示安装成功!

Ⅱ Pycharm中jieba库的安装:

打开 settings,搜索 Project Interpreter,在右边的窗口选择 + 号,点击后在搜索框搜索 jieba,点击安装即可。具体过程如图:

①  点击左上角Files中的Settings:

②  [endif]找到“Project”中的“python interpreter”,并点击其中的“+”:

③在搜索栏中搜索“jieba”,并点击左下角Install Package:

④ 当出现“Successfully instll

jieba”,则表示jieba库安装成功!

四:实例-文本词频统计

Jieba库最强大的功能之一就是对文章出现的词汇进行计数统计,即计算词频,对于一篇文章或者一部著作,我们可以通过以下步骤对出现的单词进行统计:

源代码:

注:

①  encoding=’ANSI’:将打开的文本格式设为ANSI形式

②  read(size):方法从文件当前位置起读取size个字节,若无参数size,则表示读取至文件结束为止,它范围为字符串对象。

③items

= list(counts.items):将counts中的元素存入items表格中。

④  key = lambda x:x[1]:等价于 def func(x):

return x[1]

⑤ reverse = True:列表反转排序,不写reverse = True 就是列表升序排列,括号里面加上reverse =True 就是降序排列!

⑥  {0:<10}{1:>5}:<表示左对齐,>表示右对齐,数字表示宽度,<10表示左对齐,并占10个位置,>5表示右对齐,占5个位置。

运行结果:

如上运行结果有两个不足之处,一是词汇中出现了“却说”、“丞相”、“二人”等人名以外的单词,我们需要把这些单词去除;二是“孔明”与“孔明说”、“曹操”与“丞相”等的是同一人,我们需要把它们合并同类项,将代码进行优化后,我们得到:

运行结果:

相对于第一个程序,这个程序更为严谨与完整,已经得到了大致得到所需结果,但它还没有完全解决排除非人名这一问题,所以在该基础之上继续使用排除人名的方法去完善这一程序……

总结:

使用jieba库对一段文本进行词频的统计是一件非常有意思的事,我们只需要使用这第三方库,就可以在不阅读文本的情况下,得到该文本的高频率词汇。但jieba库的作用远远不止于此,它更多的作用等着我们去挖掘。总的来说,jieba库是一个优秀的中文分词第三方库,它在我们的程序中正大放光芒!

5人点赞

日记本

Python:jieba库的介绍与使用相关推荐

  1. Python jieba库的介绍与使用

    Python jieba库的介绍与使用 一. jieba库简介与安装 简介:jieba库是一个进行中文分词的第三方库.可用来进行关键字搜索. 安装:在python3环境下输入:pip install ...

  2. Python jieba库简介和使用

    今天继续给大家介绍Python相关知识,本文主要内容是Python jieba库简介和使用. 一.jieba库概述 jieba库是Python的一个第三方库,该库常用于中文分词.所谓分词,就是给定一段 ...

  3. python jieba库_python中jieba库的介绍和应用

    jieba库作为python中的第三方库,在平时是非常实用的,例如一些网站就是利用jieba库的中文分词搜索关键词进行工作. 一.安装环境 window + python 二.安装方式 在电脑命令符( ...

  4. python jieba库下载_Python中jieba库安装步骤及失败原因解析

    Python 中 jieba 库安装步骤及失败原因解析 作为计算机小白, Python 的流行也让我蠢蠢欲动, 在请教计算机 专业同学后,开始上网课自学 Python 基础知识.今天老师简单的一 句话 ...

  5. python jieba库分词_Python基于jieba库进行简单分词及词云功能实现方法

    本文实例讲述了Python基于jieba库进行简单分词及词云功能实现方法.分享给大家供大家参考,具体如下: 目标: 1.导入一个文本文件 2.使用jieba对文本进行分词 3.使用wordcloud包 ...

  6. python jieba库不存在_Python入门:jieba库的使用

    jieba库是一款优秀的 Python 第三方中文分词库,jieba 支持三种分词模式:精确模式.全模式和搜索引擎模式,下面是三种模式的特点. 精确模式:试图将语句最精确的切分,不存在冗余数据,适合做 ...

  7. python基本使用-Python标准库详细介绍与基本使用方式,超详细!

    目录: Python 标准库概览概览 操作系统接口 os 模块提供了很多与操作系统交互的函数: 应该用 import os 风格而非 from os import *.这样可以保证随操作系统不同而有所 ...

  8. jieba库基本介绍(中文分词)

    jieba库概述(jieba是优秀的中文分词第三分库) 中文文本需要通过分词获得单个的词语 jieba是优秀的中文分词第三方库,需要额外安装 jieba库提供三种分词模式,最简单只需要掌握一个函数 j ...

  9. python语音库_介绍几个python的音频处理库

    图 3比如我的机器的地址就是 192.168.152.130.然后将这个ip地址填入 图2 的Host Name 一栏,注意默认端口为22,不要去改它,然后点击open,就会弹出一个登陆界面,接着输入 ...

  10. PIL:python图像处理库的介绍

    1.什么是PIL? image模块只是PIL库其中一个模块,还有ImageChops, ImageMath等模块 2.PIL各模块详细介绍? 详见添加链接描述

最新文章

  1. java对象--内部类
  2. CentOS 7.6 搭建Gitlab教程
  3. ios tableview分组间距
  4. python接口和抽象类的区别_接口和抽象类有什么区别?
  5. List去除重复的元素
  6. jdbc远程连接mysql url_jdbc连接mysql之url书写
  7. 老婆给我推荐了一个副业,现在收入高于我工资,我要不要辞职?
  8. php分城市的源码,userlist.php 源代码在线查看 - 城市分类信息,门户网站,我做为地方信息网 资源下载 虫虫电子下载站...
  9. 怎么更改计算机的注册表,Windows如何一键修改注册表
  10. 软考(20)-Linux部分
  11. ARM到底是一家什么样的公司?
  12. 卡耐基梅隆大学计算机金融专业,卡内基梅隆大学硕士费用 - 卡耐基梅隆大学计算机金融MS研究生接不接受gre成绩?不?...
  13. 计算机组策略定时开机脚本,简单几步实现电脑定时开机
  14. 量化 计算机 金融,金融数据量化分析(上)
  15. 单例模式破坏单例模式
  16. cydia java_Cydia Substrate 使用
  17. 2023最新SSM计算机毕业设计选题大全(附源码+LW)之java场地预定平台55nqh
  18. 8个Spring事务失效的场景,你碰到过几种?
  19. PHP 打印0-n的所有质数,输出1到n中所有的素数 C语言编程:输出1到N中所有质数的个数...
  20. 短信读取软件的开发阶段总结(二)

热门文章

  1. 我用Python写了一个做题软件控制台版。(支持Mod)
  2. 薅羊毛!某东、某宝、某宁一次搞定~
  3. Vue-cli3 ,js根据汉字或拼音模糊搜索功能,汉字支持同音字、多音字,支持首字母
  4. 《深入浅出MFC》下载
  5. 用 Delphi 下载网络文件
  6. 《自己动手写操作系统 》第九章 一 简易硬盘驱动的实现
  7. Oracle数据库下载安装教程
  8. foobar2000功能介绍
  9. 快速学习Linux-网络管理
  10. Python读取PDF文档并翻译