HanLP-停用词表的使用示例

停用词表的修改

停用词表在“pyhanlp\static\data\dictionary”路径下的“stopwords.txt”文件中，CoreStopWordDictionary.apply方法支持去除停用词。如果需要修改停用词表，则直接编辑文件“stopwords.txt”，之后删除路径下的“stopwords.txt.bin”，运行CoreStopWordDictionary.apply后即可自动生效。有关验证的方法见“验证是否生效”小节。

自定义词语过滤方法

用户可以通过编写“pyhanlp\static”路径下的“MyFilter.java”文件设置自己的词语过滤方法。应当注意这里处理的语言单位是词语，而不是字。编辑完毕后需要编译该文件并生成字节码文件，之后运行CoreStopWordDictionary.apply方法时就会自动调用用户自己的词语过滤方法了。这里给出一个自定义过滤方法的编写示例代码。

import os

from pyhanlp.static import STATIC_ROOT, HANLP_JAR_PATH

java_code_path = os.path.join(STATIC_ROOT, 'MyFilter.java')

with open(java_code_path, 'w') as out:

java_code = """

import com.hankcs.hanlp.dictionary.stopword.CoreStopWordDictionary;

import com.hankcs.hanlp.dictionary.stopword.Filter;

import com.hankcs.hanlp.seg.common.Term;

public class MyFilter implements Filter

{

public boolean shouldInclude(Term term)

{

if (term.nature.startsWith('m')) return false; // 数词过滤

if (term.nature.startsWith('q')) return false; // 量词过滤

if (term.nature.startsWith('t')) return false; // 时间词过滤

if (term.nature.startsWith("w")) return false; // 过滤标点符号

return !CoreStopWordDictionary.contains(term.word); // 停用词过滤

}

"""

out.write(java_code)

os.system('javac -cp {} {} -d {}'.format(HANLP_JAR_PATH, java_code_path, STATIC_ROOT))

验证是否生效

本节给出停用词表修改后以及使用了自定义词语过滤方法的示例代码。

from pyhanlp import *

# 加载停用词类

CoreStopWordDictionary = JClass("com.hankcs.hanlp.dictionary.stopword.CoreStopWordDictionary")

# 加载自定义词语过滤逻辑

MyFilter = JClass('MyFilter')

CoreStopWordDictionary.FILTER = MyFilter()

term_list = HanLP.segment(text)

CoreStopWordDictionary.apply(term_list)

HanLP-停用词表的使用示例相关推荐

python停用词表_多版本中文停用词词表 + 多版本英文停用词词表 + python词表合并程序...
文章简介与更新记录如果你只想获取中文停用词此表,请直接到文章结尾下载项目文件,其中包括三个中文停用词词表,一个英文停用词词表和一个合并词表的.py文件2017/07/04 创建文章,上传文件 201 ...
使用pickle模块打包停用词表,加快处理文本数据的速度
参考博客:https://blog.csdn.net/brucewong0516/article/details/79055480 本地有一个停用词表eng_stop_words.txt文本,现在使用 ...
2750个通用停用词表整理，免费下载
中文停用词表下载一共2750个停用词,属于通用停用词表. 下载地址: 链接:https://pan.baidu.com/s/1u-Ob86VGVSk3vhnwf2S29w 提取码:aoj4 停用词表 ...
中文常用停用词表（哈工大停用词表、百度停用词表
中文常用停用词表(哈工大停用词表.百度停用词表等:https://github.com/goto456/stopwords
stop word理解及超全的停用词表
停用词过滤,是文本分析中一个预处理方法.它的功能是过滤分词结果中的噪声(例如:的.是.啊等) 停用词是指在信息检索中,为节省存储空间和提高搜索效率,在处理自然语言数据(或文本)之前或之后会自动过滤掉某 ...
Python文本分析-常用中文停用词表（Chinese Stop Words）
在做jieba中文分词处理,进行文本分析,必不可少的停用词处理,国内比较常用的中文停用词库,有以下几个: 中文停用词表哈工大停用词表百度停用词表四川大学机器智能实验室停用词库而@elephan ...
stopwords.txt中英文数据集，四川大学机器智能实验室停用词库,哈工大停用词表,中文停用词表,百度停用词表百度网盘下载
今天找stopwords.txt数据集找了好长时间,真是气死了,好多都是需要金币,这数据集不是应该共享的么.故搜集了一些数据集,主要包括四川大学机器智能实验室停用词库,哈工大停用词表,中文停用词表,百 ...
NLP算法-关键词提取补充知识-停用词表
引入书接上回,我们讲这个关键词提取的时候没有说停用词: 那啥是停用词呢?当一个词语出现频率很高但是这个词并不是你所需要的信息,这个时候就会用到停用词表这个概念什么是停用词表? 停用词是指在信息检索 ...
最新整理停用词表(中文)
停用词表(中文) ! " $ % & ' ( ) * + , –...---------../.一.数.日///0123456789 :// :: ; < ? @ A Lex ...

HanLP-停用词表的使用示例

HanLP-停用词表的使用示例相关推荐

最新文章

热门文章