# 测试单个文件dealpath="../Database/SogouC/FileTest/1.txt"savepath="../Database/SogouCCut/FileTest/1.txt"stopwordspath='../Database/stopwords/CH_stopWords.txt'

查看下测试文件如下：

测试处理结果：

3.2 加载自定义结巴词典

sys.path.append("../")
jieba.load_userdict("../Database/userdict.txt") # 加载自定义分词词典

3.3 单文本处理主函数介绍

'''
分词.词性标注以及去停用词
stopwordspath： 停用词路径
dealpath：中文数据预处理文件的路径
savepath：中文数据预处理结果的保存路径
'''
def cutTxtWord(dealpath,savepath,stopwordspath):stopwords = {}.fromkeys([ line.rstrip() for line in open(stopwordspath,"r",encoding='utf-8')]) # 停用词表with open(dealpath,"r",encoding='utf-8') as f:txtlist=f.read() # 读取待处理的文本words =pseg.cut(txtlist) # 带词性标注的分词结果cutresult=""# 获取去除停用词后的分词结果for word, flag in words:if word not in stopwords:cutresult += word+"/"+flag+" " #去停用词getFlag(cutresult,savepath) #

4 批量文件的预处理

语料预处理器的核心：目的是通过用户传输预处理文本文件夹即可，其后面的所有子文件夹自动处理，且将处理结果单独按照原语料结构格式进行归一化保存。这里面涉及几个问题：（1）支持停用词的处理；（2）采用结巴分词，支持自定义词典和词语合并拆分功能；（3）支持词性筛选；（4）支持标准化规约化语料集的形成

随机查看批量预处理中C000024 军事的0.txt文件

处理后的结果：

4.1 批量处理文件路径

if __name__ == '__main__' :t1=time.time()stopwordspath='../Database/stopwords/CH_stopWords.txt'# 批量处理文件夹下的文件rfolder_path = '../Database/SogouC/FileNews/'# 分词处理后保存根路径wfolder_path = '../Database/SogouCCut/'# 中文语料预处理器cutFileWord(rfolder_path,wfolder_path,stopwordspath) # 多文本预处理器t2=time.time()print("中文语料语处理完成，耗时："+str(t2-t1)+"秒。") #反馈结果

4.2 分词.词性标注以及去停用词

'''
分词.词性标注以及去停用词
stopwordspath： 停用词路径
read_folder_path ：中文数据预处理文件的路径
write_folder_path ：中文数据预处理结果的保存路径
filescount=300 #设置文件夹下文件最多多少个
'''def cutFileWord(read_folder_path,write_folder_path,stopwordspath):# 停用词表stopwords = {}.fromkeys([ line.rstrip() for line in open(stopwordspath,"r",encoding='utf-8')])# 获取待处理根目录下的所有类别folder_list = os.listdir(read_folder_path)# 类间循环for folder in folder_list:#某类下的路径new_folder_path = os.path.join(read_folder_path, folder)# 创建保存文件目录path=write_folder_path+folder #保存文件的子文件isExists=os.path.exists(path)if not isExists:os.makedirs(path)print(path+' 创建成功')else: passsave_folder_path = os.path.join(write_folder_path, folder)#某类下的保存路径print('--> 请稍等，正在处理中...')# 类内循环files = os.listdir(new_folder_path)j = 1for file in files:if j > len(files): breakdealpath = os.path.join(new_folder_path, file) #处理单个文件的路径with open(dealpath,"r",encoding='utf-8') as f:txtlist=f.read()# python 过滤中文、英文标点特殊符号# txtlist1 = re.sub("[\s+\.\!\/_,$%^*(+\"\']+|[+——！，。？、~@#￥%……&*（）]+", "",txtlist)words =pseg.cut(txtlist) # 带词性标注的分词结果cutresult="" # 单个文本：分词后经停用词处理后的结果for word, flag in words:if word not in stopwords:cutresult += word+"/"+flag+" " #去停用词savepath = os.path.join(save_folder_path,file)getFlag(cutresult,savepath)j += 1

其中：

1） # 停用词表： stopwords = {}.fromkeys([ line.rstrip() for line in open(stopwordspath,"r",encoding='utf-8')])

此格式将文本列表进行字典化处理，具体查看fromkeys（）方法的使用

2）# 获取根目录下的子文件夹集合： folder_list = os.listdir(read_folder_path)

3）#某类（子文件夹）下的所有文件：new_folder_path = os.path.join(read_folder_path, folder)

4）#创建文件：  

# 创建保存文件目录path=write_folder_path+folder #保存文件的子文件isExists=os.path.exists(path)if not isExists:os.makedirs(path)print(path+' 创建成功')else: pass

5） # python 过滤中文、英文标点特殊符号： txtlist1 = re.sub("[\s+\.\!\/_,$%^*(+\"\']+|[+——！，。？、~@#￥%……&*（）]+", "",txtlist)

6）过滤停用词：

for word, flag in words:if word not in stopwords:cutresult += word+"/"+flag+" " #去停用词

4.3 词性筛选

'''
做词性筛选
cutresult：str类型，初切分的结果
savepath： 保存文件路径
'''
def getFlag(cutresult,savepath):txtlist=[] #过滤掉的词性后的结果#词列表为自己定义要过滤掉的词性cixing=["/x","/zg","/uj","/ul","/e","/d","/uz","/y"]for line in cutresult.split('\n'):line_list2=re.split('[ ]', line)line_list2.append("\n") # 保持原段落格式存在line_list=line_list2[:]for segs in line_list2:for K in cixing:if K in segs:line_list.remove(segs)breakelse:passtxtlist.extend(line_list)# 去除词性标签resultlist=txtlist[:]flagresult=""for v in txtlist:if "/" in v:slope=v.index("/")letter=v[0:slope]+" "flagresult+= letterelse:flagresult+= vstanddata(flagresult,savepath)

其中：词性问题参加结巴分词官网文档

4.4  标准化处理

'''
标准化处理，去除空行，空白字符等。
flagresult:筛选过的结果
'''
def standdata(flagresult,savepath):f2=open(savepath,"w",encoding='utf-8')for line in flagresult.split('\n'):if len(line)>=2:line_clean="/ ".join(line.split())lines=line_clean+" "+"\n"f2.write(lines)else: passf2.close()

startJVM(getDefaultJVMPath(), "-Djava.class.path=C:\hanlp\hanlp-1.3.2.jar;C:\hanlp", "-Xms1g", "-Xmx1g") # 启动JVM，Linux需替换分号;为冒号:

# -*- coding:utf-8 -*-
# Filename: main.pyfrom jpype import *startJVM(getDefaultJVMPath(), "-Djava.class.path=C:\hanlp\hanlp-1.3.2.jar;C:\hanlp", "-Xms1g", "-Xmx1g") # 启动JVM，Linux需替换分号;为冒号:print("="*30+"HanLP分词"+"="*30)
HanLP = JClass('com.hankcs.hanlp.HanLP')
# 中文分词
print(HanLP.segment('你好，欢迎在Python中调用HanLP的API'))
print("-"*70)print("="*30+"标准分词"+"="*30)
StandardTokenizer = JClass('com.hankcs.hanlp.tokenizer.StandardTokenizer')
print(StandardTokenizer.segment('你好，欢迎在Python中调用HanLP的API'))
print("-"*70)# NLP分词NLPTokenizer会执行全部命名实体识别和词性标注
print("="*30+"NLP分词"+"="*30)
NLPTokenizer = JClass('com.hankcs.hanlp.tokenizer.NLPTokenizer')
print(NLPTokenizer.segment('中国科学院计算技术研究所的宗成庆教授正在教授自然语言处理课程'))
print("-"*70)print("="*30+"索引分词"+"="*30)
IndexTokenizer = JClass('com.hankcs.hanlp.tokenizer.IndexTokenizer')
termList= IndexTokenizer.segment("主副食品");
for term in termList :print(str(term) + " [" + str(term.offset) + ":" + str(term.offset + len(term.word)) + "]")
print("-"*70)print("="*30+" N-最短路径分词"+"="*30)
# CRFSegment = JClass('com.hankcs.hanlp.seg.CRF.CRFSegment')
# segment=CRFSegment()
# testCase ="今天，刘志军案的关键人物,山西女商人丁书苗在市二中院出庭受审。"
# print(segment.seg("你看过穆赫兰道吗"))
print("-"*70)print("="*30+" CRF分词"+"="*30)
print("-"*70)print("="*30+" 极速词典分词"+"="*30)
SpeedTokenizer = JClass('com.hankcs.hanlp.tokenizer.SpeedTokenizer')
print(NLPTokenizer.segment('江西鄱阳湖干枯，中国最大淡水湖变成大草原'))
print("-"*70)print("="*30+" 自定义分词"+"="*30)
CustomDictionary = JClass('com.hankcs.hanlp.dictionary.CustomDictionary')
CustomDictionary.add('攻城狮')
CustomDictionary.add('单身狗')
HanLP = JClass('com.hankcs.hanlp.HanLP')
print(HanLP.segment('攻城狮逆袭单身狗，迎娶白富美，走上人生巅峰'))
print("-"*70)print("="*20+"命名实体识别与词性标注"+"="*30)
NLPTokenizer = JClass('com.hankcs.hanlp.tokenizer.NLPTokenizer')
print(NLPTokenizer.segment('中国科学院计算技术研究所的宗成庆教授正在教授自然语言处理课程'))
print("-"*70)document = "水利部水资源司司长陈明忠9月29日在国务院新闻办举行的新闻发布会上透露，" \"根据刚刚完成了水资源管理制度的考核，有部分省接近了红线的指标，" \"有部分省超过红线的指标。对一些超过红线的地方，陈明忠表示，对一些取用水项目进行区域的限批，" \"严格地进行水资源论证和取水许可的批准。"
print("="*30+"关键词提取"+"="*30)
print(HanLP.extractKeyword(document, 8))
print("-"*70)print("="*30+"自动摘要"+"="*30)
print(HanLP.extractSummary(document, 3))
print("-"*70)# print("="*30+"地名识别"+"="*30)
# HanLP = JClass('com.hankcs.hanlp.HanLP')
# segment = HanLP.newSegment().enablePlaceRecognize(true)
# testCase=["武胜县新学乡政府大楼门前锣鼓喧天",
#         "蓝翔给宁夏固原市彭阳县红河镇黑牛沟村捐赠了挖掘机"]
# for sentence in testCase :
#   print(HanLP.segment(sentence))
# print("-"*70)# print("="*30+"依存句法分析"+"="*30)
# print(HanLP.parseDependency("徐先生还具体帮助他确定了把画雄鹰、松鼠和麻雀作为主攻目标。"))
# print("-"*70)text =r"算法工程师\n 算法（Algorithm）是一系列解决问题的清晰指令，也就是说，能够对一定规范的输入，在有限时间内获得所要求的输出。如果一个算法有缺陷，或不适合于某个问题，执行这个算法将不会解决这个问题。不同的算法可能用不同的时间、空间或效率来完成同样的任务。一个算法的优劣可以用空间复杂度与时间复杂度来衡量。算法工程师就是利用算法处理事物的人。\n \n 1职位简介\n 算法工程师是一个非常高端的职位；\n 专业要求：计算机、电子、通信、数学等相关专业；\n 学历要求：本科及其以上的学历，大多数是硕士学历及其以上；\n 语言要求：英语要求是熟练，基本上能阅读国外专业书刊；\n 必须掌握计算机相关知识，熟练使用仿真工具MATLAB等，必须会一门编程语言。\n\n2研究方向\n 视频算法工程师、图像处理算法工程师、音频算法工程师 通信基带算法工程师\n \n 3目前国内外状况\n 目前国内从事算法研究的工程师不少，但是高级算法工程师却很少，是一个非常紧缺的专业工程师。算法工程师根据研究领域来分主要有音频/视频算法处理、图像技术方面的二维信息算法处理和通信物理层、雷达信号处理、生物医学信号处理等领域的一维信息算法处理。\n 在计算机音视频和图形图像技术等二维信息算法处理方面目前比较先进的视频处理算法：机器视觉成为此类算法研究的核心；另外还有2D转3D算法(2D-to-3D conversion)，去隔行算法(de-interlacing)，运动估计运动补偿算法(Motion estimation/Motion Compensation)，去噪算法(Noise Reduction)，缩放算法(scaling)，锐化处理算法(Sharpness)，超分辨率算法(Super Resolution),手势识别(gesture recognition),人脸识别(face recognition)。\n 在通信物理层等一维信息领域目前常用的算法：无线领域的RRM、RTT，传送领域的调制解调、信道均衡、信号检测、网络优化、信号分解等。\n 另外数据挖掘、互联网搜索算法也成为当今的热门方向。\n"
print("="*30+"短语提取"+"="*30)print(HanLP.extractPhrase(text, 10))
print("-"*70)shutdownJVM()

#coding=utf-8
import os
import jieba
import sys
import re
import time
import jieba.posseg as psegsys.path.append("../")
jieba.load_userdict("../Database/userdict.txt") # 加载自定义分词词典'''
title：利用结巴分词进行文本语料处理：单文本处理器、批量文件处理器1 首先对文本进行遍历查找2 创建原始文本的保存结构3 对原文本进行结巴分词和停用词处理4 对预处理结果进行标准化格式，并保存原文件结构路径
author：白宁超
myblog：http://www.cnblogs.com/baiboy/
time：2017年4月28日10:03:09
''''''
分词.词性标注以及去停用词
stopwordspath： 停用词路径
dealpath：中文数据预处理文件的路径
savepath：中文数据预处理结果的保存路径
'''
def cutTxtWord(dealpath,savepath,stopwordspath):stopwords = {}.fromkeys([ line.rstrip() for line in open(stopwordspath,"r",encoding='utf-8')]) # 停用词表with open(dealpath,"r",encoding='utf-8') as f:txtlist=f.read() # 读取待处理的文本words =pseg.cut(txtlist) # 带词性标注的分词结果cutresult=""# 获取去除停用词后的分词结果for word, flag in words:if word not in stopwords:cutresult += word+"/"+flag+" " #去停用词getFlag(cutresult,savepath) #'''
分词.词性标注以及去停用词
stopwordspath： 停用词路径
read_folder_path ：中文数据预处理文件的路径
write_folder_path ：中文数据预处理结果的保存路径
filescount=300 #设置文件夹下文件最多多少个
'''def cutFileWord(read_folder_path,write_folder_path,stopwordspath):# 停用词表stopwords = {}.fromkeys([ line.rstrip() for line in open(stopwordspath,"r",encoding='utf-8')])# 获取待处理根目录下的所有类别folder_list = os.listdir(read_folder_path)# 类间循环for folder in folder_list:#某类下的路径new_folder_path = os.path.join(read_folder_path, folder)# 创建保存文件目录path=write_folder_path+folder #保存文件的子文件isExists=os.path.exists(path)if not isExists:os.makedirs(path)print(path+' 创建成功')else: passsave_folder_path = os.path.join(write_folder_path, folder)#某类下的保存路径print('--> 请稍等，正在处理中...')# 类内循环files = os.listdir(new_folder_path)j = 1for file in files:if j > len(files): breakdealpath = os.path.join(new_folder_path, file) #处理单个文件的路径with open(dealpath,"r",encoding='utf-8') as f:txtlist=f.read()# python 过滤中文、英文标点特殊符号# txtlist1 = re.sub("[\s+\.\!\/_,$%^*(+\"\']+|[+——！，。？、~@#￥%……&*（）]+", "",txtlist)words =pseg.cut(txtlist) # 带词性标注的分词结果cutresult="" # 单个文本：分词后经停用词处理后的结果for word, flag in words:if word not in stopwords:cutresult += word+"/"+flag+" " #去停用词savepath = os.path.join(save_folder_path,file)getFlag(cutresult,savepath)j += 1'''
做词性筛选
cutresult：str类型，初切分的结果
savepath： 保存文件路径
'''
def getFlag(cutresult,savepath):txtlist=[] #过滤掉的词性后的结果#词列表为自己定义要过滤掉的词性cixing=["/x","/zg","/uj","/ul","/e","/d","/uz","/y"]for line in cutresult.split('\n'):line_list2=re.split('[ ]', line)line_list2.append("\n") # 保持原段落格式存在line_list=line_list2[:]for segs in line_list2:for K in cixing:if K in segs:line_list.remove(segs)breakelse:passtxtlist.extend(line_list)# 去除词性标签resultlist=txtlist[:]flagresult=""for v in txtlist:if "/" in v:slope=v.index("/")letter=v[0:slope]+" "flagresult+= letterelse:flagresult+= vstanddata(flagresult,savepath)'''
标准化处理，去除空行，空白字符等。
flagresult:筛选过的结果
'''
def standdata(flagresult,savepath):f2=open(savepath,"w",encoding='utf-8')for line in flagresult.split('\n'):if len(line)>=2:line_clean="/ ".join(line.split())lines=line_clean+" "+"\n"f2.write(lines)else: passf2.close()if __name__ == '__main__' :t1=time.time()# 测试单个文件dealpath="../Database/SogouC/FileTest/1.txt"savepath="../Database/SogouCCut/FileTest/1.txt"stopwordspath='../Database/stopwords/CH_stopWords.txt'stopwordspath1='../Database/stopwords/HG_stopWords.txt' # 哈工大停用词表# 批量处理文件夹下的文件# rfolder_path = '../Database/SogouC/Sample/'rfolder_path = '../Database/SogouC/FileNews/'# 分词处理后保存根路径wfolder_path = '../Database/SogouCCut/'# 中文语料预处理器# cutTxtWord(dealpath,savepath,stopwordspath) # 单文本预处理器cutFileWord(rfolder_path,wfolder_path,stopwordspath) # 多文本预处理器t2=time.time()print("中文语料语处理完成，耗时："+str(t2-t1)+"秒。") #反馈结果