自然语言处理 中文分词 词性标注 命名实体识别 依存句法分析 新词发现 关键词短语提取 自动摘要 文本分类聚类 拼音简繁

http://hanlp.com/

https://github.com/hankcs/HanLP

HanLP: Han Language Processing

之前需要做一个中文命名实体识别的api，看完了一些相关论文以后觉得短时间内自己实现不大现实，于是找了一些开源工具，其中哈工大的LTP效果是很好的，但是免费使用限流量，需要给钱才行； NLPIR的pynlpir似乎还不能支持命名实体识别等复杂工作，只能做一些分词之类；最后还剩下Hanlp，感谢Hanlp的作者hancks无私的将代码开源，还提供了那么详细的文档。 pyhanlp只有少数功能，其他复杂一点的功能需要使用python调用java代码来实现。 以下是api的模型部分，大多是照着文档写成的。 python调用java需要jpype库，具体安装请参考之前的博客：jpype安装的简便方法

In [1]:

import jpype
from jpype import *
jvmPath = jpype.getDefaultJVMPath()
print(jvmPath)
jpype.startJVM(jvmPath)
jpype.java.lang.System.out.println("hello world!")
java.lang.System.out.println("hello world")
jpype.shutdownJVM()

E:\Java\jdk1.8.0_112\jre\bin\server\jvm.dll

In [ ]:

HanLP是一系列模型与算法组成的NLP工具包，由大快搜索主导并完全开源，目标是普及自然语言处理在生产环境中的应用。HanLP具备功能完善、性能高效、架构清晰、语料时新、可自定义的特点。HanLP提供下列功能：中文分词
HMM-Bigram（速度与精度最佳平衡；一百兆内存）
最短路分词、N-最短路分词
由字构词（侧重精度，全世界最大语料库，可识别新词；适合NLP任务）
感知机分词、CRF分词
词典分词（侧重速度，每秒数千万字符；省内存）
极速词典分词
所有分词器都支持：
索引全切分模式
用户自定义词典
兼容繁体中文
训练用户自己的领域模型
词性标注
HMM词性标注（速度快）
感知机词性标注、CRF词性标注（精度高）
命名实体识别
基于HMM角色标注的命名实体识别 （速度快）
中国人名识别、音译人名识别、日本人名识别、地名识别、实体机构名识别
基于线性模型的命名实体识别（精度高）
感知机命名实体识别、CRF命名实体识别
关键词提取
TextRank关键词提取
自动摘要
TextRank自动摘要
短语提取
基于互信息和左右信息熵的短语提取
拼音转换
多音字、声母、韵母、声调
简繁转换
简繁分歧词（简体、繁体、臺灣正體、香港繁體）
文本推荐
语义推荐、拼音推荐、字词推荐
依存句法分析
基于神经网络的高性能依存句法分析器
基于ArcEager转移系统的柱搜索依存句法分析器
文本分类
情感分析
文本聚类
KMeans、Repeated Bisection、自动推断聚类数目k
word2vec
词向量训练、加载、词语相似度计算、语义运算、查询、KMeans聚类
文档语义相似度计算
语料库工具
部分默认模型训练自小型语料库，鼓励用户自行训练。所有模块提供训练接口，语料可参考98年人民日报语料库。
在提供丰富功能的同时，HanLP内部模块坚持低耦合、模型坚持惰性加载、服务坚持静态提供、词典坚持明文发布，使用非常方便。默认模型训练自全世界最大规模的中文语料库，同时自带一些语料处理工具，帮助用户训练自己的模型。项目主页
在线演示、Python调用、Solr及Lucene插件、论文引用、更多信息。下载与配置
方式一、Maven
为了方便用户，特提供内置了数据包的Portable版，只需在pom.xml加入：<dependency><groupId>com.hankcs</groupId><artifactId>hanlp</artifactId><version>portable-1.7.2</version>
</dependency>
零配置，即可使用基本功能（除由字构词、依存句法分析外的全部功能）。如果用户有自定义的需求，可以参考方式二，使用hanlp.properties进行配置。方式二、下载jar、data、hanlp.properties
HanLP将数据与程序分离，给予用户自定义的自由。1、下载：data.zip
下载后解压到任意目录，接下来通过配置文件告诉HanLP数据包的位置。HanLP中的数据分为词典和模型，其中词典是词法分析必需的，模型是句法分析必需的。data
│
├─dictionary
└─model
用户可以自行增删替换，如果不需要句法分析等功能的话，随时可以删除model文件夹。模型跟词典没有绝对的区别，隐马模型被做成人人都可以编辑的词典形式，不代表它不是模型。
GitHub代码库中已经包含了data.zip中的词典，直接编译运行自动缓存即可；模型则需要额外下载。
2、下载jar和配置文件：hanlp-release.zip
配置文件的作用是告诉HanLP数据包的位置，只需修改第一行root=D:/JavaProjects/HanLP/
为data的父目录即可，比如data目录是/Users/hankcs/Documents/data，那么root=/Users/hankcs/Documents/ 。最后将hanlp.properties放入classpath即可，对于多数项目，都可以放到src或resources目录下，编译时IDE会自动将其复制到classpath中。除了配置文件外，还可以使用环境变量HANLP_ROOT来设置root。安卓项目请参考demo。如果放置不当，HanLP会提示当前环境下的合适路径，并且尝试从项目根目录读取数据集。调用方法
HanLP几乎所有的功能都可以通过工具类HanLP快捷调用，当你想不起来调用方法时，只需键入HanLP.，IDE应当会给出提示，并展示HanLP完善的文档。所有Demo都位于com.hankcs.demo下，比文档覆盖了更多细节，更新更及时，强烈建议运行一遍。此处仅列举部分常用接口。1. 第一个Demo
System.out.println(HanLP.segment("你好，欢迎使用HanLP汉语处理包！"));
内存要求
内存120MB以上（-Xms120m -Xmx120m -Xmn64m），标准数据包（35万核心词库+默认用户词典），分词测试正常。全部词典和模型都是惰性加载的，不使用的模型相当于不存在，可以自由删除。
HanLP对词典的数据结构进行了长期的优化，可以应对绝大多数场景。哪怕HanLP的词典上百兆也无需担心，因为在内存中被精心压缩过。如果内存非常有限，请使用小词典。HanLP默认使用大词典，同时提供小词典，请参考配置文件章节。
写给正在编译HanLP的开发者
如果你正在编译运行从Github检出的HanLP代码，并且没有下载data缓存，那么首次加载词典/模型会发生一个自动缓存的过程。
自动缓存的目的是为了加速词典载入速度，在下次载入时，缓存的词典文件会带来毫秒级的加载速度。由于词典体积很大，自动缓存会耗费一些时间，请耐心等待。
自动缓存缓存的不是明文词典，而是双数组Trie树、DAWG、AhoCorasickDoubleArrayTrie等数据结构。
2. 标准分词
List<Term> termList = StandardTokenizer.segment("商品和服务");
System.out.println(termList);
说明
HanLP中有一系列“开箱即用”的静态分词器，以Tokenizer结尾，在接下来的例子中会继续介绍。
HanLP.segment其实是对StandardTokenizer.segment的包装。
分词结果包含词性，每个词性的意思请查阅《HanLP词性标注集》。
算法详解
《词图的生成》
3. NLP分词
System.out.println(NLPTokenizer.segment("我新造一个词叫幻想乡你能识别并标注正确词性吗？"));
// 注意观察下面两个“希望”的词性、两个“晚霞”的词性
System.out.println(NLPTokenizer.analyze("我的希望是希望张晚霞的背影被晚霞映红").translateLabels());
System.out.println(NLPTokenizer.analyze("支援臺灣正體香港繁體：微软公司於1975年由比爾·蓋茲和保羅·艾倫創立。"));
说明
NLP分词NLPTokenizer会执行词性标注和命名实体识别，由结构化感知机序列标注框架支撑。
默认模型训练自9970万字的大型综合语料库，是已知范围内全世界最大的中文分词语料库。语料库规模决定实际效果，面向生产环境的语料库应当在千万字量级。欢迎用户在自己的语料上训练新模型以适应新领域、识别新的命名实体。
4. 索引分词
List<Term> termList = IndexTokenizer.segment("主副食品");
for (Term term : termList)
{System.out.println(term + " [" + term.offset + ":" + (term.offset + term.word.length()) + "]");
}
说明
索引分词IndexTokenizer是面向搜索引擎的分词器，能够对长词全切分，另外通过term.offset可以获取单词在文本中的偏移量。
任何分词器都可以通过基类Segment的enableIndexMode方法激活索引模式。
5. N-最短路径分词
Segment nShortSegment = new NShortSegment().enableCustomDictionary(false).enablePlaceRecognize(true).enableOrganizationRecognize(true);
Segment shortestSegment = new DijkstraSegment().enableCustomDictionary(false).enablePlaceRecognize(true).enableOrganizationRecognize(true);
String[] testCase = new String[]{"今天，刘志军案的关键人物,山西女商人丁书苗在市二中院出庭受审。","刘喜杰石国祥会见吴亚琴先进事迹报告团成员",};
for (String sentence : testCase)
{System.out.println("N-最短分词：" + nShortSegment.seg(sentence) + "\n最短路分词：" + shortestSegment.seg(sentence));
}
说明
N最短路分词器NShortSegment比最短路分词器慢，但是效果稍微好一些，对命名实体识别能力更强。
一般场景下最短路分词的精度已经足够，而且速度比N最短路分词器快几倍，请酌情选择。
算法详解
《N最短路径的Java实现与分词应用》
6. CRF分词CRFLexicalAnalyzer analyzer = new CRFLexicalAnalyzer();String[] tests = new String[]{"商品和服务","上海华安工业（集团）公司董事长谭旭光和秘书胡花蕊来到美国纽约现代艺术博物馆参观","微软公司於1975年由比爾·蓋茲和保羅·艾倫創立，18年啟動以智慧雲端、前端為導向的大改組。" // 支持繁体中文};for (String sentence : tests){System.out.println(analyzer.analyze(sentence));}
说明
CRF对新词有很好的识别能力，但是开销较大。
算法详解
《CRF中文分词、词性标注与命名实体识别》
7. 极速词典分词
/*** 演示极速分词，基于AhoCorasickDoubleArrayTrie实现的词典分词，适用于“高吞吐量”“精度一般”的场合* @author hankcs*/
public class DemoHighSpeedSegment
{public static void main(String[] args){String text = "江西鄱阳湖干枯，中国最大淡水湖变成大草原";System.out.println(SpeedTokenizer.segment(text));long start = System.currentTimeMillis();int pressure = 1000000;for (int i = 0; i < pressure; ++i){SpeedTokenizer.segment(text);}double costTime = (System.currentTimeMillis() - start) / (double)1000;System.out.printf("分词速度：%.2f字每秒", text.length() * pressure / costTime);}
}
说明
极速分词是词典最长分词，速度极其快，精度一般。
在i7-6700K上跑出了4500万字每秒的速度。
算法详解
《Aho Corasick自动机结合DoubleArrayTrie极速多模式匹配》
8. 用户自定义词典
/*** 演示用户词典的动态增删** @author hankcs*/
public class DemoCustomDictionary
{public static void main(String[] args){// 动态增加CustomDictionary.add("攻城狮");// 强行插入CustomDictionary.insert("白富美", "nz 1024");// 删除词语（注释掉试试）
//        CustomDictionary.remove("攻城狮");System.out.println(CustomDictionary.add("单身狗", "nz 1024 n 1"));System.out.println(CustomDictionary.get("单身狗"));String text = "攻城狮逆袭单身狗，迎娶白富美，走上人生巅峰";  // 怎么可能噗哈哈！// AhoCorasickDoubleArrayTrie自动机扫描文本中出现的自定义词语final char[] charArray = text.toCharArray();CustomDictionary.parseText(charArray, new AhoCorasickDoubleArrayTrie.IHit<CoreDictionary.Attribute>(){@Overridepublic void hit(int begin, int end, CoreDictionary.Attribute value){System.out.printf("[%d:%d]=%s %s\n", begin, end, new String(charArray, begin, end - begin), value);}});// 自定义词典在所有分词器中都有效System.out.println(HanLP.segment(text));}
}
说明
CustomDictionary是一份全局的用户自定义词典，可以随时增删，影响全部分词器。另外可以在任何分词器中关闭它。通过代码动态增删不会保存到词典文件。
中文分词≠词典，词典无法解决中文分词，Segment提供高低优先级应对不同场景，请参考FAQ。
追加词典
CustomDictionary主词典文本路径是data/dictionary/custom/CustomDictionary.txt，用户可以在此增加自己的词语（不推荐）；也可以单独新建一个文本文件，通过配置文件CustomDictionaryPath=data/dictionary/custom/CustomDictionary.txt; 我的词典.txt;来追加词典（推荐）。
始终建议将相同词性的词语放到同一个词典文件里，便于维护和分享。
词典格式
每一行代表一个单词，格式遵从[单词] [词性A] [A的频次] [词性B] [B的频次] ... 如果不填词性则表示采用词典的默认词性。
词典的默认词性默认是名词n，可以通过配置文件修改：全国地名大全.txt ns;如果词典路径后面空格紧接着词性，则该词典默认是该词性。
在统计分词中，并不保证自定义词典中的词一定被切分出来。用户可在理解后果的情况下通过Segment#enableCustomDictionaryForcing强制生效。
关于用户词典的更多信息请参考词典说明一章。
算法详解
《Trie树分词》
《Aho Corasick自动机结合DoubleArrayTrie极速多模式匹配》
9. 中国人名识别
String[] testCase = new String[]{"签约仪式前，秦光荣、李纪恒、仇和等一同会见了参加签约的企业家。","王国强、高峰、汪洋、张朝阳光着头、韩寒、小四","张浩和胡健康复员回家了","王总和小丽结婚了","编剧邵钧林和稽道青说","这里有关天培的有关事迹","龚学平等领导,邓颖超生前",};
Segment segment = HanLP.newSegment().enableNameRecognize(true);
for (String sentence : testCase)
{List<Term> termList = segment.seg(sentence);System.out.println(termList);
}
说明
目前分词器基本上都默认开启了中国人名识别，比如HanLP.segment()接口中使用的分词器等等，用户不必手动开启；上面的代码只是为了强调。
有一定的误命中率，比如误命中关键年，则可以通过在data/dictionary/person/nr.txt加入一条关键年 A 1来排除关键年作为人名的可能性，也可以将关键年作为新词登记到自定义词典中。
如果你通过上述办法解决了问题，欢迎向我提交pull request，词典也是宝贵的财富。
建议NLP用户使用感知机或CRF词法分析器，精度更高。
算法详解
《实战HMM-Viterbi角色标注中国人名识别》
10. 音译人名识别
String[] testCase = new String[]{"一桶冰水当头倒下，微软的比尔盖茨、Facebook的扎克伯格跟桑德博格、亚马逊的贝索斯、苹果的库克全都不惜湿身入镜，这些硅谷的科技人，飞蛾扑火似地牺牲演出，其实全为了慈善。","世界上最长的姓名是简森·乔伊·亚历山大·比基·卡利斯勒·达夫·埃利奥特·福克斯·伊维鲁莫·马尔尼·梅尔斯·帕特森·汤普森·华莱士·普雷斯顿。",};
Segment segment = HanLP.newSegment().enableTranslatedNameRecognize(true);
for (String sentence : testCase)
{List<Term> termList = segment.seg(sentence);System.out.println(termList);
}
说明
目前分词器基本上都默认开启了音译人名识别，用户不必手动开启；上面的代码只是为了强调。
算法详解
《层叠隐马模型下的音译人名和日本人名识别》
11. 日本人名识别
String[] testCase = new String[]{"北川景子参演了林诣彬导演的《速度与激情3》","林志玲亮相网友:确定不是波多野结衣？",
};
Segment segment = HanLP.newSegment().enableJapaneseNameRecognize(true);
for (String sentence : testCase)
{List<Term> termList = segment.seg(sentence);System.out.println(termList);
}
说明
目前标准分词器默认关闭了日本人名识别，用户需要手动开启；这是因为日本人名的出现频率较低，但是又消耗性能。
算法详解
《层叠隐马模型下的音译人名和日本人名识别》
12. 地名识别
String[] testCase = new String[]{"武胜县新学乡政府大楼门前锣鼓喧天","蓝翔给宁夏固原市彭阳县红河镇黑牛沟村捐赠了挖掘机",
};
Segment segment = HanLP.newSegment().enablePlaceRecognize(true);
for (String sentence : testCase)
{List<Term> termList = segment.seg(sentence);System.out.println(termList);
}
说明
目前标准分词器都默认关闭了地名识别，用户需要手动开启；这是因为消耗性能，其实多数地名都收录在核心词典和用户自定义词典中。
在生产环境中，能靠词典解决的问题就靠词典解决，这是最高效稳定的方法。
建议对命名实体识别要求较高的用户使用感知机词法分析器。
算法详解
《实战HMM-Viterbi角色标注地名识别》
13. 机构名识别
String[] testCase = new String[]{"我在上海林原科技有限公司兼职工作，","我经常在台川喜宴餐厅吃饭，","偶尔去地中海影城看电影。",
};
Segment segment = HanLP.newSegment().enableOrganizationRecognize(true);
for (String sentence : testCase)
{List<Term> termList = segment.seg(sentence);System.out.println(termList);
}
说明
目前分词器默认关闭了机构名识别，用户需要手动开启；这是因为消耗性能，其实常用机构名都收录在核心词典和用户自定义词典中。
HanLP的目的不是演示动态识别，在生产环境中，能靠词典解决的问题就靠词典解决，这是最高效稳定的方法。
建议对命名实体识别要求较高的用户使用感知机词法分析器。
算法详解
《层叠HMM-Viterbi角色标注模型下的机构名识别》
14. 关键词提取
String content = "程序员(英文Programmer)是从事程序开发、维护的专业人员。一般将程序员分为程序设计人员和程序编码人员，但两者的界限并不非常清楚，特别是在中国。软件从业人员分为初级程序员、高级程序员、系统分析员和项目经理四大类。";
List<String> keywordList = HanLP.extractKeyword(content, 5);
System.out.println(keywordList);
说明
内部采用TextRankKeyword实现，用户可以直接调用TextRankKeyword.getKeywordList(document, size)
算法详解
《TextRank算法提取关键词的Java实现》
15. 自动摘要
String document = "算法可大致分为基本算法、数据结构的算法、数论算法、计算几何的算法、图的算法、动态规划以及数值分析、加密算法、排序算法、检索算法、随机化算法、并行算法、厄米变形模型、随机森林算法。\n" +"算法可以宽泛的分为三类，\n" +"一，有限的确定性算法，这类算法在有限的一段时间内终止。他们可能要花很长时间来执行指定的任务，但仍将在一定的时间内终止。这类算法得出的结果常取决于输入值。\n" +"二，有限的非确定算法，这类算法在有限的时间内终止。然而，对于一个（或一些）给定的数值，算法的结果并不是唯一的或确定的。\n" +"三，无限的算法，是那些由于没有定义终止定义条件，或定义的条件无法由输入的数据满足而不终止运行的算法。通常，无限算法的产生是由于未能确定的定义终止条件。";
List<String> sentenceList = HanLP.extractSummary(document, 3);
System.out.println(sentenceList);
说明
内部采用TextRankSentence实现，用户可以直接调用TextRankSentence.getTopSentenceList(document, size)。
算法详解
《TextRank算法自动摘要的Java实现》
16. 短语提取
String text = "算法工程师\n" +"算法（Algorithm）是一系列解决问题的清晰指令，也就是说，能够对一定规范的输入，在有限时间内获得所要求的输出。如果一个算法有缺陷，或不适合于某个问题，执行这个算法将不会解决这个问题。不同的算法可能用不同的时间、空间或效率来完成同样的任务。一个算法的优劣可以用空间复杂度与时间复杂度来衡量。算法工程师就是利用算法处理事物的人。\n" +"\n" +"1职位简介\n" +"算法工程师是一个非常高端的职位；\n" +"专业要求：计算机、电子、通信、数学等相关专业；\n" +"学历要求：本科及其以上的学历，大多数是硕士学历及其以上；\n" +"语言要求：英语要求是熟练，基本上能阅读国外专业书刊；\n" +"必须掌握计算机相关知识，熟练使用仿真工具MATLAB等，必须会一门编程语言。\n" +"\n" +"2研究方向\n" +"视频算法工程师、图像处理算法工程师、音频算法工程师 通信基带算法工程师\n" +"\n" +"3目前国内外状况\n" +"目前国内从事算法研究的工程师不少，但是高级算法工程师却很少，是一个非常紧缺的专业工程师。算法工程师根据研究领域来分主要有音频/视频算法处理、图像技术方面的二维信息算法处理和通信物理层、雷达信号处理、生物医学信号处理等领域的一维信息算法处理。\n" +"在计算机音视频和图形图像技术等二维信息算法处理方面目前比较先进的视频处理算法：机器视觉成为此类算法研究的核心；另外还有2D转3D算法(2D-to-3D conversion)，去隔行算法(de-interlacing)，运动估计运动补偿算法(Motion estimation/Motion Compensation)，去噪算法(Noise Reduction)，缩放算法(scaling)，锐化处理算法(Sharpness)，超分辨率算法(Super Resolution),手势识别(gesture recognition),人脸识别(face recognition)。\n" +"在通信物理层等一维信息领域目前常用的算法：无线领域的RRM、RTT，传送领域的调制解调、信道均衡、信号检测、网络优化、信号分解等。\n" +"另外数据挖掘、互联网搜索算法也成为当今的热门方向。\n" +"算法工程师逐渐往人工智能方向发展。";
List<String> phraseList = HanLP.extractPhrase(text, 10);
System.out.println(phraseList);
说明
内部采用MutualInformationEntropyPhraseExtractor实现，用户可以直接调用MutualInformationEntropyPhraseExtractor.extractPhrase(text, size)。
算法详解
《基于互信息和左右信息熵的短语提取识别》
17. 拼音转换
/*** 汉字转拼音* @author hankcs*/
public class DemoPinyin
{public static void main(String[] args){String text = "重载不是重任";List<Pinyin> pinyinList = HanLP.convertToPinyinList(text);System.out.print("原文,");for (char c : text.toCharArray()){System.out.printf("%c,", c);}System.out.println();System.out.print("拼音（数字音调）,");for (Pinyin pinyin : pinyinList){System.out.printf("%s,", pinyin);}System.out.println();System.out.print("拼音（符号音调）,");for (Pinyin pinyin : pinyinList){System.out.printf("%s,", pinyin.getPinyinWithToneMark());}System.out.println();System.out.print("拼音（无音调）,");for (Pinyin pinyin : pinyinList){System.out.printf("%s,", pinyin.getPinyinWithoutTone());}System.out.println();System.out.print("声调,");for (Pinyin pinyin : pinyinList){System.out.printf("%s,", pinyin.getTone());}System.out.println();System.out.print("声母,");for (Pinyin pinyin : pinyinList){System.out.printf("%s,", pinyin.getShengmu());}System.out.println();System.out.print("韵母,");for (Pinyin pinyin : pinyinList){System.out.printf("%s,", pinyin.getYunmu());}System.out.println();System.out.print("输入法头,");for (Pinyin pinyin : pinyinList){System.out.printf("%s,", pinyin.getHead());}System.out.println();}
}
说明
HanLP不仅支持基础的汉字转拼音，还支持声母、韵母、音调、音标和输入法首字母首声母功能。
HanLP能够识别多音字，也能给繁体中文注拼音。
最重要的是，HanLP采用的模式匹配升级到AhoCorasickDoubleArrayTrie，性能大幅提升，能够提供毫秒级的响应速度！
算法详解
《汉字转拼音与简繁转换的Java实现》
18. 简繁转换
/*** 简繁转换* @author hankcs*/
public class DemoTraditionalChinese2SimplifiedChinese
{public static void main(String[] args){System.out.println(HanLP.convertToTraditionalChinese("用笔记本电脑写程序"));System.out.println(HanLP.convertToSimplifiedChinese("「以後等妳當上皇后，就能買士多啤梨慶祝了」"));}
}
说明
HanLP能够识别简繁分歧词，比如打印机=印表機。许多简繁转换工具不能区分“以后”“皇后”中的两个“后”字，HanLP可以。
算法详解
《汉字转拼音与简繁转换的Java实现》
19. 文本推荐
/*** 文本推荐(句子级别，从一系列句子中挑出与输入句子最相似的那一个)* @author hankcs*/
public class DemoSuggester
{public static void main(String[] args){Suggester suggester = new Suggester();String[] titleArray =("威廉王子发表演说 呼吁保护野生动物\n" +"《时代》年度人物最终入围名单出炉 普京马云入选\n" +"“黑格比”横扫菲：菲吸取“海燕”经验及早疏散\n" +"日本保密法将正式生效 日媒指其损害国民知情权\n" +"英报告说空气污染带来“公共健康危机”").split("\\n");for (String title : titleArray){suggester.addSentence(title);}System.out.println(suggester.suggest("发言", 1));       // 语义System.out.println(suggester.suggest("危机公共", 1));   // 字符System.out.println(suggester.suggest("mayun", 1));      // 拼音}
}
说明
在搜索引擎的输入框中，用户输入一个词，搜索引擎会联想出最合适的搜索词，HanLP实现了类似的功能。
可以动态调节每种识别器的权重
20. 语义距离
/*** 演示词向量的训练与应用** @author hankcs*/
public class DemoWord2Vec
{public static void main(String[] args) throws IOException{WordVectorModel wordVectorModel = trainOrLoadModel();printNearest("中国", wordVectorModel);printNearest("美丽", wordVectorModel);printNearest("购买", wordVectorModel);// 文档向量DocVectorModel docVectorModel = new DocVectorModel(wordVectorModel);String[] documents = new String[]{"山东苹果丰收","农民在江苏种水稻","奥运会女排夺冠","世界锦标赛胜出","中国足球失败",};System.out.println(docVectorModel.similarity(documents[0], documents[1]));System.out.println(docVectorModel.similarity(documents[0], documents[4]));for (int i = 0; i < documents.length; i++){docVectorModel.addDocument(i, documents[i]);}printNearestDocument("体育", documents, docVectorModel);printNearestDocument("农业", documents, docVectorModel);printNearestDocument("我要看比赛", documents, docVectorModel);printNearestDocument("要不做饭吧", documents, docVectorModel);}
}
说明
word2vec文档
《word2vec原理推导与代码分析》
21. 依存句法分析
/*** 依存句法分析（MaxEnt和神经网络句法模型需要-Xms1g -Xmx1g -Xmn512m）* @author hankcs*/
public class DemoDependencyParser
{public static void main(String[] args){CoNLLSentence sentence = HanLP.parseDependency("徐先生还具体帮助他确定了把画雄鹰、松鼠和麻雀作为主攻目标。");System.out.println(sentence);// 可以方便地遍历它for (CoNLLWord word : sentence){System.out.printf("%s --(%s)--> %s\n", word.LEMMA, word.DEPREL, word.HEAD.LEMMA);}// 也可以直接拿到数组，任意顺序或逆序遍历CoNLLWord[] wordArray = sentence.getWordArray();for (int i = wordArray.length - 1; i >= 0; i--){CoNLLWord word = wordArray[i];System.out.printf("%s --(%s)--> %s\n", word.LEMMA, word.DEPREL, word.HEAD.LEMMA);}// 还可以直接遍历子树，从某棵子树的某个节点一路遍历到虚根CoNLLWord head = wordArray[12];while ((head = head.HEAD) != null){if (head == CoNLLWord.ROOT) System.out.println(head.LEMMA);else System.out.printf("%s --(%s)--> ", head.LEMMA, head.DEPREL);}}
}
说明
内部采用NeuralNetworkDependencyParser实现，用户可以直接调用NeuralNetworkDependencyParser.compute(sentence)
也可以调用基于ArcEager转移系统的柱搜索依存句法分析器KBeamArcEagerDependencyParser
算法详解
《基于神经网络分类模型与转移系统的判决式依存句法分析器》
词典说明
本章详细介绍HanLP中的词典格式，满足用户自定义的需要。HanLP中有许多词典，它们的格式都是相似的，形式都是文本文档，随时可以修改。基本格式
词典分为词频词性词典和词频词典。词频词性词典（如CoreNatureDictionary.txt）
每一行代表一个单词，格式遵从[单词] [词性A] [A的频次] [词性B] [B的频次] ...。
支持省略词性和频次，直接一行一个单词。
.txt词典文件的分隔符为空格或制表符，所以不支持含有空格的词语。如果需要支持空格，请使用英文逗号,分割的纯文本.csv文件。在使用Excel等富文本编辑器时，则请注意保存为纯文本形式。
词频词典（如CoreNatureDictionary.ngram.txt）
每一行代表一个单词或条目，格式遵从[单词] [单词的频次]。
每一行的分隔符为空格或制表符。
少数词典有自己的专用格式，比如同义词词典兼容《同义词词林扩展版》的文本格式，而转移矩阵词典则是一个csv表格。下文主要介绍通用词典，如不注明，词典特指通用词典。数据结构
Trie树（字典树）是HanLP中使用最多的数据结构，为此，我实现了通用的Trie树，支持泛型、遍历、储存、载入。用户自定义词典采用AhoCorasickDoubleArrayTrie和二分Trie树储存，其他词典采用基于双数组Trie树(DoubleArrayTrie)实现的AC自动机AhoCorasickDoubleArrayTrie。关于一些常用数据结构的性能评估，请参考wiki。储存形式
词典有两个形态：文本文件(filename.txt)和缓存文件(filename.txt.bin或filename.txt.trie.dat和filename.txt.trie.value)。文本文件
采用明文储存，UTF-8编码，CRLF换行符。
缓存文件
就是一些二进制文件，通常在文本文件的文件名后面加上.bin表示。有时候是.trie.dat和.trie.value。后者是历史遗留产物，分别代表trie树的数组和值。
如果你修改了任何词典，只有删除缓存才能生效。
修改方法
HanLP的核心词典训练自人民日报2014语料，语料不是完美的，总会存在一些错误。这些错误可能会导致分词出现奇怪的结果，这时请打开调试模式排查问题：HanLP.Config.enableDebug();
核心词性词频词典
比如你在data/dictionary/CoreNatureDictionary.txt中发现了一个不是词的词，或者词性标注得明显不对，那么你可以修改它，然后删除缓存文件使其生效。
目前CoreNatureDictionary.ngram.txt的缓存依赖于CoreNatureDictionary.txt的缓存，修改了后者之后必须同步删除前者的缓存，否则可能出错
核心二元文法词典
二元文法词典data/dictionary/CoreNatureDictionary.ngram.txt储存的是两个词的接续，如果你发现不可能存在这种接续时，删掉即可。
你也可以添加你认为合理的接续，但是这两个词必须同时在核心词典中才会生效。
命名实体识别词典
基于角色标注的命名实体识别比较依赖词典，所以词典的质量大幅影响识别质量。
这些词典的格式与原理都是类似的，请阅读相应的文章或代码修改它。
如果问题解决了，欢迎向我提交一个pull request，这是我在代码库中保留明文词典的原因，众人拾柴火焰高！版权
Apache License Version 2.0
如不特殊注明，所有模块都以此协议授权使用。上海林原信息科技有限公司
HanLP产品初始知识产权归上海林原信息科技有限公司所有，任何人和企业可以无偿使用，可以对产品、源代码进行任何形式的修改，可以打包在其他产品中进行销售。
任何使用了HanLP的全部或部分功能、词典、模型的项目、产品或文章等形式的成果必须显式注明HanLP及此项目主页。
大快搜索
现在正式由大快搜索主导开发，新模块继续完全开源。
其他版权方
实施上由个人维护，欢迎任何人与任何公司向本项目开源模块。
充分尊重所有版权方的贡献，本项目不占有用户贡献模块的版权。
鸣谢
感谢下列优秀开源项目：darts-clone-java
SharpICTCLAS
snownlp
ansj_seg
nlp-lang
感谢NLP界各位学者老师的著作：《基于角色标注的中国人名自动识别研究》张华平 刘群
《基于层叠隐马尔可夫模型的中文命名实体识别》俞鸿魁 张华平 刘群 吕学强 施水才
《基于角色标注的中文机构名识别》俞鸿魁 张华平 刘群
《基于最大熵的依存句法分析》 辛霄 范士喜 王轩 王晓龙
An Efficient Implementation of Trie Structures, JUN-ICHI AOE AND KATSUSHI MORIMOTO
TextRank: Bringing Order into Texts, Rada Mihalcea and Paul Tarau
感谢上海林原信息科技有限公司的刘先生，允许我利用工作时间开发HanLP，提供服务器和域名，并且促成了开源。感谢诸位用户的关注和使用，HanLP并不完善，未来还恳求各位NLP爱好者多多关照，提出宝贵意见。作者 @hankcs2014年12月16日

In [1]:

import jpype #路径
jvmPath = jpype.getDefaultJVMPath() # 获得系统的jvm路径# 启动JVM，Linux需替换分号;为冒号:
ext_classpath = r"E:\\jupyter\\python\\nlp\hanlp\\hanlp-python\\hanlp-portable-1.5.2.jar"
jvmArg = '-Djava.class.path=' + ext_classpath
jpype.startJVM(jvmPath, jvmArg, "-Xms1g", "-Xmx1g")
jvmPath

Out[1]:

'E:\\Java\\jdk1.8.0_112\\jre\\bin\\server\\jvm.dll'

In [2]:

print("=" * 30 + "HanLP分词" + "=" * 30)
HanLP = jpype.JClass('com.hankcs.hanlp.HanLP')
HanLP

==============================HanLP分词==============================

Out[2]:

jpype._jclass.com.hankcs.hanlp.HanLP

In [3]:

# 中文分词
print(HanLP.segment('你好，欢迎在Python中调用HanLP的API'))
print("-" * 70)

[你好/l, ，/w, 欢迎/v, 在/p, Python/nx, 中/f, 调用/v, HanLP/nx, 的/uj, API/nx]
----------------------------------------------------------------------

In [5]:

print("=" * 30 + "标准分词" + "=" * 30)
StandardTokenizer = jpype.JClass('com.hankcs.hanlp.tokenizer.StandardTokenizer')
print(StandardTokenizer.segment('你好，欢迎在Python中调用HanLP的API'))
print("-" * 70)

==============================标准分词==============================
[你好/l, ，/w, 欢迎/v, 在/p, Python/nx, 中/f, 调用/v, HanLP/nx, 的/uj, API/nx]
----------------------------------------------------------------------

In [6]:

# NLP分词NLPTokenizer会执行全部命名实体识别和词性标注
print("=" * 30 + "NLP分词" + "=" * 30)
NLPTokenizer = jpype.JClass('com.hankcs.hanlp.tokenizer.NLPTokenizer')
print(NLPTokenizer.segment('中国科学院计算技术研究所的宗成庆教授正在教授自然语言处理课程'))
print("-" * 70)

==============================NLP分词==============================
[中国科学院/n, 计算/v, 技术/n, 研究所/n, 的/uj, 宗成庆/nr, 教授/n, 正在/d, 教授/n, 自然/d, 语言/n, 处理/v, 课程/n]
----------------------------------------------------------------------

In [7]:

print("=" * 30 + "索引分词" + "=" * 30)
IndexTokenizer = jpype.JClass('com.hankcs.hanlp.tokenizer.IndexTokenizer')
termList = IndexTokenizer.segment("主副食品");
for term in termList:print(str(term) + " [" + str(term.offset) + ":" + str(term.offset + len(term.word)) + "]")

==============================索引分词==============================
主副食品/n [0:4]
主副食/j [0:3]
副食品/n [1:4]
副食/n [1:3]
食品/n [2:4]

In [9]:

print("-" * 70)print("=" * 30 + " CRF分词" + "=" * 30)
print("-" * 70)print("=" * 30 + " 极速词典分词" + "=" * 30)
SpeedTokenizer = jpype.JClass('com.hankcs.hanlp.tokenizer.SpeedTokenizer')
print(NLPTokenizer.segment('江西鄱阳湖干枯，中国最大淡水湖变成大草原'))
print("-" * 70)

----------------------------------------------------------------------
============================== CRF分词==============================
----------------------------------------------------------------------
============================== 极速词典分词==============================
[江西/ns, 鄱阳湖/ns, 干枯/a, ，/w, 中国/ns, 最大/gm, 淡水湖/n, 变成/v, 大草原/nz]
----------------------------------------------------------------------

In [11]:

print("=" * 30 + " 自定义分词" + "=" * 30)
CustomDictionary = jpype.JClass('com.hankcs.hanlp.dictionary.CustomDictionary')
CustomDictionary.add('攻城狮')
CustomDictionary.add('单身狗')
HanLP = jpype.JClass('com.hankcs.hanlp.HanLP')
print(HanLP.segment('攻城狮逆袭单身狗，迎娶白富美，走上人生巅峰'))

============================== 自定义分词==============================
[攻城狮/nz, 逆袭/nz, 单身狗/nz, ，/w, 迎娶/v, 白富美/nr, ，/w, 走/v, 上/f, 人生/n, 巅峰/n]

In [12]:

print("-" * 70)
print("=" * 20 + "命名实体识别与词性标注" + "=" * 30)
NLPTokenizer = jpype.JClass('com.hankcs.hanlp.tokenizer.NLPTokenizer')
print(NLPTokenizer.segment('中国科学院计算技术研究所的宗成庆教授正在教授自然语言处理课程'))
print("-" * 70)

----------------------------------------------------------------------
====================命名实体识别与词性标注==============================
[中国科学院/n, 计算/v, 技术/n, 研究所/n, 的/uj, 宗成庆/nr, 教授/n, 正在/d, 教授/n, 自然/d, 语言/n, 处理/v, 课程/n]
----------------------------------------------------------------------

In [13]:

document = "水利部水资源司司长陈明忠9月29日在国务院新闻办举行的新闻发布会上透露，" \"根据刚刚完成了水资源管理制度的考核，有部分省接近了红线的指标，" \"有部分省超过红线的指标。对一些超过红线的地方，陈明忠表示，对一些取用水项目进行区域的限批，" \"严格地进行水资源论证和取水许可的批准。"
print("=" * 30 + "关键词提取" + "=" * 30)
print(HanLP.extractKeyword(document, 8))
print("-" * 70)

==============================关键词提取==============================
[水资源, 陈明忠, 进行, 用水, 指标, 表示, 部分, 国务院]
----------------------------------------------------------------------

In [15]:

print("=" * 30 + "自动摘要" + "=" * 30)
print(HanLP.extractSummary(document, 3))
print("-" * 70)

==============================自动摘要==============================
[严格地进行水资源论证和取水许可的批准, 水利部水资源司司长陈明忠9月29日在国务院新闻办举行的新闻发布会上透露, 有部分省超过红线的指标]
----------------------------------------------------------------------

In [16]:

text = r"算法工程师\n 算法（Algorithm）是一系列解决问题的清晰指令，也就是说，能够对一定规范的输入，在有限时间内获得所要求的输出。如果一个算法有缺陷，或不适合于某个问题，执行这个算法将不会解决这个问题。不同的算法可能用不同的时间、空间或效率来完成同样的任务。一个算法的优劣可以用空间复杂度与时间复杂度来衡量。算法工程师就是利用算法处理事物的人。\n \n 1职位简介\n 算法工程师是一个非常高端的职位；\n 专业要求：计算机、电子、通信、数学等相关专业；\n 学历要求：本科及其以上的学历，大多数是硕士学历及其以上；\n 语言要求：英语要求是熟练，基本上能阅读国外专业书刊；\n 必须掌握计算机相关知识，熟练使用仿真工具MATLAB等，必须会一门编程语言。\n\n2研究方向\n 视频算法工程师、图像处理算法工程师、音频算法工程师 通信基带算法工程师\n \n 3目前国内外状况\n 目前国内从事算法研究的工程师不少，但是高级算法工程师却很少，是一个非常紧缺的专业工程师。算法工程师根据研究领域来分主要有音频/视频算法处理、图像技术方面的二维信息算法处理和通信物理层、雷达信号处理、生物医学信号处理等领域的一维信息算法处理。\n 在计算机音视频和图形图像技术等二维信息算法处理方面目前比较先进的视频处理算法：机器视觉成为此类算法研究的核心；另外还有2D转3D算法(2D-to-3D conversion)，去隔行算法(de-interlacing)，运动估计运动补偿算法(Motion estimation/Motion Compensation)，去噪算法(Noise Reduction)，缩放算法(scaling)，锐化处理算法(Sharpness)，超分辨率算法(Super Resolution),手势识别(gesture recognition),人脸识别(face recognition)。\n 在通信物理层等一维信息领域目前常用的算法：无线领域的RRM、RTT，传送领域的调制解调、信道均衡、信号检测、网络优化、信号分解等。\n 另外数据挖掘、互联网搜索算法也成为当今的热门方向。\n"
print("=" * 30 + "短语提取" + "=" * 30)print(HanLP.extractPhrase(text, 10))
print("-" * 70)

==============================短语提取==============================
[算法工程师, 算法处理, 一维信息, 算法研究, 图像技术, 信息算法, 处理算法, 视频算法, 通信物理, 人脸识别]
----------------------------------------------------------------------

In [18]:

#关闭jvm
jpype.shutdownJVM()

HanLP1.5.2 -python使用介绍相关推荐

1. Blender中的Python脚本介绍学习教程

   Blender中的Python脚本介绍学习教程 MP4 |视频:h264,1280×720 |音频:AAC,48000 Hz 语言:英语+中英文字幕(根据原英文字幕机译更准确)|大小解压后:1.63 ...

2. python软件界面-python软件界面介绍(python软件介绍)

   python软件界面介绍 1.接口初始化 当我们使用pycharm工具时,我们将遇到的第一个问题是,在进行各种配置后界面变得混乱时,我们该怎么办?我们应该还原,那么如何还原初始设置? 尽管此工具是从e ...

3. python语言简介-Python语言介绍

   原标题:Python语言介绍 Python简介 Python 是一个高层次的结合了解释性.编译性.互动性和面向对象的脚本语言. Python 的设计具有很强的可读性,相比其他语言经常使用英文关键字,其 ...

4. python语言介绍-00-python语言介绍

   以下为摘录的python的介绍 Python是一种解释型语言.这就是说,与C语言和C的衍生语言不同,Python代码在运行之前不需要编译.其他解释型语言还包括PHP和Ruby. Python是动态类型 ...

5. python介绍和用途-Python基础介绍（一）

   Python基础介绍(一) 1. python是什么编程语言 编译型与解释型 ​编译器吧源程序的每一条语句都编译成机器语言,并保存成二进制文件,这样运行时计算机可以直接以极其语言来运行此程序,速度很快 ...

6. python介绍和用途-python应用领域介绍

   python应用领域介绍Python作为一种功能强大且通用的编程语言而广受好评,它具有非常清晰的语法特点,适用于多种操作系统,目前在国际上非常流行,正在得到越来越多的应用. 下面就让我们一起来看看它的 ...

7. python模块介绍-locustio：性能测试工具locustio

   转自:http://automationtesting.sinaapp.com/blog/m_locustio_doc python测试文章 http://weibo.com/cizhenshi?is ...

8. Python 语言介绍

   本节目录: 一.编程语言介绍 二.python解释器介绍 三.安装python解释器 四.运行python程序的两种方式 五.变量 六.后期补充内容 一.编程语言介绍 1.机器语言: 直接用二进制编程 ...

9. Python的介绍与安装

   2019独角兽企业重金招聘Python工程师标准>>> 1.Python的介绍 Python 是一个高层次的结合了解释性.编译性.互动性和面向对象的脚本语言. Python 的设计具 ...

10. python模块介绍- xlwt 创建xls文件（excel）

    python模块介绍- xlwt 创建xls文件(excel) 2013-06-24磁针石 #承接软件自动化实施与培训等gtalk:ouyangchongwu#gmail.comqq 37391319 ...

最新文章

1. 2015_8_21作业——有自翻译有复制他人的英语太差
2. mysql web备份软件_Windows下实现MySQL自动备份的批处理(复制目录或mysqldump备份)
3. 气死我的存储过程和用户定义函数
4. springboot 自定义类配置
5. mysql数据迁移到sqlserver_一个通用数据库操作组件DBUtil(c#)、支持SqlServer、Oracle、Mysql、postgres、SQLITE...
6. solr 高并发_预防帕金森病的运动并发症，比治疗更重要！
7. 英语计算机简历范文模板,计算机专业英文简历模板范文六篇(3)
8. THD 变量存入threads中
9. 系统定时任务linux,Linux系统管理之定时任务
10. QQ空间权限限制破解思路
11. DCL文件里面的数据怎么给LSP，button控件
12. Leetcode NO.63 Unique Paths II
13. PyCharm下载和安装教程
14. 使用linux内核仿真ZNS（zoned namespace SSD）
15. Java程序员工作三年以内
16. 联邦学习学习笔记——论文理解《Communication-Efficient Learning of Deep Networks from Decentralized Data》
17. Microsoft Word 教程：如何在 Word 中更改页面方向、为页面添加边框？
18. grafana repeat 特性
19. python 添加半透明水印_如何利用python给图片添加半透明水印
20. Dubbo：Dubbo服务发现

热门文章

1. mysql主从复制及读写分离
2. jdk8 mysql安装教程_Linux系统：centos7下安装Jdk8、Tomcat8.5、MySQL5.7环境
3. 认认真真推荐10个牛逼公号！
4. lte matlab code,LTE-MATLAB
5. linux添加ctrl c,Linux ctrl-c explained(ctrl-c 详解)
6. python设计题60元按商品的比例平分_团体程序设计天梯赛-练习集（5分题集）Python 3...
7. zuul网关_Spring Cloud第五章：服务网关Zuul
8. python慢的原因_为什么 Python 这么慢？
9. python进程与线程_Python 进程和线程
10. linux虚拟化技术这么玩,Linux上实现虚拟化技术的优势