(转载)HanLP的高级配置

Posted 2020-08-31

原文地址：http://www.hankcs.com/nlp/segment/full-text-retrieval-solr-integrated-hanlp-chinese-word-segmentation.html

高级配置

目前本插件支持如下基于schema.xml的配置:

配置项名称	功能	默认值
enableIndexMode	设为索引模式	true
enableCustomDictionary	是否启用用户词典	true
customDictionaryPath	用户词典路径(绝对路径或程序可以读取的相对路径,多个词典用空格隔开)	null
stopWordDictionaryPath	停用词词典路径	null
enableNumberQuantifierRecognize	是否启用数词和数量词识别	true
enableNameRecognize	开启人名识别	true
enableTranslatedNameRecognize	是否启用音译人名识别	false
enableJapaneseNameRecognize	是否启用日本人名识别	false
enableOrganizationRecognize	开启机构名识别	false
enablePlaceRecognize	开启地名识别	false
enableNormalization	是否执行字符正规化（繁体->简体，全角->半角，大写->小写）	false
enableTraditionalChineseMode	开启精准繁体中文分词	false

对于更高级的配置，HanLP分词器主要通过class path下的hanlp.properties进行配置，请阅读HanLP自然语言处理包文档以了解更多相关配置，如：

1. 停用词

2. 用户词典

3. 词性标注

4. ……

代码调用

在Query改写的时候，可以利用HanLPAnalyzer分词结果中的词性等属性，如

1. String text = "中华人民共和国很辽阔";
2. for (int i = 0; i < text.length(); ++i)
3. {
4.     System.out.print(text.charAt(i) + "" + i + " ");
5. }
6. System.out.println();
7. Analyzer analyzer = new HanLPAnalyzer();
8. TokenStream tokenStream = analyzer.tokenStream("field", text);
9. tokenStream.reset();
10. while (tokenStream.incrementToken())
11. {
12.     CharTermAttribute attribute = tokenStream.getAttribute(CharTermAttribute.class);
13.     // 偏移量
14.     OffsetAttribute offsetAtt = tokenStream.getAttribute(OffsetAttribute.class);
15.     // 距离
16.     PositionIncrementAttribute positionAttr = kenStream.getAttribute(PositionIncrementAttribute.class);
17.     // 词性
18.     TypeAttribute typeAttr = tokenStream.getAttribute(TypeAttribute.class);
19.     System.out.printf("[%d:%d %d] %s/%s\n", offsetAtt.startOffset(), offsetAtt.endOffset(), positionAttr.getPositionIncrement(), attribute, typeAttr.type());
20. }

在另一些场景，支持以自定义的分词器（比如开启了命名实体识别的分词器、繁体中文分词器、CRF分词器等）构造HanLPTokenizer，比如：

1. tokenizer = new HanLPTokenizer(HanLP.newSegment()
2.                     .enableJapaneseNameRecognize(true)
3.                     .enableIndexMode(true), null, false);
4. tokenizer.setReader(new StringReader("林志玲亮相网友:确定不是波多野结衣？"));
5. ...

更详细的高级配置：https://github.com/hankcs/HanLP