内容简介:VicWord 一个纯php的分词 主要更新: 1. 添加默认词库路径 2. 词库不存在返回false,改为抛出异常。 码云地址: https://gitee.com/jitog/phpfenci github: https://github.com/lizhichao/VicWord 分词说明 含有3...
VicWord 一个纯 php 的分词
主要更新:
1. 添加默认词库路径
2. 词库不存在返回false,改为抛出异常。
码云地址: https://gitee.com/jitog/phpfenci
github: https://github.com/lizhichao/VicWord
分词说明
含有3种切分方法
getWord 长度优先切分 。最快
getShortWord 细粒度切分。比最快慢一点点
getAutoWord 自动切分 。效果最好
三种分词结果对比
$fc = new VicWord('igb');
$arr = $fc->getWord('北京大学生喝进口红酒,在北京大学生活区喝进口红酒');
//北京大学|生喝|进口|红酒|,|在|北京大学|生活区|喝|进口|红酒
//$arr 是一个数组 每个单元的结构[词语,词语位置,词性,这个词语是否包含在词典中] 这里只值列出了词语
$arr = $fc->getShortWord('北京大学生喝进口红酒,在北京大学生活区喝进口红酒');
//北京|大学|生喝|进口|红酒|,|在|北京|大学|生活|区喝|进口|红酒
$arr = $fc->getAutoWord('北京大学生喝进口红酒,在北京大学生活区喝进口红酒');
//北京|大学生|喝|进口|红酒|,|在|北京大学|生活区|喝|进口|红酒
//对比
//qq的分词 http://nlp.qq.com/semantic.cgi#page2
//百度的分词 http://ai.baidu.com/tech/nlp/lexical
分词速度
机器阿里云 Intel(R) Xeon(R) Platinum 8163 CPU @ 2.50GHz
getWord 每秒140w字
getShortWord 每秒138w字
getAutoWord 每秒40w字
测试文本在百度百科拷贝的一段5000字的文本
以上所述就是小编给大家介绍的《vicword 1.4 发布,PHP 中文分词库》,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对 码农网 的支持!
猜你喜欢:- FoolNLTK 基于深度学习的分词工具首次发布
- Friso 1.6.3 发布,纯 C 开发的中文分词器
- riot search v0.10.0 发布, 优化引擎和分词等
- Gse v0.10.0 发布了, Go 高性能分词
- HanLP 1.7.0 发布,新增文本聚类、流水线分词
- HanLP 1.7.0 发布,新增文本聚类、流水线分词
本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们。