设为首页收藏本站

LUPA开源社区

 找回密码
 注册
文章 帖子 博客
LUPA开源社区 首页 业界资讯 软件追踪 查看内容

vicword 1.4发布,PHP中文分词库

2020-4-7 23:25| 发布者: joejoe0332| 查看: 244| 评论: 0|原作者: oschina|来自: oschina

摘要: VicWord 一个纯php的分词 主要更新: 1. 添加默认词库路径 2. 词库不存在返回false,改为抛出异常。 码云地址: https://gitee.com/jitog/phpfenci github: https://github.com/lizhichao/VicWord 分词说明 含 ...
VicWord 一个纯php的分词

主要更新:
    1. 添加默认词库路径
    2. 词库不存在返回false,改为抛出异常。

码云地址: https://gitee.com/jitog/phpfenci
github:  https://github.com/lizhichao/VicWord

分词说明
    含有3种切分方法
    getWord 长度优先切分 。最快
    getShortWord 细粒度切分。比最快慢一点点
    getAutoWord 自动切分 。效果最好

三种分词结果对比

    $fc = new VicWord('igb');
    $arr = $fc->getWord('北京大学生喝进口红酒,在北京大学生活区喝进口红酒');
    //北京大学|生喝|进口|红酒|,|在|北京大学|生活区|喝|进口|红酒
    //$arr 是一个数组 每个单元的结构[词语,词语位置,词性,这个词语是否包含在词典中] 这里只值列出了词语

    $arr =  $fc->getShortWord('北京大学生喝进口红酒,在北京大学生活区喝进口红酒');
    //北京|大学|生喝|进口|红酒|,|在|北京|大学|生活|区喝|进口|红酒

    $arr = $fc->getAutoWord('北京大学生喝进口红酒,在北京大学生活区喝进口红酒');
    //北京|大学生|喝|进口|红酒|,|在|北京大学|生活区|喝|进口|红酒

    //对比
    //qq的分词 http://nlp.qq.com/semantic.cgi#page2 
    //百度的分词 http://ai.baidu.com/tech/nlp/lexical

分词速度
    机器阿里云 Intel(R) Xeon(R) Platinum 8163 CPU @ 2.50GHz
    getWord 每秒140w字
    getShortWord 每秒138w字
    getAutoWord 每秒40w字
    测试文本在百度百科拷贝的一段5000字的文本


酷毙

雷人

鲜花

鸡蛋

漂亮
  • 快毕业了,没工作经验,
    找份工作好难啊?
    赶紧去人才芯片公司磨练吧!!

最新评论

关于LUPA|人才芯片工程|人才招聘|LUPA认证|LUPA教育|LUPA开源社区 ( 浙B2-20090187 浙公网安备 33010602006705号   

返回顶部