Gse v0.30.0 发布, Go 高性能分词, 增加 hmm 支持

栏目: 软件资讯 · 发布时间: 5年前

内容简介:Go 语言高效分词, 支持英文、中文、日文等 词典用双数组 trie(Double-Array Trie)实现, 分词器算法为基于词频的最短路径加动态规划。v0.30.0 版本主要新增了 DAG 和 HMM (Viterbi) 算法分词, 新增 API 基本和结...

Go 语言高效分词, 支持英文、中文、日文等

词典用双数组 trie(Double-Array Trie)实现, 分词器算法为基于词频的最短路径加动态规划。v0.30.0 版本主要新增了 DAG 和 HMM (Viterbi) 算法分词, 新增 API 基本和结巴分词保持一致.

支持普通、搜索引擎、全模式、精确模式和 HMM模式多种分词模式,支持用户词典、词性标注,可运行JSON RPC服务。

更新详情和项目地址: gse

package mainimport (    "fmt"

    "github.com/go-ego/gse")

func main() {
    var seg gse.Segmenter
    seg.LoadDict()

    text1 := "你好世界, Hello world"
    fmt.Println(seg.Cut(text1, true))
}

Rhine River

Add

  • [NEW] Add HMM cut support

  • [NEW] Add go mod support and remove dep files

  • [NEW] Add find word in dictionary func

  • [NEW] Add Cut(), CutAll(), CutSearch(), LoadModel(), HMMCut() func

  • [NEW] Add hmm cut test code

  • [NEW] Add hmm cut example code

Update

  • [NEW] Cutting the dict method, move load dictionary to dict_util.go

  • [NEW] Update example and Add more test

  • [NEW] Update and clean utils code

  • [NEW] Simplify test code, add equal benchmark code

  • [NEW] Update pkg cedar code

  • [NEW] Update code style

  • [NEW] Update README.md [ Format README.mdand Update example ]

Fix

  • [FIX] Fixed and clean issue template

  • [FIX] Update README.md [ update and fixed example ]

See Commits for more details, after Oct 9.


以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

About Face 3 交互设计精髓

About Face 3 交互设计精髓

Alan Cooper、Robert Reimann、David Cronin / 刘松涛 / 电子工业出版社 / 2008-11 / 72.00元

本书是一本数字产品和系统的交互设计指南,全面系统地讲述了交互设计过程、原理和方法,涉及的产品和系统有个人电脑上的个人和商务软件、Web应用、手持设备、信息亭、数字医疗系统、数字工业系统等。运用本书的交互设计过程和方法,有助于了解使用者和产品之间的交互行为,进而更好地设计出更具吸引力和更具市场竞争力的产品。 全书分成3篇:第1篇描述了“目标导向设计”,详细讨论了用户和设计的过程及思想;第2篇讲......一起来看看 《About Face 3 交互设计精髓》 这本书的介绍吧!

CSS 压缩/解压工具
CSS 压缩/解压工具

在线压缩/解压 CSS 代码

RGB CMYK 转换工具
RGB CMYK 转换工具

RGB CMYK 互转工具

HEX CMYK 转换工具
HEX CMYK 转换工具

HEX CMYK 互转工具