Go 高性能分词 Gse v0.20.0 发布, 优化性能

栏目: Go · 发布时间: 6年前

内容简介:Go 语言高效分词, 支持英文、中文、日文等词典用双数组trie(Double-Array Trie)实现, 分词器算法为基于词频的最短路径加动态规划。支持普通和搜索引擎两种分词模式,支持用户词典、词性标注,可运行JSON RPC服务。

Go 语言高效分词, 支持英文、中文、日文等

词典用双数组trie(Double-Array Trie)实现, 分词器算法为基于词频的最短路径加动态规划。

支持普通和搜索引擎两种分词模式,支持用户词典、词性标注,可运行JSON RPC服务。

更新详情地址

package main

import (
    "fmt"

    "github.com/go-ego/gse"
)

func main() {
    var seg gse.Segmenter
    seg.LoadDict("zh,testdata/test_dict.txt,testdata/test_dict1.txt")

    text1 := []byte("你好世界, Hello world")

    segments := seg.Segment(text1)
    fmt.Println(gse.ToString(segments))
}

Lethe River

Add

  • [NEW] Add slice() and string() func and test

  • [NEW] Add more test

  • [NEW] Optimize textSliceToString splicing speed

  • [NEW] Update LoadDict() log.Printf and optimize read dict log

  • [NEW] Add ToString() and ToSlice() default value and update test

  • [NEW] ToString and ToSlice use return not use else and update code

  • [NEW] Update sever code

  • [NEW] Add token equals() func and test

  • [NEW] Add search mode example

  • [NEW] Optimize file defer close

  • [NEW] Segment return use nil not empty array

  • [NEW] Update pkg to newest ( optimize cedar code )

  • [NEW] Update and refactoring segment test code

  • [NEW] Update dictionary and static demo

  • [NEW] Refactoring gse benchmark code

  • [NEW] Update and simplify test code

Update

  • [NEW] Update issue template more obvious

  • [NEW] Update godoc, pull request template.md and issue_template.md

  • [NEW] Update README.md Uniform name

  • [NEW] Update godoc

  • [NEW] Update Update README.md add searchMode docs

  • [NEW] Optimize Japanese subparticipation errors

  • [NEW] Update code style and name style

  • [NEW] Update examples and benchmark code

  • [NEW] Add Travis ci go1.11 support

Fix

  • [FIX] Update examples lang fix #4

  • [FIX] Fix typo for example

  • [FIX] Fix LoadDict() godoc error

  • [FIX] Fix sub-word error

  • [FIX] Fix dict is nil segmentWords panic nil pointer

  • [FIX] Update README.md Fixed Release badge

See Commits for more details, after Apr 27.


以上所述就是小编给大家介绍的《Go 高性能分词 Gse v0.20.0 发布, 优化性能》,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对 码农网 的支持!

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

Linux程序设计

Linux程序设计

Neil Matthew、Richard Stones / 陈健、宋健建 / 人民邮电出版社 / 201005 / 99.00元

时至今日,Linux系统已经从一个个人作品发展为可以用于各种关键任务的成熟、高效和稳定的操作系统,因为具备跨平台、开源、支持众多应用软件和网络协议等优点,它得到了各大主流软硬件厂商的支持,也成为广大程序设计人员理想的开发平台。 本书是Linux程序设计领域的经典名著,以简单易懂、内容全面和示例丰富而受到广泛好评。中文版前两版出版后,在国内的Linux爱好者和程序员中也引起了强烈反响,这一热潮......一起来看看 《Linux程序设计》 这本书的介绍吧!

JS 压缩/解压工具
JS 压缩/解压工具

在线压缩/解压 JS 代码

Markdown 在线编辑器
Markdown 在线编辑器

Markdown 在线编辑器

HEX CMYK 转换工具
HEX CMYK 转换工具

HEX CMYK 互转工具