基于深度学习的分词系统 kcws

码农软件 · 软件分类 · 中文分词库 · 2019-08-28 18:13:28

软件介绍

这是一个基于深度学习的分词系统和语料项目。

背景

97.5%准确率的深度学习中文分词(字嵌入+Bi-LSTM+CRF)

构建

  1. 安装好bazel代码构建工具,clone下来tensorflow项目代码,配置好(./configure)

  2. clone 本项目地址到tensorflow同级目录,切换到本项目代码目录,运行./configure

  3. 编译后台服务

bazel build //kcws/cc:seg_backend_api

训练

1. 关注“待字闺中”公众号 回复 kcws 获取语料下载地址

2. 解压语料到一个目录

3. 切换到代码目录,运行:

pyton kcws/train/process_anno_file <语料目录> chars_for_w2v.txt
使用word2vec 训练 chars_for_w2v (注意-binary 0),得到字嵌入结果vec.txt
bazel build kcws/train:generate_training
./bazel-bin/kcws/train/generate_training vec.txt <语料目录> all.txt
python kcws/train/filter_sentence.py all.txt (得到train.txt , test.txt)

4. 安装好tensorflow,切换到kcws代码目录,运行:

python kcws/train/train_cws_lstm.py --word2vec_path vec.txt --train_data_path <绝对路径到train.txt> --test_data_path test.txt --max_sentence_len 80 --learning_rate 0.001

demo

http://45.32.100.248:9090/

本文地址:https://codercto.com/soft/d/13373.html

美团机器学习实践

美团机器学习实践

美团算法团队 / 人民邮电出版社 / 2018-8-1 / 79.00元

人工智能技术正以一种超快的速度深刻地改变着我们的生活,引导了第四次工业革命。美团作为国内O2O领域领 先的服务平台,结合自身的业务场景和数据,积极进行了人工智能领域的应用探索。在美团的搜索、推荐、计算广告、风控、图像处理等领域,相关的人工智能技术得到广泛的应用。本书包括通用流程、数据挖掘、搜索和推荐、计算广告、深度学习以及算法工程6大部分内容,全面介绍了美团在多个重要方面对机器学习的应用。 ......一起来看看 《美团机器学习实践》 这本书的介绍吧!

图片转BASE64编码
图片转BASE64编码

在线图片转Base64编码工具

XML 在线格式化
XML 在线格式化

在线 XML 格式化压缩工具

html转js在线工具
html转js在线工具

html转js在线工具