文件名称:基于深度学习的分词系统 kcws.zip
文件大小:4.08MB
文件格式:ZIP
更新时间:2022-08-07 21:19:18
开源项目
这是一个基于深度学习的分词系统和语料项目。背景97.5%准确率的深度学习中文分词(字嵌入 Bi-LSTM CRF)构建安装好bazel代码构建工具,clone下来tensorflow项目代码,配置好(./configure)clone 本项目地址到tensorflow同级目录,切换到本项目代码目录,运行./configure编译后台服务bazel build //kcws/cc:seg_backend_api训练1. 关注“待字闺中”公众号 回复 kcws 获取语料下载地址2. 解压语料到一个目录3. 切换到代码目录,运行:pyton kcws/train/process_anno_file <语料目录> chars_for_w2v.txt 使用word2vec 训练 chars_for_w2v (注意-binary 0),得到字嵌入结果vec.txt bazel build kcws/train:generate_training ./bazel-bin/kcws/train/generate_training vec.txt <语料目录> all.txt python kcws/train/filter_sentence.py all.txt (得到train.txt , test.txt)4. 安装好tensorflow,切换到kcws代码目录,运行:python kcws/train/train_cws_lstm.py --word2vec_path vec.txt --train_data_path <绝对路径到train.txt> --test_data_path test.txt --max_sentence_len 80 --learning_rate 0.001demohttp://45.32.100.248:9090/ 标签:kcws