ChineseNER

本项目 fork 自这个仓库

源项目使用

• python 2.7
• pytorch 0.4.0
• tensorflow 1.7.0

本项目使用

• python 3.6
• tensorflow 1.12.0

对命名实体识别不了解的可以先看一下这篇文章。顺便求star～

这是最简单的一个命名实体识别BiLSTM+CRF模型。

数据

data文件夹中有三个开源数据集可供使用，玻森数据 (https://bosonnlp.com) 、1998年人民日报标注数据、MSRA微软亚洲研究院开源数据。其中boson数据集有6种实体类型，人民日报语料和MSRA一般只提取人名、地名、组织名三种实体类型。

先运行数据中的python文件处理数据，供模型使用。

tensorflow版

开始训练

使用 python train.py 开始训练，训练的模型会存到model文件夹中。

使用预训练的词向量

使用 python train.py pretrained 会使用预训练的词向量开始训练，vec.txt是在网上找的一个比较小的预训练词向量，可以参照我的代码修改使用其他更好的预训练词向量。

测试训练好的模型

使用 python train.py test 进行测试，会自动读取model文件夹中最新的模型，输入中文测试即可，测试结果好坏根据模型的准确度而定。

文件级别实体抽取

使用 python train.py input_file output_file 进行文件级实体抽取。

可以自动读取model文件夹中最新的模型，将input_file中的实体抽取出来写入output_file中。先是原句，然后是实体类型及实体（可按照需要修改）。

如 python train.py test1.txt res.txt , res.txt内容如下：

不定期增加其他修改。。

pytorch版

直接用的pytorch tutorial里的Bilstm+crf模型.

运行train.py训练即可。由于使用的是cpu，而且也没有使用batch，所以训练速度超级慢。想简单跑一下代码的话，建议只使用部分数据跑一下。pytorch暂时不再更新。

准确率

参数并没有调的太仔细，boson数据集的f值在70%~75%左右，人民日报和MSRA数据集的f值在85%~90%左右。（毕竟boson有6种实体类型，另外两个只有3种）

更新日志

2018-9-15 增加tensorflow版本。

2018-9-17 增加1998年人民日报数据集和MSRA微软亚洲研究院数据集。

2018-9-19 简单修改了代码风格，将model提取出来，方便以后拓展。

2018-9-22 增加 python train.py test 功能。

2018-10-6 增加使用参数确定是否使用预训练词向量进行训练。

2018-10-11 增加功能：可以抽取一个文本文件中的实体，写入另一个文件中。

2019-05-28 将python2 的 TensorFlow的实现更新为python3，将处理好的数据和训练好的模型一并传上来以方便使用的时候可以直接进行 python train.py pretrained 功能

补充

（以pytorch版本为例）

1. 运行data_util.py文件，因为pytorch版本的训练速度比较慢，所以我为了节省时间，在原有数据集的基础上只选择了100条来划分训练集合测试集（就这训练了30个epoch都花了将近一个半小时），完整的数据一共是2000条。

2. 进入pytorch文件夹下的train.py文件运行就可以了

3. 每次训练的模型结果都保留在pytorch/model文件夹下，我把30次训练的模型文件都上传上去啦

4. 后面打算先加批处理，尽量提高一下训练速度，再看怎么调参数吧