brat进行英文数据集的标注-实战（标注后编写成BIO格式便于模型训练）

Posted Coding With you.....

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了brat进行英文数据集的标注-实战（标注后编写成BIO格式便于模型训练）相关的知识，希望对你有一定的参考价值。

起初采用不同工具对原始摘要进行了标注，最后采用了brat进行标注，并且将标注结果转化成了BIO的标注方式，便于模型训练。接下来可以在这个基础上将这些标注的数据进行模型的训练和测试，得到的模型结果不错的话就进行关系的提取。

一 方向

为什么选择brat标注工具。在刚开始进行标注时，是选择的stanford npl工具进行标注的，那个对英文的数据集标注效果是不错的，但进行尝试后发现，比如人工智能这个词，会将人工标注为形容词 智能标注为实体，而且在进行实体识别模型训练的时候，大多数模型需要对标签进行处理，采用的是BIO的标注方式：

  • B，即Begin，表示开始
  • I，即Intermediate，表示中间
  • O，即Other，表示其他，用于标记无关字符

而且在一些知识图谱构建的比赛中也是提到了使用brat进行标注，这样参考的资料也多一些

二流程

1.首先是数据集的处理

因为是爬取的英文论文中数据，属于非结构化数据，在实验中计划先取2000条数据进行标注。这2000条数据在一个csv文件中，因此要对数据进行清理，并将每一篇摘要保存到一个txt文件中，每一行为一句话。

import csv
with open('/home/jtt/ai-ner/2021-scopus.csv') as f:
    csv_write = csv.reader(f)
    for i, row in enumerate(csv_write):
        if i == 10:
            break
        else:
            name_='/home/jtt/ai-ner/2021-'+str(i+1)+'.txt'
            ff = open(name_, 'a')
           # resul=row[1].split('.')
           # print(len(resul))

            list_ret = list()
            for s_str in row[1].split('.'):  # 对输入进行处理  (用英文结尾句号.来划分句子)
                s_str = s_str.replace('\\n', '')  # 去掉句子中的\\n换行

                if '?' in s_str:
                    list_ret.extend(s_str.split('?'))
                elif '!' in s_str:
                    list_ret.extend(s_str.split('!'))
                else:
                    list_ret.append(s_str)
            for xx,xc in enumerate(list_ret):
                #print(xc.strip(),'\\n')
                if xc.strip()!='':
                    tmp=xc.strip()+'.\\n'
                    ff.write(tmp)

            ff.close()

print('okokokoo')

2.将要标注的数据导入

在主目录/var/www/html/brat下新建文件夹ainer[命令：mkdir ainer],将主目录下的annotation.conf和 visual.conf两个文件复制到新建文件夹ainer中【命令：cp annotation.conf /var/www/html/brat/ainer/annotation.conf和cp visual.conf /var/www/html/brat/ainer/visual.conf】； 
jtt@jtt-System-Product-Name:/var/www/html/brat$ cd ainer
jtt@jtt-System-Product-Name:/var/www/html/brat/ainer$ ls
annotation.conf  visual.conf
将包含txt数据集的文件夹放置到安装文件下一个data的目录下， 
jtt@jtt-System-Product-Name:/var/www/html/brat/ainer$ mkdir data

jtt@jtt-System-Product-Name:~/ai-ner$ mv  all-txt /var/www/html/brat/ainer/data/ 

jtt@jtt-System-Product-Name:~$ cd /var/www/html/brat/ainer/data/
jtt@jtt-System-Product-Name:/var/www/html/brat/ainer/data$ ls
all-txt
然后使用命令：

find 文件夹名称 -name '*.txt'|sed -e 's|\\.txt|.ann|g'|xargs touch，其意思是对每个txt文件都创建一个空的标引文件.ann，因为BRAT是要求的collection中，每个txt文件是必须有一个对应的.ann文件的，方便放置标引内容，这个ann文件的格式也挺规范。

jtt@jtt-System-Product-Name:/var/www/html/brat/ainer/data$ find all-txt -name '*.txt'|sed -e 's|\\.txt|.ann|g'|xargs touch

jtt@jtt-System-Product-Name:/var/www/html/brat/ainer/data$ ls
all-txt
jtt@jtt-System-Product-Name:/var/www/html/brat/ainer/data$ cd all-txt
jtt@jtt-System-Product-Name:/var/www/html/brat/ainer/data/all-txt$ ls
2021-10.ann  2021-2.ann  2021-4.ann  2021-6.ann  2021-8.ann
2021-10.txt  2021-2.txt  2021-4.txt  2021-6.txt  2021-8.txt
2021-1.ann   2021-3.ann  2021-5.ann  2021-7.ann  2021-9.ann
2021-1.txt   2021-3.txt  2021-5.txt  2021-7.txt  2021-9.txt

3.标注

标注之前在annotation.conf文件中，编辑标引规范，就是写明白都有哪些命名实体、哪些语义关系。eg:

[entities]

OTH

LOC

NAME

ORG

TIME

TIL

NUM

[relations]

[events]

[attributes]

jtt@jtt-System-Product-Name:~$ cd /var/www/html/brat/ainer
jtt@jtt-System-Product-Name:/var/www/html/brat/ainer$ ls
annotation.conf  data  visual.conf
jtt@jtt-System-Product-Name:/var/www/html/brat/ainer$ vi annotation.conf

点击键盘 i  进行实体类别编辑，如下修改

Method-tech
Area-subject
Time
Other

关系
Applyied Arg1:Method-tech,Arg2:Area-subject
Associate Arg1:Method-tech,Arg2:Method-tech
Associate2 Arg1:Area-subject,Arg2:Area-subject
Emergence Arg1:Method-tech,Arg2:Time

Located            Arg1:Other, Arg2:Other
Geographical_part  Arg1:Other,    Arg2:Other
Family             Arg1:Person, Arg2:Other
Employment         Arg1:Other, Arg2:Other
Ownership          Arg1:Other, Arg2:Other

属性
Merge-time Arg:<RELATIONS>

点击esc退出编辑
光标到最后输入：wq即可返回命令界面

点击BRAT页面，用自己的账号登录，从页面上直接进入collection中，找到文件进行标引。

命名实体标引直接用光标拖拽，关系标引用鼠标将一个实体指向另一个实体即可。

jtt@jtt-System-Product-Name:~$ cd /var/www/html/brat
jtt@jtt-System-Product-Name:/var/www/html/brat$ python2 standalone.py
Serving brat at http://127.0.0.1:8001

现在遇到一个问题：找不到要标注的数据在哪里，然后通过代码测试 总算找到了。之后将配置文件和数据移动到了正确位置中。总结：在data中新建一个文件夹/var/www/html/brat/data/all-txt，里面包含文本/.ann/以及配置文件annotation.conf 和  visual.conf

jtt@jtt-System-Product-Name:/var/www/html/brat$ cd data
jtt@jtt-System-Product-Name:/var/www/html/brat/data$ ls
6.ann  6.txt  examples  tutorials

移动：jtt@jtt-System-Product-Name:/var/www/html/brat/ainer/data$ mv all-txt /var/www/html/brat/data/

jtt@jtt-System-Product-Name:/var/www/html/brat$ cd data
jtt@jtt-System-Product-Name:/var/www/html/brat/data$ ls
6.ann  6.txt  all-txt  examples  tutorials
jtt@jtt-System-Product-Name:/var/www/html/brat/data$ rm 6.ann
jtt@jtt-System-Product-Name:/var/www/html/brat/data$ rm 6.txt
jtt@jtt-System-Product-Name:/var/www/html/brat/data$ ls
all-txt  examples  tutorials

ok了

接下来将配置文件重新修改一下

jtt@jtt-System-Product-Name:/var/www/html/brat$ vi annotation.conf

修改完成后进行标注

可以看到图中有了数据了

 

三.实战标注过程

选择要标注的实体，直接弹出框框进行标注，最后可以将标注好的数据导出

四.模型

根据标注的结果转化成BIO标注，选择bert-bilstm-crf模型进行标注

以上是关于brat进行英文数据集的标注-实战（标注后编写成BIO格式便于模型训练）的主要内容，如果未能解决你的问题，请参考以下文章

惊！brat安装后进行标注-实战，并且通过一行代码自动标注为BIO格式，便于模型训练-and 错误解决

安装brat进行实体标注过程中出现的问题及解决-超级全

安装brat附安装包进行实体标注过程中出现的问题及解决-超级全

安装brat附安装包进行实体标注过程中出现的问题及解决-超级全

用深度学习做命名实体识别——模型训练

标注工具