文章目录

  • 1.首先将中文ner项目克隆到本地
  • 2.去ALBERT下载中文模型
  • 3.安装gpu运行环境
  • 4.配置虚拟环境
  • 5.创建命令执行脚本
  • 6.补充说明

1.首先将中文ner项目克隆到本地

项目地址:https://github.com/ProHiryu/albert-chinese-ner

2.去ALBERT下载中文模型

地址:https://github.com/brightmart/albert_zh

解压后放入项目下新建的 albert_base_zh 文件夹中

3.安装gpu运行环境

建议使用tensorflow1.15.5,因此需要下载并安装cuda10.0 和 cudnn7.6(如果没有显卡的话不用安装这两个)

4.配置虚拟环境

# gpu训练
pip install tensorflow-gpu==1.15.5# 没有显卡安装这个
pip install tensorflow==1.15.5

5.创建命令执行脚本

目录下新建run.py文件,内容如下

import oscmd = ' '.join(['python albert_ner.py','--task_name ner','--do_train true',           # 训练'--do_eval true',           # 评估# '--do_predict true',       # 预测'--data_dir data','--vocab_file ./albert_config/vocab.txt','--bert_config_file ./albert_base_zh/albert_config_base.json','--max_seq_length 128','--train_batch_size 16','--learning_rate 2e-5','--num_train_epochs 3','--output_dir albert_base_ner_checkpoints'
])os.system(cmd)

先注释掉预测,执行训练、评估,
然后再注释掉训练、评估,进行预测就好了

6.补充说明

1.dev.txt是待评估文件
train.txt是待训练文件
test,txt是待预测文件

2.预测结果在label_test.txt中

3.项目来自 github,贡献者如下

中文命名实体识别(ner)迁移学习相关推荐

  1. 在线中文命名实体识别 ( NER ) 的工具

    在线中文命名实体识别( NER )的工具 命名实体识别(Named Entity Recognition,简称NER),又称作"专名识别",是指识别文本中具有特定意义的实体,主要包 ...

  2. 中文命名实体识别NER

    命名实体识别(英语:Named Entity Recognition),简称NER,是指识别文本中具有特定意义的实体,主要包括人名.地名.机构名.专有名词等,以及时间.数量.货币.比例数值等文字.目前 ...

  3. 逐行讲解CRF实现命名实体识别(NER)

    文章标题 本文概述 NER介绍 代码详解 任务 导入库 加载数据集 构造特征字典 数据处理 模型训练 模型验证 模型参数 备注 随机搜索RandomizedSearchCV 本文概述 使用sklear ...

  4. nlp 命名实体识别 算法_中文命名实体识别算法 Lattice LSTM

    中文命名实体识别 (NER) 算法按照输入的类型,可以大致分为 Character-based (字符) 和 Word-based (单词) 两种.这两种方法都存在一些缺陷,Character-bas ...

  5. 【论文笔记】《基于深度学习的中文命名实体识别研究》阅读笔记

    作者及其单位:北京邮电大学,张俊遥,2019年6月,硕士论文 摘要 实验数据:来源于网络公开的新闻文本数据:用随机欠采样和过采样的方法解决分类不均衡问题:使用BIO格式的标签识别5类命名实体,标注11 ...

  6. python中文命名实体识别工具包_中文命名实体识别工具(NER)比较

    既然中文分词.词性标注已经有了,那下一步很自然想到的是命名实体识别(NER,Named-entity recognition)工具了,不过根据我目前了解到的情况,开源的中文命名实体工具并不多,这里主要 ...

  7. Python深度学习-NLP实战:命名实体识别(NER)之分词与序列标注、实体识别任务简介

    系列文章目录 Python深度学习-NLP实战:深度学习系列培训教程 Linux服务器软件的简单使用 Linux命令的简单使用 训练集.测试集.验证集的介绍及制作 字向量的训练与生成 文本分类之SVM ...

  8. 【nlp学习】中文命名实体识别(待补充)

    提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档 文章目录 前言 一.中文分词 二.命名实体识别 1.数据处理 2.训练 3.使用预训练的词向量 4.测试训练好的模型 5.准确度判断 ...

  9. 【命名实体识别(NER)】(1):命名实体识别综述

    什么是命名实体识别? 命名实体识别(Named Entity Recognition,简称NER),又称作"专名识别",是自然语言处理中的一项基础任务,应用范围非常广泛.命名实体一 ...

  10. 用CRF做命名实体识别——NER系列(三)

    在上一篇文章<用隐马尔可夫模型(HMM)做命名实体识别--NER系列(二)>中,我们使用HMM模型来做命名实体识别,将问题转化为统计概率问题,进行求解.显然,它的效果是非常有限的. 在深度 ...

最新文章

  1. Add Digits
  2. 例题6-4 破损的键盘(又名:悲剧文本)(Broken Keyboard(a.k.a. Beiju Text), UVa 11988)
  3. Myeclipse10下搭建SSH框架(图解)Struts2.1+Spring3.0+Hibernate3.3
  4. Unity 通过Unity Admob Plugin插件集成admob教程
  5. html设置一个随机数的抽奖,随机数的运用---抽奖
  6. idea mysql错误提示_idea提示错误:java.lang.ClassNotFoundException: com.mysql.jdbc.Driver
  7. 文件I/O实践(2) --文件stat
  8. sql注入利用_SQL注入:这是什么? 原因和利用
  9. SQLCE数据库的几点研究
  10. 如何查看泛泰A870高通骁龙600(APQ8064T)的CPU体质(A850/A860也可参考)
  11. python|jupyter notebook|绘制散点图、折线图
  12. Ubuntu18.04忘记超级用户root密码,重新设置密码
  13. Linux入门基础——常用命令(四)
  14. Angular+PrimeNg 分页器给后端传参分页
  15. 今日头条(App和MainActivity类)
  16. poj1015陪审团——DP+路径记录
  17. 51 单片机实战教程(14 外围芯片驱动程序之LTC1658芯片驱动)
  18. 利用声音传感器控制led灯功能_树莓派.利用声音传感器制作声控灯
  19. 平面几何----用梅涅劳斯定理证明笛沙格定理
  20. 定义一个Triangle类表示三角形,测试这个三角形类的所有方法

热门文章

  1. 浏览器地址栏无法直接使用Google搜索问题
  2. 关于socket error 10054
  3. 关于python爬取网页
  4. Python的return语句中使用条件判断
  5. 一文搞懂Linux系统内核升级及下载当前内核源代码
  6. html各种弹出框和提示框
  7. 8:操作模式1-boot mode
  8. 实验十三:PCF8591模数传感器-数模转换实验
  9. 县域远程医疗解决方案
  10. 2018计算机系统结构全国卷,2018年10月高等教育自学考试全国统一命题考试02325计算机系统结构试卷及答案.doc...