我在自己人工标注的一份特定领域的数据集上跑过,加上bert确实会比只用固定的词向量要好一些,即使只用BERT加一个softmax层都比不用bert的bilstm+crf强。而bert+bilstm+crf和bert+crf两者差别不大,甚至有时不加bilstm比加上效果要好,在调整学习率取最优结果的情况下,加上bilstm的稍好一点。

https://www.zhihu.com/question/398672104/answer/1263180722

https://www.zhihu.com/question/398672104

bert+crf可以做NER,那么为什么还有bert+bi-lstm+crf ?相关推荐

  1. pytorch lstm crf 代码理解

    好久没有写博客了,这一次就将最近看的pytorch 教程中的lstm+crf的一些心得与困惑记录下来. 原文 PyTorch Tutorials 参考了很多其他大神的博客,https://blog.c ...

  2. 源码阅读笔记 BiLSTM+CRF做NER任务 流程图

    源码阅读笔记 BiLSTM+CRF做NER任务(二) 源码地址:https://github.com/ZhixiuYe/NER-pytorch 本篇正式进入源码的阅读,按照流程顺序,一一解剖. 一.流 ...

  3. B站【1espresso】NLP - transform、bert、HMM、NER课件

    git地址 传送门 传送门2(含bert情感分析) 仅学习使用,侵删 中文自然语言处理 Transformer模型(一) transformer是谷歌大脑在2017年底发表的论文attention i ...

  4. 独家 | ​采用BERT的无监督NER(附代码)

    作者:Ajit Rajasekharan 翻译:陈之炎 校对:王雨桐 本文约8700字,建议阅读10+分钟. 本文介绍了一种无监督命名实体识别(NER)的方法. 图1. 展示了未微调的BERT(ber ...

  5. 基于BERT实现简单的NER任务

    基于BERT实现简单的NER任务 项目链接: https://github.com/yyxx1997/pytorch/tree/master/bert-ner 任务简介 命名实体识别(Named En ...

  6. 速度×6,模型缩小20倍:用华为华科的TinyBERT做搜索,性能达BERT 90%

    原作:Jack Pertschuk 鱼羊 编译整理 量子位 报道 | 公众号 QbitAI 在各大NLP榜单大杀四方的BERT,自打正式加入搜索引擎中,用户搜索体验确实更丝滑了. 不过,强大往往也意味 ...

  7. 大数据DDos检测——DDos攻击本质上是时间序列数据,t+1时刻的数据特点和t时刻强相关,因此用HMM或者CRF来做检测是必然! 和一个句子的分词算法CRF没有区别!...

    DDos攻击本质上是时间序列数据,t+1时刻的数据特点和t时刻强相关,因此用HMM或者CRF来做检测是必然!--和一个句子的分词算法CRF没有区别! 注:传统DDos检测直接基于IP数据发送流量来识别 ...

  8. bert模型可以做文本主题识别吗_BERT如何融合主题模型-ACL2020

    首发公众号:[NLP从入门到放弃] 今天分享一个论文ACL2020-tBERT,论文主要融合主题模型和BERT去做语义相似度判定,在特定领域使用这个模型,效果更明显. 掌握以下几点: [CLS]向量拼 ...

  9. paddle 使用预训练模型做NER(命名实体任务)

    paddle 使用预训练模型做NER命名实体识别任务 前言 一:paddle NRE (1)开源链接 (2)预训练模型 (3)数据集 (4)模型的序列标注 (4)项目结构 二:项目效果 (1) ber ...

最新文章

  1. Asp.net Web.Config - 配置元素customErrors
  2. android 文件下载 超简单
  3. Spring boot修改Servlet配置
  4. sqlite 导入 mysql_SQLite 数据库的一些基本操作
  5. springboot使用Redis作缓存使用入门
  6. 自建Kubernetes集群如何使用弹性容器实例ECI
  7. redis(2)--数据结构与对象
  8. php ajax复选框是否选中的值,jquery-ajax - php+ajax分页时,checkbox复选框选中的问题...
  9. NGS基础 - 参考基因组和基因注释文件
  10. 一个广为流传的关于项目管理的通俗讲解
  11. Spring: @Import @ImportResource引入资源
  12. ibatis 分页(转)
  13. MAVEN处理本地jar包 ojdbc7 的spingboot配置
  14. 华为ensp(telnet)实验
  15. 关于黑马JavaWeb教程注册登录案例报错
  16. HG6543C1(1) --- 电信宽带天翼网关
  17. (7)开机动画2D版,开机动画3D版
  18. linux编译firefox,linux安装firefox
  19. 终端溯源图构建工具SPADE专题-1 SPADE工具安装
  20. 67 2020:我的总结和给圈友的话【2020-12-31 0003】

热门文章

  1. 怎么将文件转换成linux文件,Linux将DOS文件格式转换成UNIX文件格式的方法
  2. leetcode 74 java_【LeetCode】74. Search a 2D Matrix
  3. python做bi系统_如何使用Python创建可视化对象
  4. 测试接口时使用PostMan怎么设置全局变量?
  5. 基于 python + WebDriverAgent 的“跳一跳”小程序高分教程
  6. mysql维护分区脚本_mysql 5.6 分区维护
  7. java 动态获取类实例化_Java:使用反射动态实例化类
  8. c语言程序设计1试卷,(C语言程序设计期末试卷1.doc
  9. 虚拟串口最大传输速率_【干货】详解RS232、RS485、RS422、串口amp;amp;握手
  10. python爬取百度贴吧中的所有邮箱_使用 Python 编写多线程爬虫抓取百度贴吧邮箱与手机号...