【论文写作分析】之三《基于预训练语言模型的案件要素识别方法》
[1] 参考论文信息
论文名称:《基于预训练语言模型的案件要素识别方法》
发布期刊:《中文信息学报》
期刊信息:CSCD
论文写作分析摘要:本文非常典型。首先网络模型是直接用的一篇英论的;亮点仍然在于应用领域的新颖,即案件;其次本文的题目起得不错,要素识别(而不是多标签文本分类);论文的实验部分个人觉得写的非常好,三组对比实验,看起来很充实。、
【注】:看完这篇论文,感觉我和论文之间就差一个新颖的领域(数据集)。
[2] 参考论文分解
这篇论文前大部分都比较普通吧。下面是模型图:
模型几乎是直接使用的《SGM: Sequence Generation Model for Multi-Label Classification》中的模型。
比较好的是,论文开头,对新领域“案件”的要素识别介绍的挺好的。
【注】:论文 SGM: Sequence Generation Model for Multi-Label Classification 讲解博客地址
实验部分,论文做了3组实验:
1、论文模型与其他baseline
的实验对比。
2、生成式模型与阈值式模型的实验对比。
3、Layer-attentive策略的作用 。
我觉得最好的是论文对阈值式模型使用方法的介绍:
提出类别阈值选择方法。而我之前一直是设一个阈值alphaalphaalpha,模型的输出经过sigmoid之后,只要大于alphaalphaalpha,就算文本有这个标签,这样肯定不对,但是一直没看到好的方法。
【论文写作分析】之三《基于预训练语言模型的案件要素识别方法》相关推荐
- 基于预训练语言模型的检索- 匹配式知识图谱问答系统
基于预训练语言模型的检索- 匹配式知识图谱问答系统 张鸿志 , 李如寐,王思睿,黄江华 美团, 北京市朝阳区 100020 {zhanghongzhi03,lirumei,wangsirui,huan ...
- 【文本分类】基于预训练语言模型的BERT-CNN多层级专利分类研究
·阅读摘要: 本文利用BERT的预训练数据,结合CNN,应用于专利分类.由于专利的特性,本文还提出使用多层级方法来增强模型.(文章发表在<中文信息学报>,核心期刊) ·参考文献: ...
- 微软最新论文解读 | 基于预训练自然语言生成的文本摘要方法
作者丨张浩宇 学校丨国防科技大学计算机学院 研究方向丨自然语言生成.知识图谱问答 本文解读的是一篇由国防科技大学与微软亚洲研究院共同完成的工作,文中提出一种基于预训练模型的自然语言生成方法. 摘要 在 ...
- 论文浅尝 | 探索将预训练语言模型用于事件抽取和事件生成
论文笔记整理:郝凯龙,南京大学硕士 链接:https://www.aclweb.org/anthology/P19-1522.pdf 动机 传统的 ACE 事件抽取任务依赖于人工标注的数据,耗费大量的 ...
- 阿里达摩院 | 基于预训练语言模型的行业搜索
作者|谢朋峻 阿里巴巴达摩院 整理|DataFunTalk 大家好,这里是NewBeeNLP.本文将分享行业搜索的相关技术和应用,主要包括三大部分: 行业搜索的背景 相关技术研究 行业搜索应用 01 ...
- CVPR 2022 | GEN-VLKT:基于预训练知识迁移的HOI检测方法
近日,阿里巴巴大淘宝技术多媒体算法团队与计算机视觉青年学者刘偲教授团队合作论文:<GEN-VLKT: Simplify Association and Enhance Interaction U ...
- 《预训练周刊》第33期:艾伦AI研究所等 | 预训练语言模型的高效分层域适应
No.33 智源社区 预训练组 预 训 练 研究 观点 资源 活动 关于周刊 本期周刊,我们选择了9篇预训练相关的论文,涉及词汇迁移.常识问答.多模态训练.层次训练.对比学习.图像分割.图文模型.蛋白 ...
- 《预训练周刊》第22期:Fastformer:加法注意力就是你所需要的、用于蛋白建模的大规模预训练语言模型...
No.22 智源社区 预训练组 预 训 练 研究 观点 资源 活动 关于周刊 超大规模预训练模型是当前人工智能领域研究的热点,为了帮助研究与工程人员了解这一领域的进展和资讯,智源社区整理了第22期&l ...
- 面向神经代码智能(NCI,Neural Code Intelligence)的预训练语言模型综述
面向神经代码智能的预训练语言模型综述 reference: https://arxiv.org/pdf/2212.10079v1.pdf Abstract 随着现代软件的复杂性不断升级,软件工程已 ...
最新文章
- 相关系数(correlation coefficient)是什么?相关的类型有哪些?有哪些常用的计算方法?不同形态的点分布与相关系数之间的关系?如何评判相关性的强弱?
- C++协程库coroutine使用指南
- Acwing第 31 场周赛【完结】
- 数据结构之排序算法(一)-堆排序
- linux进程被中断打断,linux – 当中断处理程序被另一个中断中断时,中断上下文如何“恢复”?...
- 【推荐系统】一文梳理联邦学习推荐系统研究进展
- 前端学习(1920)vue之电商管理系统电商系统之角色列表路由的切换
- 数据结构(一)快速排序
- matlab通用程序,三次样条差值-matlab通用程序
- 前端性能优化之重排和重绘
- python3.5中文手册chm_python3.5.2官方帮助文档 参考手册(CHM版)
- wordpress rest api 登录_Python构建RESTful网络服务[Django篇:生成API文档]
- Android项目之电话黑名单
- wps怎么关闭那个登录界面_关闭wps窗口快捷键是什么?
- 北京地铁线路色值颜色
- 1 ,ps2017 安装
- 吃猕猴桃,当然不不不不能错过贵州的啦
- CMOS相机和CCD相机的区别
- 计算机经常突然死机重启,家里电脑最近经常会出现重启死机的现象是什么原因?...
- linux centos7 iso镜像下载,CentOS Linux 7.9 (2009) iso镜像下载
热门文章
- 计算机网络——知识结构体系
- React + Threejs + Swiper 实现全景图效果
- Commun. Biol. | 人工智能加速抗生素发现
- CentOS7(64位)下运行IPython3出错解决办法
- python mysql类里_Python MySql 操作类
- MPB:中科院城环所杨军组-​​淡水浮游动物的采集及鉴定
- R语言plyr包round_any函数将向量数据近似到任意精度实战
- pandas使用nsmallest函数返回特定数据列中前N个最小值(搜寻最小的n个元素)、pandas使用nsmallest函数返回特定数据列中前N个最小值所对应的数据行
- pandas使用pct_change函数计算数据列的百分比变化:计算当前元素和前一个元素之间的百分比变化(包含NaN值的情况以及数据填充方法)
- R语言可视化包ggplot2绘制平滑曲线、回归线实战:geom_smooth() 函数