中文拼写检查-Dynamic Connected Networks for Chinese Spelling Check
将单字的拼音转换为一个独特的整数进行编码加入模型中，使模型掌握拼音信息。并且在预测阶段通过拼音生成topk的备选单字，考虑不同位置topk汉字之间的转移得分，最终解码获得最优路径。
模型结构
（1）汉字编码器： Roberta
（2）Pinyin Enhanced Candidate Generator 拼音加强的候选汉字生成器
pi是拼音embeding(将不含声调的拼音当作一个整体，进行编码)，wi是汉字embeding，hi是roberta输出
vm是第m个候选汉字对应的可训练参数。根据（5）计算出来的得分，选择top k个候选汉字（k应该设置成多少呢？如果采样不对，就一定无法修正了）
（3）计算相邻候选之间得得分（图中右半部分）
i是汉字位置索引，m,n分别是第i个位置与第i+1个位置的候选汉字索引
通过以上方式，计算出了第i个位置第m个候选汉字与第i+1个位置第n个候选汉字之间的得分，V是可训练的参数。
每个位置有k个候选汉字，所以可能的路径就是k的n次方，每条路径的得分如下：
y为对应位置的汉字，前面一部分是预测得分，后面一部分是考虑相邻汉字输出的得分。
最终选择得分最高的路径。
中文拼写检查-Dynamic Connected Networks for Chinese Spelling Check相关推荐
- 论文解读：Dynamic Connected Networks for Chinese Spelling Check
论文解读:Dynamic Connected Networks for Chinese Spelling Check 我们知道,拼写纠错任务比较类似预训练语言模型中的**Masked Langua ...
- 文献阅读笔记-CSC-数据集-A Hybrid Approach to Automatic Corpus Generation for Chinese Spelling Check
A Hybrid Approach to Automatic Corpus Generation for Chinese Spelling Check 文献阅读笔记 论文相关信息: EMNLP-201 ...
- SpellBERT：预训练模型与中文拼写纠错
作者 | 王嘉宁 整理 | NewBeeNLP 大家好,这里是NewBeeNLP.中文拼写纠错在搜索引擎.问答系统中作为入口模块,对其有着至关重要的作用.拼写纠错,即,给定一个自然语言的句子,识别出其 ...
- SpellGCN：将语音学和视觉相似性结合到汉语拼写检查的语言模型
翻译 摘要 汉语拼写检查(CSC)是检测和纠正汉语自然语言拼写错误的一项任务.现有的方法试图将汉字之间的相似性知识融合起来.然而,它们将相似性知识作为外部输入资源或者仅仅作为启发式规则.本文将语音和视 ...
- eclipse 关闭英文拼写检查，关闭xml验证
eclipse 关闭英文拼写检查,关闭xml验证 1. 关闭英文拼写检查 Preferences–>General–>Editors–>Text Editors–>Spelli ...
- Correcting Chinese Spelling Errors with Phonetic Pre-training
语音预习矫正汉语拼写错误 张瑞清,庞超,张传强,王朔欢,何忠军.孙宇.吴华和海峰[1] 百度公司.中国北京上地10号街10号,100085{张瑞青奥尔,庞曹04,张川强,王寿环}@http://bai ...
- 论文解读：SpellBERT：A Lightweight Pretrained Model for Chinese Spelling Checking
论文解读:SpellBERT:A Lightweight Pretrained Model for Chinese Spelling Checking 简要信息: 序号 属性 值 1 模型名称 Spe ...
- TeXstuidio没有中文的拼写检查
TeXstuidio没有中文的拼写检查,我看了一下"默认语言"的选项,没有看到中文的选项.
- 中文拼写检测（Chinese Spelling Checking）相关方法、评测任务、榜单
中文拼写检测(Chinese Spelling Checking)相关方法.评测任务.榜单 中文拼写检测(Chinese Spelling Checking,CSC)是近两年来比较火的小众任务,在 ...
最新文章
- MYSQL 双主搭建
- linux怎么安装java环境变量_linux怎么配置java环境变量
- SpringBoot配置嵌入式Servlet容器
- 初识Entity Framework CodeFirst（2）
- 吐槽一下Abp的用户和租户管理模块
- HH SaaS电商系统的结算系统设计
- 学习Spring（一） -- 配置Spring
- Oracle join
- USB VIDPID 表
- 中职计算机组装与维修知识点,中职计算机组装与维修的教学分析与对策
- excel 图表 保持矢量图格式 粘贴进word
- 【Kafka】Cancelled fetchMetadata request with correlation id due to node -1 being disconnected
- flink 分词程序代码（批处理和实时）
- Thinkphp整合微信支付功能
- MATLAB绘制雷达图并导出矢量图到Visio编辑(论文用图)
- UUI Make StartUp Disk
- 苹果手机如何设置代理ip？
- 决策树--信息增益，信息增益比，Geni指数
- Dell商用台式机、笔记本、服务器800电话
- 【夜读】这一年，谢谢自己