NLP一键中文数据增强工具
向AI转型的程序员都关注了这个号????????????
机器学习AI算法工程 公众号:datayx
一键中文数据增强工具,支持:
1.随机实体替换
2.近义词
3.近义近音字替换
4.随机字删除(内部细节:数字时间日期片段,内容不会删)
5.NER类
BIO
数据增强6.随机置换邻近的字:研表究明,汉字序顺并不定一影响文字的阅读理解<<是乱序的
7.中文等价字替换(1 一 壹 ①,2 二 贰 ②)
8.翻译互转实现的增强
9.使用
simbert
做生成式相似句生成
经过细节特殊处理,比如不改变年月日数字,尽量保证不改变原文语义。即使改变也能被猜出来、能被猜出来、能被踩出来、能被菜粗来、被菜粗、能菜粗来
项目获取方式:
关注微信公众号 datayx 然后回复 增强 即可获取。
AI项目体验地址 https://loveai.tech
计划中的未来内容
增加多线程操作,一键操作
使用 WordNet数据库 来做同义词替换
随机噪声注入?随机插入一些字符,太简单实现了。
利用pingyin?https://github.com/mozillazg/python-pinyin
基于Word2Vec、BERT等词向量的词语近距离的替换、MASK猜测置换 ??但是无法控制它生成,以及缺点MASK位置。
引入TF-IDF、TextRank、关键词字典等,可以选择:替换/不替换关键词 ??
意义
在不改变原文语义的情况下,生成指定数量的训练语料文本
对NLP模型的泛化性能、对抗攻击、干扰波动,有很好的提升作用
参考比赛(本人用此策略+base bert拿到:50+-/1000):https://www.biendata.com/competition/2019diac/
API
1.随机(等价)实体替换
参数:
base_file :缺省时使用内置(公司)实体。对公司实体进行替换
是文本文件路径,内容形如:
实体1
实体2
...
实体ncreate_num=3 :返回最多3个增强文本
change_rate=0.3 :文本改变率
seed :随机种子
2.随机同义词替换
参数:
base_file :缺省时使用内置同义词表,你可以设定/自己指定更加丰富的同义词表:
是文本文件路径,内容形如(空格隔开):
Aa01A0 人类 生人 全人类
id2 同义词b1 同义词b2 ... 同义词bk
...
idn 同义词n1 同义词n2\create_num=3 :返回最多3个增强文本
change_rate=0.3 :文本改变率
seed :随机种子
3.随机近义字替换
参数:
base_file :缺省时使用内置【同义同音字表】,你可以设定/自己指定更加丰富的同义同音字表:
是文本文件路径,内容形如(\t隔开):
de 的 地 得 德 嘚 徳 锝 脦 悳 淂 鍀 惪 恴 棏
拼音2 字b1 字b2 ... 字bk
...
拼音n 字n1 字n2\create_num=3 :返回最多3个增强文本
change_rate=0.3 :文本改变率
seed :随机种子
4.随机字删除
参数:
create_num=3 :返回最多3个增强文本
change_rate=0.3 :文本改变率
seed :随机种子
5.NER命名实体 数据增强
输入标注好的NER数据目录,和需要增强的标注文件路径,和增强的数量,即可一键增强
Ner类参数:
ner_dir_name='ner_data' : 在ner数据放在ner_data目录下(里面很多.txt)
ner_dir_name提供的目录下是各种标注数据文件,文件内容以标准的NER 的BIO格式分开:
ignore_tag_list=['O'] : 数据里面O标签的不需要管
data_augument_tag_list=['P', 'LOC'] : 只对P、LOC标签的实体做增强
augument_size=3 : 每条标注数据,最多新增强数量
seed=0 : 随机种子/ 可缺省
调用函数augment()参数
file_name: 1条标注训练文件的路径,如0.txt
ner.augment(file_name='0.txt')
例子:
6.随机置换邻近的字
char_gram=3:某个字只和邻近的3个字交换
内部细节:遇到数字,符号等非中文,不会交换
7.等价字替换
参数:
base_file :缺省时使用内置【等价数字字表】,你可以设定/自己指定更加丰富的等价字表(或者使用函数:add_equivalent_list):
是文本文件路径,内容形如((\t)隔开):
0 零 〇
1 一 壹 ①
...
9 九 玖 ⑨create_num=3 :返回最多3个增强文本
change_rate=0.3 :文本改变率
seed :随机种子
8.翻译互转实现的增强
1.百度中英翻译互转实现的增强 note:
申请你的 appid、secretKey: http://api.fanyi.baidu.com/api/trans
9.simbert
来源:https://github.com/ZhuiyiTechnology/pretrained-models
参考:https://github.com/ZhuiyiTechnology/simbert
下载其中任意模型,解压到任意位置赋值给model_path
变量:
参数:
config:model_path(上述下载的模型位置),设备(cpu/cuda...)、最大长度、随机种子
sent:需要增强的句子
create_num:构造的句子数量
机器学习算法AI大数据技术
搜索公众号添加: datanlp
长按图片,识别二维码
阅读过本文的人还看了以下文章:
TensorFlow 2.0深度学习案例实战
基于40万表格数据集TableBank,用MaskRCNN做表格检测
《基于深度学习的自然语言处理》中/英PDF
Deep Learning 中文版初版-周志华团队
【全套视频课】最全的目标检测算法系列讲解,通俗易懂!
《美团机器学习实践》_美团算法团队.pdf
《深度学习入门:基于Python的理论与实现》高清中文PDF+源码
特征提取与图像处理(第二版).pdf
python就业班学习视频,从入门到实战项目
2019最新《PyTorch自然语言处理》英、中文版PDF+源码
《21个项目玩转深度学习:基于TensorFlow的实践详解》完整版PDF+附书代码
《深度学习之pytorch》pdf+附书源码
PyTorch深度学习快速实战入门《pytorch-handbook》
【下载】豆瓣评分8.1,《机器学习实战:基于Scikit-Learn和TensorFlow》
《Python数据分析与挖掘实战》PDF+完整源码
汽车行业完整知识图谱项目实战视频(全23课)
李沐大神开源《动手学深度学习》,加州伯克利深度学习(2019春)教材
笔记、代码清晰易懂!李航《统计学习方法》最新资源全套!
《神经网络与深度学习》最新2018版中英PDF+源码
将机器学习模型部署为REST API
FashionAI服装属性标签图像识别Top1-5方案分享
重要开源!CNN-RNN-CTC 实现手写汉字识别
yolo3 检测出图像中的不规则汉字
同样是机器学习算法工程师,你的面试为什么过不了?
前海征信大数据算法:风险概率预测
【Keras】完整实现‘交通标志’分类、‘票据’分类两个项目,让你掌握深度学习图像分类
VGG16迁移学习,实现医学图像识别分类工程项目
特征工程(一)
特征工程(二) :文本数据的展开、过滤和分块
特征工程(三):特征缩放,从词袋到 TF-IDF
特征工程(四): 类别特征
特征工程(五): PCA 降维
特征工程(六): 非线性特征提取和模型堆叠
特征工程(七):图像特征提取和深度学习
如何利用全新的决策树集成级联结构gcForest做特征工程并打分?
Machine Learning Yearning 中文翻译稿
蚂蚁金服2018秋招-算法工程师(共四面)通过
全球AI挑战-场景分类的比赛源码(多模型融合)
斯坦福CS230官方指南:CNN、RNN及使用技巧速查(打印收藏)
python+flask搭建CNN在线识别手写中文网站
中科院Kaggle全球文本匹配竞赛华人第1名团队-深度学习与特征工程
不断更新资源
深度学习、机器学习、数据分析、python
搜索公众号添加: datayx
NLP一键中文数据增强工具相关推荐
- 一键中文数据增强工具
向AI转型的程序员都关注了这个号
- NLP数据增强;中文数据增强包;一键中文数据增强
NLP Chinese Data Augmentation 一键中文数据增强工具 使用:pip install nlpcda 开源不易,欢迎 star
- 一键中文数据增强包 ; NLP数据增强、bert数据增强、EDA:pip install nlpcda
NLP Chinese Data Augmentation 一键中文数据增强工具 使用:pip install nlpcda 开源不易,欢迎 star
- NLP 的EDA数据增强技术
1. 同义词替换(SR: Synonyms Replace):不考虑stopwords,在句子中随机抽取n个词,然后从同义词词典中随机抽取同义词,并进行替换. 2. 随机插入(RI: Randomly ...
- NLP中的数据增强技术综述
NLP数据增强技术 1. 词汇替换 Lexical Substitution 基于词典的替换 Thesaurus-based substitution 基于词向量的替换 Word-Embeddings ...
- NLP 中的数据增强
前言 数据增强(Data augmentation,DA)是指利用 现有 的数据生成额外的 合成的 数据的技术.在训练样本匮乏,标注成本较高时,尝试数据增强方法是很有必要的. Figure 1. 数据 ...
- 好用的数据增强工具Augmentor(原图和mask扩充)
1.原图和mask扩充增强 # 导入数据增强工具 import Augmentor# 确定原始图像存储路径以及掩码文件存储路径 p = Augmentor.Pipeline("image20 ...
- NLP 英文文本数据增强
数据增强是一种有效的防止过拟合并且可以加大训练集的有效方式,NLP中的数据增强方法有回译,同义词替换,随机插入,随机交换,随机删除,对抗训练这几种方式,本篇文章简单介绍一下这几种方式. 1.回译 #经 ...
- NLP之中文自然语言处理工具库:SnowNLP(情感分析/分词/自动摘要)
NLP之中文自然语言处理工具库:SnowNLP(情感分析/分词/自动摘要) 作者:虚坏叔叔 博客:https://xuhss.com 早餐店不会开到晚上,想吃的人早就来了!
最新文章
- 《2021全球脑科学发展报告》发布
- NSGA-II入门C1
- JavaScript是如何工作的:与WebAssembly比较及其使用场景
- shiro身份验证测试
- 【vue2.0进阶】案例:用Vuex实现一个简单的计算器
- BZOJ3211: 花神游历各国
- 华为云ModelArts 2.0全面升级,革新传统AI开发模式
- Main线程与main()方法的关系
- 从海报视觉到网页设计
- 转载:国内从事机器视觉领域的公司
- 算法 动画算法 算法动画 动画原理——总体概览图
- JavaScript练习(一)——跟随鼠标移动
- java动态代理三座大山InvocationHandler、newProxyInstance()和invoke()
- Android sdk platform,sdk tools,sdk Build tools,sdk platform tools 的关系
- 小程序 : js获取今日日期、加日期、减日期; 判断今日 、判断昨日
- 四核处理器_戴尔这款笔记本彪悍,配置四核处理器,双内存插槽,不足4000元...
- 数据库——mvcc简介
- python公众号教学_Python微信公众号后台开发教程
- Orbit Downloader 小巧无广告的下载工具,超赞的在线视频下载能力,比迅雷清爽多了!
- Could not find metadata org.apache.maven.plugins:maven-archetype-plugin/maven-metadata.xml in local
热门文章
- 使用root安装nginx后使用非root运行方法
- ubuntu 14.04配置lamp粗略
- webpack+Vue2.0项目基础工程文件配置
- 数据库外键名称不要用自动生成的名字
- SSH远程管理、参数讲解、xshell使用、scp,sftp,ssh命令(ssh两种方式的密钥验证方...
- 解决Linux中文乱码问题
- Debug学习资源汇总
- html 日期判断周几,javascript怎么根据日期判断星期几?
- 拼多多2018校招内推编程-大整数相乘
- python21天打卡Day10-string和bytes互转