文章目录

  • 1.非结构化数据是什么
  • 2.非结构化数据处理困难的原因
  • 3.处理非结构化数据的方法

1.非结构化数据是什么

非结构化数据是数据结构不规则或不完整,没有预定义的数据模型,不方便用数据库二维逻辑表来表现的数据。包括所有格式的办公文档、文本、图片、XML, HTML、各类报表、图像和音频/视频信息等等。
非结构化数据包含了文本、图象、声音、影视、超媒体等典型信息,在互联网上的信息内容形式中占据了很大比例。随着“互联网+”战略的实施,将会有越来越多的非结构化数据产生,据预测,非结构化数据将占据所有各种数据的70-80%以上。结构化数据分析挖掘技术经过多年的发展,已经形成了相对比较成熟的技术体系。也正是由于非结构化数据中没有限定结构形式,表示灵活,蕴含了丰富的信息。因此,综合看来,在大数据分析挖掘中,掌握非结构化数据处理技术是至关重要的。

2.非结构化数据处理困难的原因

文件数量过多,过大
非结构化数据归集检索调取效率低
传统架构无法按需弹性配置存储空间

3.处理非结构化数据的方法

(1)Web页面信息内容提取;

(2)结构化处理(含文文本的词汇切分、词性分析、歧义处理等);

(3)语义处理(含实体提取、词汇相关度、句子相关度、篇章相关度、句法分析等)

(4)文本建模(含向量空间模型、主题模型等)

(5)隐私保护(含社交网络的连接型数据处理、位置轨迹型数据处理等)

(这些资料均来源于网络)

【作业】非结构化数据相关知识整理相关推荐

  1. 知识抽取学习笔记:面向非结构化数据的抽取

    1概念 知识抽取,即从不同来源.不同结构的数据中进行知识提取,形成知识(结构化数据)存入到知识图谱.大体的任务分类与对应技术如下图所示: 2知识抽取的技术与难点 从结构化数据库中获取知识:D2R 难点 ...

  2. 非结构化数据的相关知识

    一.出现原因 信息社会化时代,各行各业在处理相关业务的过程中,都累计了海量的数据信息,随着IT应用的普及和发展,传统的纸质资料存储方式在不断缩减,更多的采用电子信息的存储方式存放在计算机中.这些信息数 ...

  3. 结构化数据和非结构化数据、半结构化数据的区别-归纳总结整理

    ​今天来讨论一下什么是结构化数据? 什么是非结构化数据? 半结构化数据?以及三者之间的区别 计算机信息化系统中的数据分为结构化数据和非结构化数据.半结构化数据. 结构化数据 结构化数据,是指由二维表结 ...

  4. 作业3 | 结构化数据、非结构化数据、半结构化数据

    一.结构化数据 结构化数据是指具有一定结构性.可以划分为固定的基本组成要素.能通过一个或多个二维表来表示的数据. 一般存储在关系数据库中,具有一定逻辑结构,可用关系数据库的表或视图表示,一般使用关系型 ...

  5. Azure 数据基础知识探究核心数据概念-半结构化数据和非结构化数据

    描述非关系数据的类型 非关系数据通常分为两类:半结构化和非结构化. 什么是半结构化数据? 半结构化数据是包含字段的数据. 每个实体中的字段不必相同. 只需基于每个实体依据来定义字段. 上一单元中介绍的 ...

  6. 我被“非结构化数据包围了”,请求支援!

    阿里妹导读:非结构化数据的内容占据了当前数据海洋的80%.换句话来说,就是我们都被"非结构化数据"包围了.由于非结构化数据的信息量和信息的重要程度很难被界定,因此对非结构化数据的使 ...

  7. DAMA数据治理与数据质量--非结构化数据的数据质量管理

    本文根据汪广盛先生在[DQMIS 2020第四届数据质量管理国际峰会]现场演讲内容整理而成. 图1.1 DAMA(国际数据管理协会)中国区主席  汪广盛 演讲嘉宾介绍 -- 汪广盛 国际数据管理协会( ...

  8. 非结构化数据治理方案

    随着互联网技术的日新月异,内容数据逐渐在各行业的业务中占据更重要的地位.日常的业务过程中,需要处理的大量电子文档.图片.音频.视频等,都属于内容数据范畴. 例如,某银行的无人营业网点的远程业务办理中, ...

  9. 详解非结构化数据治理

    随着互联网技术的日新月异,内容数据逐渐在各行业的业务中占据更重要的地位.日常的业务过程中,需要处理的大量电子文档.图片.音频.视频等,都属于内容数据范畴. 例如,某银行的无人营业网点的远程业务办理中, ...

最新文章

  1. Linux Shell脚本Ldd命令原理及使用方法
  2. 超线程技术——超线程技术让(P4)处理器增加5%的裸晶面积,就可以换来15%~30%的效能提升,本质单核模拟双核!和异步编程的思想无异。...
  3. ViewTreeObserver视图树观察者
  4. 基类指针和子类指针相互赋值
  5. 如何利用Gitlab-CI持续部署到远程机器?
  6. 中国连计算机硬盘都无法生产吗,中国仍无能力制造出电脑中的硬盘
  7. Dojo学习笔记(三):类化JavaScript
  8. BugkuCTF-Reverse题NoString
  9. 计算机根服务器 信息安全,信息安全课件
  10. python 多进程 每个进程做不同功能实例_Python 多进程并发操作中进程池Pool的实例...
  11. android返回页面代码实现,Intent携带信息返回上一个界面实现基本信息的设置
  12. 制药企业BI系统方案整体设计分享
  13. 使用FragmentPagerAdapter和FragmentStatePagerAdapter时Fragment生命周期区别
  14. Kindle Fire调试,以及它没有Orientation Sensor
  15. 计算机专业的具体能力和素质要求,浅谈中职计算机专业学生职业素养的要求
  16. ubuntu 查看和关闭后台程序
  17. 中学生编程大赛_青少年编程竞赛汇总
  18. 一个简单的条码/二维码扫描App
  19. vs 应用程序无法正常启动0xc000007b 可能与VS中DLL引用有关
  20. 高德地图样式主题设置

热门文章

  1. WGS(重测序)分析详解与脚本
  2. 人民币大小写金额转换
  3. Word:外国人名字字母上加撇,怎么输入
  4. 回顾2022! 链上NFT精彩项目大盘点
  5. 三次Bezier曲线/B样条曲线转换成隐函数方程的方法
  6. lzo的正确c语言代码,LZO 使用跟介绍
  7. [搞笑图片] 搞笑图片
  8. 如何对接payjs的个人微信扫码支付接口
  9. 小程序运营推广怎么做?有什么小程序运营推广策略?
  10. CodeForces 858C Did you mean... 、 CodeForces 858D Polycarp's phone book!黑科技