大数据方面核心技术有哪些
简单来说,从大数据的生命周期来看,无外乎四个方面:大数据采集、大数据预处理、大数据存储、大数据分析,共同组成了大数据生命周期里最核心的技术,下面分开来说:
一、大数据采集
大数据采集,即对各种来源的结构化和非结构化海量数据,所进行的采集。
数据库采集:流行的有Sqoop和ETL,传统的关系型数据库MySQL和Oracle 也依然充当着许多企业的数据存储方式。当然了,目前对于开源的Kettle和Talend本身,也集成了大数据集成内容,可实现hdfs,hbase和主流Nosq数据库之间的数据同步和集成。
网络数据采集:一种借助网络爬虫或网站公开API,从网页获取非结构化或半结构化数据,并将其统一结构化为本地数据的数据采集方式。
文件采集:包括实时文件采集和处理技术flume、基于ELK的日志采集和增量采集等等。
二、大数据预处理
大数据预处理,指的是在进行数据分析之前,先对采集到的原始数据所进行的诸如“清洗、填补、平滑、合并、规格化、一致性检验”等一系列操作,旨在提高数据质量,为后期分析工作奠定基础。数据预处理主要包括四个部分:数据清理、数据集成、数据转换、数据规约。
数据清理:指利用ETL等清洗工具,对有遗漏数据(缺少感兴趣的属性)、噪音数据(数据中存在着错误、或偏离期望值的数据)、不一致数据进行处理。
数据集成:是指将不同数据源中的数据,合并存放到统一数据库的,存储方法,着重解决三个问题:模式匹配、数据冗余、数据值冲突检测与处理。
数据转换:是指对所抽取出来的数据中存在的不一致,进行处理的过程。它同时包含了数据清洗的工作,即根据业务规则对异常数据进行清洗,以保证后续分析结果准确性。
数据规约:是指在最大限度保持数据原貌的基础上,最大限度精简数据量,以得到较小数据集的操作,包括:数据方聚集、维规约、数据压缩、数值规约、概念分层等。
三、大数据存储
大数据存储,指用存储器,以数据库的形式,存储采集到的数据的过程,包含三种典型路线:
1、基于MPP架构的新型数据库集群
采用Shared Nothing架构,结合MPP架构的高效分布式计算模式,通过列存储、粗粒度索引等多项大数据处理技术,重点面向行业大数据所展开的数据存储方式。具有低成本、高性能、高扩展性等特点,在企业分析类应用领域有着广泛的应用。
较之传统数据库,其基于MPP产品的PB级数据分析能力,有着显著的优越性。自然,MPP数据库,也成为了企业新一代数据仓库的最佳选择。
2、基于Hadoop的技术扩展和封装
基于Hadoop的技术扩展和封装,是针对传统关系型数据库难以处理的数据和场景(针对非结构化数据的存储和计算等),利用Hadoop开源优势及相关特性(善于处理非结构、半结构化数据、复杂的ETL流程、复杂的数据挖掘和计算模型等),衍生出相关大数据技术的过程。
伴随着技术进步,其应用场景也将逐步扩大,目前最为典型的应用场景:通过扩展和封装 Hadoop来实现对互联网大数据存储、分析的支撑,其中涉及了几十种NoSQL技术。
3、大数据一体机
这是一种专为大数据的分析处理而设计的软、硬件结合的产品。它由一组集成的服务器、存储设备、操作系统、数据库管理系统,以及为数据查询、处理、分析而预安装和优化的软件组成,具有良好的稳定性和纵向扩展性。
四、大数据分析挖掘
从可视化分析、数据挖掘算法、预测性分析、语义引擎、数据质量管理等方面,对杂乱无章的数据,进行萃取、提炼和分析的过程。
1、可视化分析
可视化分析,指借助图形化手段,清晰并有效传达与沟通信息的分析手段。主要应用于海量数据关联分析,即借助可视化数据分析平台,对分散异构数据进行关联分析,并做出完整分析图表的过程。
具有简单明了、清晰直观、易于接受的特点。
2、数据挖掘算法
数据挖掘算法,即通过创建数据挖掘模型,而对数据进行试探和计算的,数据分析手段。它是大数据分析的理论核心。
数据挖掘算法多种多样,且不同算法因基于不同的数据类型和格式,会呈现出不同的数据特点。但一般来讲,创建模型的过程却是相似的,即首先分析用户提供的数据,然后针对特定类型的模式和趋势进行查找,并用分析结果定义创建挖掘模型的最佳参数,并将这些参数应用于整个数据集,以提取可行模式和详细统计信息。
3、预测性分析
预测性分析,是大数据分析最重要的应用领域之一,通过结合多种高级分析功能(特别统计分析、预测建模、数据挖掘、文本分析、实体分析、优化、实时评分、机器学习等),达到预测不确定事件的目的。
帮助分用户析结构化和非结构化数据中的趋势、模式和关系,并运用这些指标来预测将来事件,为采取措施提供依据。
4、语义引擎
语义引擎,指通过为已有数据添加语义的操作,提高用户互联网搜索体验。
5、数据质量管理
指对数据全生命周期的每个阶段(计划、获取、存储、共享、维护、应用、消亡等)中可能引发的各类数据质量问题,进行识别、度量、监控、预警等操作,以提高数据质量的一系列管理活动。
作者:帆软 来源:知乎
联互通社区
互联互通社区专注于IT互联网交流与学习,关注公众号:互联互通社区,每日获取最新报告并附带专题内容辅助学习。方案打造与宣讲、架构设计与执行、技术攻坚与培训、数据中台等技术咨询与服务合作请+微信:hulianhutongshequ
大数据方面核心技术有哪些相关推荐
- 【大数据入门核心技术-Tez】(三)Tez与Hive整合
一.准备工作 1.Hadoop和Hive安装 [大数据入门核心技术-Hadoop](五)Hadoop3.2.1非高可用集群搭建 [大数据入门核心技术-Hadoop](六)Hadoop3.2.1高可用集 ...
- 【大数据入门核心技术-Flume】(四)使用Flume采集数据到Hive
[大数据入门核心技术-Kafka](七)Ka 录 一.准备工作 1.Hadoop环境安装 2.Flume安装部署 二.采集数据到HDFS 1.配置任务文件 2.启动传输 3.查看是否同步成功 三.常见 ...
- 大数据的核心技术(一)
我们在之前的文章中提到过,大数据的核心技术就是机器学习.数据挖掘.人工智能以及其它大数据处理基础技术.在这篇文章中我们给大家详细地介绍一下这些内容,希望这篇文章能能够给大家带来帮助. 首先说一下机器学 ...
- 【大数据入门核心技术-基本概念】(一)大数据相关基本概念
目录 1.大数据的4v特征 2.大数据的影响 3.大数据的两大核心技术
- 大数据的核心技术有?
<link rel="stylesheet" href="https://csdnimg.cn/release/blogv2/dist/mdeditor/css/e ...
- 大数据方面核心技术有哪些?新人必读
大数据技术的体系庞大且复杂,基础的技术包含数据的采集.数据预处理.分布式存储.NoSQL数据库.数据仓库.机器学习.并行计算.可视化等各种技术范畴和不同的技术层面.首先给出一个通用化的大数据处理框架, ...
- 教育大数据的核心技术、应用现状与发展趋势
作者简介:孙洪涛,博士,中央民族大学现代教育技术部高级工程师,研究方向:教育大数据,教育信息化规划.北京 100081:郑勤华,博士,北京师范大学教育学部副教授,研究方向:教育经济学,教育大数据.北京 ...
- 【大数据入门核心技术-Ambari】(一)Ambari介绍
一.什么是Ambari Apache Ambari是一种基于Web的工具,支持Apache Hadoop集群的供应.管理和监控.Ambari已支持大多数Hadoop组件,包括HDFS.MapReduc ...
- 【大数据入门核心技术-HBase】(七)HBase Python API 操作
5) 单元格(Cell) 每一个行键.列族.列标识共同确定一个单元格,单元格的内容没有特定的数据类型,以二进制字节来存储.每个单元格保存着同一份数据的多个版本,不同时间版本的数据按照时间先后顺序排序, ...
- 【大数据入门核心技术-Spark】(二)Spark核心模块
目录 一.Spark核心模块 1.SparkCore 2.Spark SQL 3.Spark Streaming 4.Spark MLlib 5.资源调度器(Cluster Manager)
最新文章
- PHP生成PDF并转换成图片爬过的坑
- AppBarLayout、CollapsingToolbarLayout以及Toolbar
- 产生数(Floyd)
- 编写业务层和持久层事务控制代码并配置spring的ioc
- SAP Fiori应用的搜索问题
- 485通信自动收发电路,历史上最详细的解释
- python random random_【python】random与numpy.random
- JSOUP爬虫常见问题解决方法
- WPS-JS宏开发-基础知识-01-初识
- 逻辑斯谛回归logistic regression-最大熵
- linux fedora 24 使用 ibus 智能拼音 输入 补全 英文
- echarts标题(title)设置背景图片
- 【震驚】中国电信接管CDMA业务,內部FAQ (注意所有括弧的內容)
- Git常用命令及其作用_艾孜尔江撰
- 多重积分MULTIPLE INTEGRALS
- 解决 elementui中pagination显示英文问题
- 性能优化案例之:如何将TPS从60提升到2000?
- C程序入门:密码字母顺序转换,即第一个字母变成第26个字母,第i个字母变成第(26-i+1)个字母,非字母字符不变。要求根据密码译回原文,并输出。
- OpenStack Train Magnum部署Kubernetes(1)--部署OpenStack Train
- 量化投资分析-Tushare数据获取