关于大数据技术原理与应用的学习(1)
学习目标:
- 大数据技术原理与应用
学习内容:
- 大数据概述
- 1.1大数据时代
- 1.2大数据的概念和影响
- 1.3大数据的应用
- 1.4大数据的关键技术
- 1.5大数据与云计算、物联网的关系
学习时间:
2022/03/10
学习产出:
1.1大数据时代
信息化浪潮
信息化浪潮/发生时间/标志/解决问题/代表企业
第一次/1980年前后/个人计算机/信息处理/Inter\IBM\苹果\微软
第二次/1995年前后/互联网/信息传输/ 雅虎\谷歌\阿里巴巴\百度
第三次/2010年前后/物联网、云计算和大数据/信息爆炸/新的市场标杆企业技术支撑:
1 存储——存储设备容量不断增加
2 CPU——处理能力大幅度提升
3 网络带宽不断增加阶段
1 第一阶段 运营式系统阶段
2 第二阶段 用户原创内容阶段
3 第三阶段 感知式系统阶段(物联网的迅速普及)大数据的发展历程
时间 阶段
上世纪90年代至上世界末期 萌芽期
本世纪前十年 成熟期
2010年以后 大规模应用期
1.2大数据的概念和影响
4V:快速化/多样化/价值密度低/大量化
大数据是有结构化数据和非结构化数据构成
影响:
(1)全样而非抽样
(2)效率而非精确
(3)相关而非因果
1.3大数据的应用
(1)业务流程优化
(2)理解满足客户需求
(3)金融交易
(4)实时掌控交通情况改善日常生活
(5)研发智能汽车、医疗方面
案例:美国传统流感预测、影视投资等等
1.4大数据关键技术
大数据技术层次:
(1)数据采集
(2)数据存储与管理
(3)数据处理与分析
(4)数据隐私与安全两大核心技术:
(1)分布式存储
(2)分布式处理大数据典型的计算模式:
批处理计算(针对大规模数据的批量计算,代表产品:MapReduce/Spark)、流计算(针对流数据的实时计算,代表产品:Strom/S4/Flume/银河流)、图计算(针对大规模图结构数据的处理,代表产品:Pregel/GraphX/PowerGraph/Hama)、查询分析计算(大规模数据的存储管理和查询分析,代表产品:Dremel/Hive/Impala等)
1.5大数据与云计算、物联网的关系
1.5.1云计算
解决两个核心问题:分布式存储、分布式计算
典型特征:虚拟化、多租户
定义概念:通过网络以服务的方式为用户提供非常廉价的IT资源
优势:不需要自建IT基础设施
三种云服务:IaaS——基础设施即服务, PaaS——平台即服务,SaaS——软件即服务
云计算关键技术:
虚拟化(Hadoop/Linux/虚拟机/Win/硬件)、分布式存储、分布式计算、多租户(同时为多个用户服务)
云计算典型应用:政务云、教育云、医疗云、中小企业云1.5.2物联网
定义概念:物物相连的互联网,是互联网的延伸。
层次架构:
感知层(导航定位、摄像头、传感器等等)、网络层(电信网、互联网、广电网、专用网等等)、处理层(服务支撑平台、网络管理平台、信息处理平台、信息安全平台)、应用层(智能交通、智能家具、智慧医疗等等)
典型的物联网应用:掌上智能公交、智慧城市
物联网关键技术:识别技术、感知技术(RFID)
物联网的应用:智能工业、智能交通、健康医疗、智能家居、环保监测、智能安防、智慧农业等等总结:
云计算为大数据提供技术基础,大数据为云计算提供用武之地;
云计算为物联网提供海量数据存储能力,物联网为云计算技术提供了广阔的应用空间;
物联网是大数据的重要来源,大数据技术为物联网数据分析提供支撑;
关于大数据技术原理与应用的学习(1)相关推荐
- 关于大数据技术原理与应用的学习(6)
学习目标: 大数据技术原理与应用 学习内容: 6云数据库 6.1概述 6.2产品 6.3UMP系统 6.4Amazon云数据库 6.5微软云数据库SQL Azure 学习时间: 2022/03/31 ...
- 关于大数据技术原理与应用的学习(4)
学习目标: 大数据技术原理与应用 学习内容: 分布式数据库HBase 4.1HBase简介 4.2HBase数据模型 4.3HBase实现原理 4.4HBase运行机制 4.5HBase应用方案 4. ...
- 关于大数据技术原理与应用的学习(3)
学习目标: 大数据技术原理与应用 学习内容: 分布式文件系统HDFS 3.1HDFS简介 3.2HDFS相关概念 3.3HTFS体系结构 3.4HTFS存储元原理 3.5HDFS数据读写 3.6HDF ...
- 关于大数据技术原理与应用的学习(5)
学习目标: 大数据技术原理与应用 学习内容: 5.NoSQL数据库 例如: 5.1NoSQL数据库 5.2与关系数据库的比较 5.3四大类型 5.4理论基石 5.5从NoSQL到NewSQL 5.6文 ...
- [渝粤教育] 厦门大学 大数据技术原理与应用 参考 资料
教育 -大数据技术原理与应用-章节资料考试资料-厦门大学[] 第1章 大数据概述 单元测验 1.[单选题]第三次信息化浪潮的标志是: A.个人电脑的普及 B.互联网的普及 C.云计算.大数据.物联网技 ...
- 大数据技术原理与应用课后题(林子雨)
大数据技术原理与应用(林子雨) 第1章 大数据概述 1单选(2分) 第三次信息化浪潮的标志是: A.个人电脑的普及 B.云计算.大数据.物联网技术的普及 C.虚拟现实技术的普及 D.互联网的普及 正确 ...
- 大数据技术原理与应用 第一篇 大数据基础
目录 第一章 大数据概述 一. 大数据时代 1.1 三次信息化浪潮 1.2 信息科技发展 1.3 数据产生方式的变革 1.4 大数据的影响 二. 大数据的概念 2.1 大数据的特征 2.2 大数据关键 ...
- 大数据技术原理与应用—课后题答案(第一章)
大数据技术原理与应用_林子雨版_课后题答案(第一章) 1.试述信息技术发展史上的3次信息化浪潮及具体内容. 信息化浪潮 发生时间 标志 解决问题 ...
- 《大数据技术原理与应用》(第八章Hadoop 课后答案)
第八章 Hadoop再探讨 参考资料 1.林子雨_大数据技术原理与应用课后习题_NPU_阿夏的博客-CSDN博客 2.林子雨编著<大数据技术原理与应用(第3版)>教材官网_厦门大学数据库实 ...
最新文章
- VTK:PolyData之InterpolateMeshOnGrid
- 【王俊杰de人工智能实战课】第7次作业2
- 论文浅尝 | 当知识图谱遇上零样本学习——零样本学习综述
- iOS教程:详解iOS多图下载的缓存机制
- iOS中XML解析 (二) libxml2(实例:打印xml内容及存储到数组)
- Javascript数据类型共有六种
- java 局部指定jdk版本_[Java教程]tomcat之一:指定tomcat运行时JDK版本
- Python模块安装:Python3安装pdfminer3k
- learun.framework v7.0.6 — . net快速开发框架
- 用计算机美化演讲稿过程,计算机应用基础第10章--PowerPoint应用—制作论文答辩演讲稿.ppt...
- QT 以资源管理器打开文件夹
- 交大计算机毕业去华为,想进华为,报考这几所大学,毕业生在华为扎堆!
- github网站下载方法
- JVM报错GC overhead limit exceeded
- int.prase和int.tryprase
- CAD梦想画图中的“绘图工具——圆弧”
- 两台codesys设备之间通过modbus TCP通讯案例
- idea 中git 将 dev 分支合并到 master 分支 或将master 分支 合并到dev 分支
- 谷粒学院-首页数据显示-banner轮播图微服务搭建
- 【智能路由器】openwrt创建用户软件包
热门文章
- matlab wavefun怎么用,Python pywt.Wavelet方法代碼示例
- python最大堆_二叉堆 及 大根堆的python实现
- Hadoop——(Hadoop框架,Hadoop的优缺点,Hadoop1.x和2.x的版本区别,Hadoop架构,Hadoop目录结构)
- STM32F105 CAN总线数据收发调试
- 小游戏怎么提升app的用户留存
- 配置给127.0.0.1配置本地域名
- 微信小程序富文本插件
- 算法题:求两个单链表相交的第一个节点
- iOS 添加自定义文字字体样式
- 杰理之如何离线安装杰理编译器?【篇】