1.大数据的特性

  • 体量巨大: 一般数据集做10TB以上,往往世纪规模已经超过PB级别
  • 增长速度,价值密度:数据增长速度快,但是其价值密度低,需要通过挖掘分析技术从中提取出有价值的信息。
  • 数据准确性和可信度:大数据领域对数据准确度和可信度可以统称为数据度质量,对数据质量的要求一定是精准的。

2. 大数据基础架构

3. 数据收集层

3.1 采集技术

  • 采集技术Sqoop(Sql On Hadoop)
  • 非关系型数据收集Flume
  • 分布式消息队列Kafka(拉货的车子排队问题)

3.2 采集内容

  • 老板进原材料(源数据)
  • 拉进厂子里(数据收集)
  • 安装规律放进仓库
  • 每天重复

4. 大数据测试的概念

大数据测试通常是采用大数据技术的系统或应用的测试,它可以分成两个维度,一个是数据的测试,一个是大数据系统或应用产品的测试。

5. 数据质量的测试

6.功能测试

7. 性能测试

性能测试中大数据应用中非常重要,不然随着数据的增长,应用会直接崩溃

8. 其他非功能性能测试

9. 大数据ETL测试

10 .实时数据ETL测试

大数据测试理论与方法相关推荐

  1. 《交通大数据理论与方法》

    向AI转型的程序员都关注了这个号

  2. 大数据时代 | 数据分析方法及理论详解

    大数据时代 | 数据分析方法及理论详解 1 数据分析前,我们需要思考 像一场战役的总指挥影响着整个战役的胜败一样,数据分析师的思想对于整体分析思路,甚至分析结果都有着关键性的作用. 2 分析问题和解决 ...

  3. 数据可视化(全彩)(大数据丛书,首次全面细致地梳理了可视化理论,方法、工具与应用案例。马匡六教授、石教英教授鼎力推荐,十二五国家重点图书出版规划项目)...

    大数据丛书 数据可视化(全彩)(大数据丛书,首次全面细致地梳理了可视化理论,方法.工具与应用案例.马匡六教授.石教英教授鼎力推荐,十二五国家重点图书出版规划项目) 陈为  沈则潜等编著 ISBN 97 ...

  4. 大数据测试是什么意思?测试分析方法有哪些?

    大数据时代下的现代生活已经形成一个信息高度发达流通的社会,大数据应用已经渗透到各行各业发展中,我们每次上网浏览的痕迹,每次网络搜索.电子支付都与大数据息息相关. 而关于大数据测试也随着大数据的应用变得 ...

  5. 供应链管理的理论和方法大揭秘

    需求驱动供应链,作为一种供应链管理的理论和方法,已经广为被世界制造业巨头像西门子.伊顿.ABB.施耐德.EMERSON等跨国企业所采用.他们在2000年初,就针对如何提供产品和服务,按照需求驱动供应链 ...

  6. 干货 | 龙瀛:面向智慧城市的人本尺度城市形态:理论、方法与实践

    本文内容选自清华大学建筑学院研究员.博士生导师龙瀛老师于2019年10月11日在清华大数据"应用·创新"系列讲座上所做的题为<面向智慧城市的人本尺度城市形态:理论.方法与实践 ...

  7. 元胞自动机与相关理论和方法

    元胞自动机与相关理论和方法的发展有着千丝万缕的联系,一方面,元胞自动机的发展得益于相关理论的研究,如逻辑数学.离散数学.计算机中的自动机理论,图灵机思想;另一方面,元胞自动机的发展也促进了一些相关学科 ...

  8. 空间数据挖掘技术理论及方法

    葛继科(西南农业大学信息学院 400716)   摘要  本文简要论述了空间数据库技术及空间数据挖掘技术的理论及特点,分析了空间数据挖掘技术的层次.方法,并重点介绍了当前常用的分类.聚类.关联规则等空 ...

  9. IEEE Transactions on BIG DATA影响因子3.344,进入信息学科计算机理论与方法领域Q1区...

    2020 年度期刊影响因子(Impact Factor, IF)已于近期正式公布.今年,IEEE Transactions on BIG DATA(以下简称 IEEE TBD)获得影响因子:3.344 ...

  10. 大数据综合能力测试_如何完成大数据测试?资深测试从功能测试角度为你分析分析...

    大数据,已经成为了这个时代的代名词.当今的互联网属于大数据时代,大数据时代的到来,颠覆了以往对数据的惯性思考方式,要保证数据执行,软件质量,测试质量,数据使用场景等,都需要重新变换一个新的角度,对软件 ...

最新文章

  1. 2018-2019 Exp2 后门原理与实践
  2. 运行caffe识别数字的模型mnist
  3. 调试记录- error: #error “must enable c++17“
  4. [Vuex系列] - Module的用法(终篇)
  5. linux 丢包排查思路简述(tcp+rdma)
  6. HTML5实现文件断点续传
  7. 参数方程求二阶偏导_偏微分方程
  8. Win10 Microsoft store无法加载页面: 0x80131500
  9. opencv 识别长方形_利用opencv识别并提取图片中的矩形
  10. java抽象类可以new_java的抽象类,接口,普通类是否可以直接NEW,并且复写方法?
  11. 【转载】哇!!!这个真的是我见过最全的端口介绍了
  12. CSS3硬件加速 - GPU加速
  13. PHP实现短网址还原
  14. Beautiful Soup:4 kinds of objects
  15. 人脸识别 年龄 matlab,基于年龄变化的人脸识别
  16. transformer的简要解读(应该都能看懂)
  17. 【C语言进阶】指针(进阶2)
  18. 用Python教训盗号骗子
  19. Python系列 之 email模块 - 发送邮件
  20. 如何将多个图片转成文字版的Word

热门文章

  1. imagej得到灰度图数据_老司机带你解锁ImageJ实用技巧(下)
  2. Ant Design 遭删库!
  3. Markdown记录
  4. linux之mindoc搭建
  5. 安装docker提示“Another app is currently holding the yum lock; waiting for it to exit“之解决办法
  6. 极大似然估计法(Maximum likelihood estimation, MLE)
  7. python运行脚本文件的3种方法
  8. 设备\Device\Harddisk0\D 有一个不正确的区块
  9. cartpole 离散型动作 A3C
  10. 光纤接口类型及光纤收发器指示灯图解