大数据测试理论与方法
1.大数据的特性
- 体量巨大: 一般数据集做10TB以上,往往世纪规模已经超过PB级别
- 增长速度,价值密度:数据增长速度快,但是其价值密度低,需要通过挖掘分析技术从中提取出有价值的信息。
- 数据准确性和可信度:大数据领域对数据准确度和可信度可以统称为数据度质量,对数据质量的要求一定是精准的。
2. 大数据基础架构
3. 数据收集层
3.1 采集技术
- 采集技术Sqoop(Sql On Hadoop)
- 非关系型数据收集Flume
- 分布式消息队列Kafka(拉货的车子排队问题)
3.2 采集内容
- 老板进原材料(源数据)
- 拉进厂子里(数据收集)
- 安装规律放进仓库
- 每天重复
4. 大数据测试的概念
大数据测试通常是采用大数据技术的系统或应用的测试,它可以分成两个维度,一个是数据的测试,一个是大数据系统或应用产品的测试。
5. 数据质量的测试
6.功能测试
7. 性能测试
性能测试中大数据应用中非常重要,不然随着数据的增长,应用会直接崩溃
8. 其他非功能性能测试
9. 大数据ETL测试
10 .实时数据ETL测试
大数据测试理论与方法相关推荐
- 《交通大数据理论与方法》
向AI转型的程序员都关注了这个号
- 大数据时代 | 数据分析方法及理论详解
大数据时代 | 数据分析方法及理论详解 1 数据分析前,我们需要思考 像一场战役的总指挥影响着整个战役的胜败一样,数据分析师的思想对于整体分析思路,甚至分析结果都有着关键性的作用. 2 分析问题和解决 ...
- 数据可视化(全彩)(大数据丛书,首次全面细致地梳理了可视化理论,方法、工具与应用案例。马匡六教授、石教英教授鼎力推荐,十二五国家重点图书出版规划项目)...
大数据丛书 数据可视化(全彩)(大数据丛书,首次全面细致地梳理了可视化理论,方法.工具与应用案例.马匡六教授.石教英教授鼎力推荐,十二五国家重点图书出版规划项目) 陈为 沈则潜等编著 ISBN 97 ...
- 大数据测试是什么意思?测试分析方法有哪些?
大数据时代下的现代生活已经形成一个信息高度发达流通的社会,大数据应用已经渗透到各行各业发展中,我们每次上网浏览的痕迹,每次网络搜索.电子支付都与大数据息息相关. 而关于大数据测试也随着大数据的应用变得 ...
- 供应链管理的理论和方法大揭秘
需求驱动供应链,作为一种供应链管理的理论和方法,已经广为被世界制造业巨头像西门子.伊顿.ABB.施耐德.EMERSON等跨国企业所采用.他们在2000年初,就针对如何提供产品和服务,按照需求驱动供应链 ...
- 干货 | 龙瀛:面向智慧城市的人本尺度城市形态:理论、方法与实践
本文内容选自清华大学建筑学院研究员.博士生导师龙瀛老师于2019年10月11日在清华大数据"应用·创新"系列讲座上所做的题为<面向智慧城市的人本尺度城市形态:理论.方法与实践 ...
- 元胞自动机与相关理论和方法
元胞自动机与相关理论和方法的发展有着千丝万缕的联系,一方面,元胞自动机的发展得益于相关理论的研究,如逻辑数学.离散数学.计算机中的自动机理论,图灵机思想;另一方面,元胞自动机的发展也促进了一些相关学科 ...
- 空间数据挖掘技术理论及方法
葛继科(西南农业大学信息学院 400716) 摘要 本文简要论述了空间数据库技术及空间数据挖掘技术的理论及特点,分析了空间数据挖掘技术的层次.方法,并重点介绍了当前常用的分类.聚类.关联规则等空 ...
- IEEE Transactions on BIG DATA影响因子3.344,进入信息学科计算机理论与方法领域Q1区...
2020 年度期刊影响因子(Impact Factor, IF)已于近期正式公布.今年,IEEE Transactions on BIG DATA(以下简称 IEEE TBD)获得影响因子:3.344 ...
- 大数据综合能力测试_如何完成大数据测试?资深测试从功能测试角度为你分析分析...
大数据,已经成为了这个时代的代名词.当今的互联网属于大数据时代,大数据时代的到来,颠覆了以往对数据的惯性思考方式,要保证数据执行,软件质量,测试质量,数据使用场景等,都需要重新变换一个新的角度,对软件 ...
最新文章
- 2018-2019 Exp2 后门原理与实践
- 运行caffe识别数字的模型mnist
- 调试记录- error: #error “must enable c++17“
- [Vuex系列] - Module的用法(终篇)
- linux 丢包排查思路简述(tcp+rdma)
- HTML5实现文件断点续传
- 参数方程求二阶偏导_偏微分方程
- Win10 Microsoft store无法加载页面: 0x80131500
- opencv 识别长方形_利用opencv识别并提取图片中的矩形
- java抽象类可以new_java的抽象类,接口,普通类是否可以直接NEW,并且复写方法?
- 【转载】哇!!!这个真的是我见过最全的端口介绍了
- CSS3硬件加速 - GPU加速
- PHP实现短网址还原
- Beautiful Soup:4 kinds of objects
- 人脸识别 年龄 matlab,基于年龄变化的人脸识别
- transformer的简要解读(应该都能看懂)
- 【C语言进阶】指针(进阶2)
- 用Python教训盗号骗子
- Python系列 之 email模块 - 发送邮件
- 如何将多个图片转成文字版的Word
热门文章
- imagej得到灰度图数据_老司机带你解锁ImageJ实用技巧(下)
- Ant Design 遭删库!
- Markdown记录
- linux之mindoc搭建
- 安装docker提示“Another app is currently holding the yum lock; waiting for it to exit“之解决办法
- 极大似然估计法(Maximum likelihood estimation, MLE)
- python运行脚本文件的3种方法
- 设备\Device\Harddisk0\D 有一个不正确的区块
- cartpole 离散型动作 A3C
- 光纤接口类型及光纤收发器指示灯图解