一英里不是个很长的距离,一立方英里相对于地球也不会让人觉得是个很大的空间。然后我说,这个空间内能装下全世界所有人,你会不会觉到很惊讶?不过这话不是我说的,是美国作家房龙在一本书里写的。

业内有个著名的数据仓库产品,叫Teradata,20多年前起这个名字,显然是想给人能处理海量数据的感觉。可现在,论用户还是厂商,谈论数据量时都常常以T为单位了,动不动就有几十上百T甚至PB级的数据。似乎T不是个多大的数,多几个几十个T也没什么大不了的。

其实T有点象上面说的立方英里,是个挺大的数。很多人对它没有多深的感性认识,我们要换个角度来看1T数据意味着什么。

先从空间上看。

用于分析计算的数据仍然以结构化数据为主。结构化数据中占据空间最大的是不断增长的交易类记录,这种数据每条并不大,大概只有几十到100字节,比如银行交易只要记下帐号、日期、金额;电信的通话记录也只是通话号码、时刻、时长等。就按100字节算,也就是0.1K,那么1T空间就可以放下10G行记录,100亿条!

这是什么概念呢?一年大概是3000多万秒,如果用一年时间来积累1T数据,那意味着每秒要产生300多笔记录,24小时不停息!

这个数也不算大,象中国这样的大国,电信运营商、全国级银行以及大型互联公司都不难有这种规模的业务量。但对于一个城市级别甚至有些省级的机构就是个不小的数了,比如税务部门采集的企业交税信息、连锁超市的商品购买数据、城市商业银行的交易记录等,要达到300笔/秒并不容易,何况很多机构只有白天或工作日才能产生数据。而且这还只是1T,要搞到几十上百T,那就得让业务量再上一两个数量级才行。

简单说有多少T数据是没什么感觉的,换算成每秒对应的业务量后,才知道是不是靠谱。大数据分析计算产品的技术方案和数据量相关性非常强,正确估算自己的数据量对于大数据平台的建设是至关重要的。

如果用来存储音频视频这种非结构化数据, 或者仅仅用于备份原始凭据,那1T空间就存不了多少东西了,但这种数据一般也没什么要分析计算的需求,只是存储和检索,那不需要什么大数据计算平台,只要有个网络文件系统就行了,这成本就低多了。

再从时间上看。

假设有1T数据,那么要多少时间才能处理一遍?有些厂商宣称能在数秒内处理TB级数据,用户经常也这样期望,这可能吗?

机械硬盘在操作系统下的读取数据大概是150M/秒(不能看硬盘厂商那个指标,根本达不到),固态硬盘快些,能翻个倍。我们就算300M/秒,那么1T数据只是读取不做任何运算也需要3000秒以上,接近一个小时!那怎么可能数秒内处理1T数据呢?很简单,增加硬盘,如果有1000块硬盘,那就可以在3秒左右读出1T数据了。

这还是比较理想的估算。实际上数据不大可能存放着那么整齐(硬盘不连续读取时性能下降严重),集群(1000块硬盘显然不会在一台机器上)还有网络延迟,有些运算可能还有回写动作(大分组和排序等),秒级访问常常还会有并发需求,这些因素综合起来,再慢几倍也是正常的。

现在我们知道了,1T数据意味着几个小时,或者上千块硬盘。而且还是前面的话,这只算了1T,可想而知几十上百T会是什么概念了。

有人说,硬盘太慢了,我们改用内存。

内存是比硬盘快得多,而且还适合并行计算。不过大内存的机器并不便宜(成本不是线性增长的),而且更糟糕的是,内存使用率经常很低。比如许多计算体系都是基于Java平台的,如果不做特别的压缩优化的话,JVM的内存利用率只有20%的样子,也就是硬盘上1T数据需要5T内存才能加载进来,这得装多少机器,花多少钱?

我们对1T有了上面这些感性认识后,听到多少多少T的说法时,就可以随时脑补出交易、节点数、成本等信息。做平台规划和产品选择时,就不容易被忽悠了。Teradata这个名字,今天也还不算过时的。

1T数据到底有多大?相关推荐

  1. 大数据到底有多大,人工智能到底有多能

    马云说:"互联网还没搞清楚的时候,移动互联就来了,移动互联还没搞清楚的时候,大数据就来了." 近两年,"大数据"."人工智能"这两个词越来越 ...

  2. 大数据到底是不是“算命”?技术大牛们这样说

    TBO(旅游商业观察):"如果你只有一堆人的电话号码,这可能没多大意义.但像携程的数据,比如所有人提前预订.搜索.浏览.点评的信息等,这就是有价值的.但更深层的核心是,你能不能在某个产品上使 ...

  3. 什么是大数据,大数据到底应该如何学?

    文章目录 一.食用须知 二.大数据的基本概念 1. 什么是大数据 2. 数据是如何采集的 3. 大数据真的能预测吗 三.什么是大数据开发 四.什么是大数据分析 五.应如何学习大数据 一.食用须知 再更 ...

  4. 3000字长文剖析!企业大数据到底是什么,从哪来,怎么用?

    1.企业大数据,你到底是什么 1.1我们先来看看主流的大数据概念. IBM提出大数据的5V特点:Volume(大量).Velocity(高速).Variety(多样).Value(低价值密度).Ver ...

  5. 云计算、物联网、大数据到底是什么?

    云计算.物联网.大数据到底是什么? 01 云计算 五个基本特征 三个服务模型 四个部署模型 1. 基础设施即服务 2. 平台即服务 3. 软件即服务 02 物联网 03 大数据 1. 三类定义 1)属 ...

  6. 大数据到底应该如何学?

    写在前面:博主是一只经过实战开发历练后投身培训事业的"小山猪",昵称取自动画片<狮子王>中的"彭彭",总是以乐观.积极的心态对待周边的事物.本人的技 ...

  7. 携程到底有没有大数据杀熟?!

    作者 | 胡巍巍 出品 | CSDN(CSDNnews) 牛了,这几个案例让你迅速掌握AI技术! https://edu.csdn.net/topic/ai30?utm_source=cxrs_bw ...

  8. 如何学习大数据,到底怎么学?数据科学概论与大数据学习误区在哪

    数据科学家走在通往无所不知的路上,走到尽头才发现,自己一无所知." 最近不少网友向我咨询如何学习大数据技术?大数据怎么入门?怎么做大数据分析?数据科学需要学习那些技术?大数据的应用前景等等问 ...

  9. 云计算与大数据到底有怎样的关系

    http://zhidao.baidu.com/link?url=MtApvQIDwJA17_tBU7ifP1bNlw4FWa_bVOuL7gdOnxB_W1q3MLMUKlZMWKSuO7IlJIN ...

最新文章

  1. xcode 学习笔记2:动态添加view
  2. 郁金香2013网授汇编逆向与外挂 [ 91课,全 ]
  3. 文件服务器的迁移(包括权限)
  4. Java(21)_ ^、|、运算符
  5. 使用Maven 实现打包生成一个可执行jar包:附详细配置解释说明
  6. Hadoop集群扩容和缩容:添加白名单和黑名单
  7. 以 boost::spirit 规则形式编写的 INFO 文件格式的语法测试程序
  8. linux 安装nginx php mysql 配置文件在哪_linux下 php+nginx+mysql安装配置
  9. windows 安装yaml支持和pytest支持等
  10. 霍夫丁不等式及其他相关不等式证明
  11. 为软件生成授权的唯一代码 CPUID+主板ID+内存ID
  12. iOS Gif分解与展示
  13. Java、某天是星期几
  14. 《加州消费者隐私法案》(CCPA)解读二:CCPA赋予消费者六大权力
  15. 软考信息系统监理师:2016年4月22日作业
  16. ArcEngine10 ecp 授权
  17. 判断清浊音 matlab,基于MATLAB的语音信号的清浊音分析.docx
  18. layui搭建管理后台系统
  19. day06ViewPager
  20. 解决Linux遇到There are no enabled repos.的问题

热门文章

  1. Flask SQLAlchemy - 2013 Lost Connection
  2. 初中OJ1997【2015.8.3普及组模拟赛】WZK打雪仗(war)
  3. PTA:7-6 奇偶数处理
  4. 一个人不孤单 想一个人才孤单
  5. openofficeV2.0由SUN开发的一款免费不亚于微软的office软件
  6. win10中conda activate激活环境出错的解决办法
  7. 人工智能工程师要具备的5项基本技能
  8. 《安富莱嵌入式周报》第246期:2021.12.27--2022.01.02
  9. resultFul请求案例
  10. resulful规范_resultful风格简介