大数据和物联网项目给IT基础架构带来了前所未有的压力。

Internet of Things(IoT) 和大数据应用已经给网络和存储架构带来了压力,更不用说这还需要IT专家使用不同的技能和工具来管理这些新的部署了。

虽然执行起来很有挑战性,但是也有一些为IT团队而设的指导方针来帮助他们托管IoT和大数据。这得从审查基础架构中大规模、数据密集型的项目需求开始。

更多的处理能力

一旦项目进入到具体的实施阶段,IT组织连同它的硬件、软件和服务供应商很可能需要去定义合适的系统架构和操作系统,每个系统处理器的数量以及系统的数量——不管是物理的、虚拟的还是基于云的——这需要一些主动性。

大数据项目大部分是基于Windows或者Linux操作系统,架构在业界标准的x86平台服务器上的。但在一些情况下,也有一些基于大型机或者单 一厂商系统架构和操作系统的实用的工具。大多数情况下,IT团队会将业界标准的服务器使用scale-out架构做成集群,以支持需要大量计算、内存、网 络和存储的负载。

IoT项目也趋向于包含基于单一厂家的后端系统以及大型机。

要最大化可使用的处理能力,同时减少在硬件上的总体投资,需要很好地对系统、集群和其他组件进行配置。这需要很明白企业的目标以及深入了解所选的大 数据工具和NoSQL数据库。同样的,对于选择与繁杂的不同智能手机、平板、汽车和从未如此扩张的其他智能设备进行通信的工具,也需要有一定的了解。

错误配置的服务器集群或者其他基础架构的重大错失(甚至选择了错误的工具)都可能成为项目操作的阻碍并且导致项目失败。

有一些后端数据分析和报告工具在一个大集群系统里面运行,有一些则通过其他小的集群来支持:一些小集群负责存储分析需要用的原始数据,有一些小集群 负责提供将原始数据处理成有用信息的工具,另一些小集群可能被用来支持将有用的信息转换为适合的格式(表格、图形或者其他形式),提供给分析师或者数据科 学家。

IoT项目还需要增加响应客户设备,提供需求的信息、指导或帮助的功能。企业需要熟悉这些工具的专家,以及对如何使用这些工具有很全面的了解。

为自己信任的顾问和供应商投入时间,学习对选择的这些工具和方法进行技术支持需要什么。

对于内存、存储和网络的关注

仅仅增加更多的系统、内存和存储并不总能提高IoT和大数据环境的综合性能。不同的方法和工具需要不一样的系统内存和处理能力。

每一种方法和所关联的工具都有自己的限制。建设IoT和/或大数据平台的IT规划师需要对每一种考虑在内的工具所需要的资源进行调研,同时需要知道在资源充足的情况下他们会使用哪一种工具。

如果企业安装了比所选工具所需更多的内存,那么这仅仅会增加能源消耗和热量。非但不会给整体性能带来任何帮助,反而会给数据中心能源和冷却系统带来不需要的压力。

IoT和大数据平台另一个参数是存储的性能和容量。就像处理能力和内存容量一样,存储设备的选择、存储的专用能力和存储的联网方式都能对大数据产品的优化性能有帮助。在IoT技术的例子里,响应速度的快慢将直接影响到客户是否喜欢这个企业(产品)。

就和内存和计算组件一样,存储的配置也必须满足所选工具和方法的需求。不要指望简单通过添加更多存储,选择更快的设备或者升级存储网络来得到效果。即使存储性能增加了,但是也可能被网络瓶颈带来的影响抵消。

有一些大数据工具使用额外的内存能力作为数据存储的一部分,创造了内存里的数据库。这种方法能加速分析和报告的处理。但这是一种需要权衡的方法,因为如果系统没有被可依赖的电力保护着,一旦失去电力则数据也会丢失。

不要被卷入任何一种存储或者存储网络的炒作中。分析师会指出寄存于内存的数据库或者闪存存储并不会对所有情况都适合。

有一些存储虚拟化软件厂家,例如DataCore Software注意到了底层操作系统每一次只能处理一个单一的I/O请求。它的方式是通过增加软件来让操作系统能同一时间同步处理多个请求。

显而易见的是不充分提供(underprovisioned)或者设计失败的存储系统会给大数据或者IoT系统带来效果的降低。

网络架构对于任何分布式或者集群计算工具来说都是至关重要的。它的容量、延迟和性能可以促进或阻碍这类技术。和处理器、内存和存储一样,网络架构也需要细心选择。

当大数据工具需要一些数据的时候,如果网络没有足够的容量、响应慢或者对于不同类型I/O请求有偏向,那么性能就会变得很差。同样的事情对处理IoT系统里面智能设备发出的小型、突发式的请求处理上却并非如此。因此要对两种类型的请求进行平衡是一种挑战。

对于其他的组件,需要对网络媒介特性进行调研,例如Gigabit以太网或Fibre Channel,在购买网络之前进行成本/效益分析。

我曾经看到过一个项目,其目标是捕获百万级别的小型移动设备信息,并且进行分析——这是一个早期的IoT项目。这个公司发现它的网络处理在负载的时候不够快,因为网络设计之初是为了管理大型数据传输而非百万个小型数据请求的。

原文发布时间为:2016年3月23日
本文来自云栖社区合作伙伴至顶网,了解相关信息可以关注至顶网。

为IoT和大数据项目分配IT资源相关推荐

  1. 助力工业物联网,工业大数据项目介绍及环境构建【一、二】

    文章目录 工业大数据项目介绍及环境构建 01:专栏目标 02:项目背景 03:项目需求 04:业务流程 05:技术选型 06:Docker的介绍 07:Docker的网络 08:Docker的使用 0 ...

  2. 大数据项目中的QA需要迎接新的挑战

    大数据项目中的QA需要迎接新的挑战 根据IDC全球半年度大数据和分析支出指南的最新预测,到2022年全球大数据和业务分析解决方案的收入将达到2600亿美元.在大数据和业务分析解决方案上投资增长最快的行 ...

  3. print的describe的展示全部数据_大数据项目中的QA需要迎接新的挑战

    根据IDC全球半年度大数据和分析支出指南的最新预测,到2022年全球大数据和业务分析解决方案的收入将达到2600亿美元.在大数据和业务分析解决方案上投资增长最快的行业包括银行(复合年增长率13.3%) ...

  4. 客快物流大数据项目学习框架

    文章目录 客快物流大数据项目学习框架 前言 一.项目简介 二.功能介绍 三.项目背景 四.服务器资源规划 五.技术亮点及价值 六.智慧物流大数据平台 客快物流大数据项目学习框架 前言 利用框架的力量, ...

  5. 企业大数据项目规划落地实施路线图

    一般来说,一个完整的大数据项目实施,需要经过开发环境搭建.集群环境部署.数据采集.数据存储与交换.数据离线与实时分析.大数据可视化等多个实现流程,这就要求系统掌握大数据技术知识. 下面以一个完整的大数 ...

  6. 最详细大数据项目落地路线图实践总结

    今天,来谈一谈"大数据项目如何落地?"这个话题.从事过多个大数据项目的规划方案及项目落地工作,在这里与大家分享一些心得,主要是关于大数据项目如何成功落地并取得预期目标,也可以说这些 ...

  7. 智慧农业大数据项目建设方案

    智慧农业大数据项目建设方案 (获取完整版文档请添加关注并私信沟通!) 目录 项目概述.................................... 6 项目名称............... ...

  8. 大数据项目 --- 电商数仓(一)

    这个项目实在数据采集基础使用的,需要提前复习之前学的东西,否则的话就是很难继续学习.详见博客数据项目一 ---数据采集项目.大数据项目 --- 数据采集项目_YllasdW的博客-CSDN博客大数据第 ...

  9. 客快物流大数据项目(四):大数据项目为什么使用Docker

    目录 大数据项目为什么使用Docker 一.场景一 二.场景二

最新文章

  1. 感恩节里我成了一个不解风情的爸爸
  2. Redis-Scrapy分布式爬虫:当当网图书为例
  3. SAP IDES各Client用途和用户名密码
  4. Maven学习(四)-----Maven中央存储库
  5. 百年 IBM 终于 All In 人工智能和混合云!
  6. 麟龙指标通达信指标公式源码_麟龙新决策曲线A通达信指标公式源码
  7. 《Python黑帽子》python3代码实现(第五章)
  8. linux中打zip命令,zip命令 - Linux命令大全 | linux教程
  9. elasticsearch报错:bootstrap checks failed. You must address the points described in the following [1]
  10. bundle install 出现 'gem install mysql2 -v '0.3.15' succeeds before bunding '
  11. 你不知道的几个牛逼网站,欢迎收藏
  12. SDRAM中数据掩码的作用(DQM)
  13. 2014腾讯校园招聘实习笔试题
  14. 腾讯云HiFlow场景连接器
  15. 闭包是什么?五分钟带你了解闭包
  16. 关于numpy数组shape的理解 比如:(3,) (2,3) (2,3,2) 以及对维度的小认识
  17. 建行找不到服务器或DNS错误,企业网上银行常见问题解答
  18. 卓克科学思维必修课0821
  19. 2021年N1叉车司机考试及N1叉车司机考试内容
  20. 下载STM32CubeMX软件固件库包的方法

热门文章

  1. 软件无线电在4G技术的应用
  2. Android 4.3 新特性
  3. 《『若水新闻』客户端开发教程》——03.设计新闻分类UI(1)
  4. selenuim webDriver API 16种定位方式
  5. Nginx的accept_mutex配置
  6. 启动 Eclipse 弹出“Failed to load the JNI shared library jvm.dll”错误的解决方法!在eclipse.ini中为eclipse指定jdk启动...
  7. java提高篇之理解java的三大特性——继承
  8. Aptana 添加jQuery提示
  9. greenplum 单表 数据扫描
  10. 关于在Servlet的路径问题