大数据挑战和机遇并存,大数据在未来几年的发展将从前几年的预期膨胀阶段、炒作阶段转入理性发展阶段、落地应用阶段,大数据在未来几年将逐渐步入理性发展期。未来的大数据发展依然存在诸多挑战,但前景依然非常乐观。

大数据发展的挑战

目前大数据的发展依然存在诸多挑战,包括七大方面的挑战:业务部门没有清晰的大数据需求导致数据资产逐渐流失;企业内部数据孤岛严重,导致数据价值不能充分挖掘;数据可用性低,数据质量差,导致数据无法利用;数据相关管理技术和架构落后,导致不具备大数据处理能力;数据安全能力和防范意识差,导致数据泄露;大数据人才缺乏导致大数据工作难以开展;大数据越开放越有价值,但缺乏大数据相关的政策法规,导致数据开放和隐私之间难以平衡,也难以更好的开放。

年薪40+W的大数据开发【教程】,都在这儿!

挑战一:业务部门没有清晰的大数据需求

很多企业业务部门不了解大数据,也不了解大数据的应用场景和价值,因此难以提出大数据的准确需求。由于业务部门需求不清晰,大数据部门又是非盈利部门,企业决策层担心投入比较多的成本,导致了很多企业在搭建大数据部门时犹豫不决,或者很多企业都处于观望尝试的态度,从根本上影响了企业在大数据方向的发展,也阻碍了企业积累和挖掘自身的数据资产,甚至由于数据没有应用场景,删除很多有价值历史数据,导致企业数据资产流失。因此,这方面需要大数据从业者和专家一起,推动和分享大数据应用场景,让更多的业务人员了解大数据的价值。

挑战二:企业内部数据孤岛严重

企业启动大数据最重要的挑战是数据的碎片化。在很多企业中尤其是大型的企业,数据常常散落在不同部门,而且这些数据存在不同的数据仓库中,不同部门的数据技术也有可能不一样,这导致企业内部自己的数据都没法打通。如果不打通这些数据,大数据的价值则非常难挖掘。大数据需要不同数据的关联和整合才能更好的发挥理解客户和理解业务的优势。如何将不同部门的数据打通,并且实现技术和工具共享,才能更好的发挥企业大数据的价值。

挑战三:数据可用性低,数据质量差

很多中型以及大型企业,每时每刻也都在产生大量的数据,但很多企业在大数据的预处理阶段很不重视,导致数据处理很不规范。大数据预处理阶段需要抽取数据把数据转化为方便处理的数据类型,对数据进行清洗和去噪,以提取有效的数据等操作。甚至很多企业在数据的上报就出现很多不规范不合理的情况。以上种种原因,导致企业的数据的可用性差,数据质量差,数据不准确。而大数据的意义不仅仅是要收集规模庞大的数据信息,还有对收集到的数据进行很好的预处理处理,才有可能让数据分析和数据挖掘人员从可用性高的大数据中提取有价值的信息。Sybase的数据表明,高质量的数据的数据应用可以显著提升企业的商业表现,数据可用性提高10%,企业的业绩至少提升在10%以上。

挑战四:数据相关管理技术和架构

技术架构的挑战包含以下几方面:(1)传统的数据库部署不能处理TB级别的数据,快速增长的数据量超越了传统数据库的管理能力。如何构建分布式的数据仓库,并可以方便扩展大量的服务器成为很多传统企业的挑战;(2)很多企业采用传统的数据库技术,在设计的开始就没有考虑数据类别的多样性,尤其是对结构化数据、半结构化和非结构化数据的兼容;(3)传统企业的数据库,对数据处理时间要求不高,这些数据的统计结果往往滞后一天或两天才能统计出来。但大数据需要实时处理数据,进行分钟级甚至是秒级计算。传统的数据库架构师缺乏实时数据处理的能力;(4)海量的数据需要很好的网络架构,需要强大的数据中心来支撑,数据中心的运维工作也将成为挑战。如何在保证数据稳定、支持高并发的同时,减少服务器的低负载情况,成为海量数据中心运维的一个重点工作。

挑战五:数据安全

网络化生活使得犯罪分子更容易获得关于人的信息,也有了更多不易被追踪和防范的犯罪手段,可能会出现更高明的骗局。如何保证用户的信息安全成为大数据时代非常重要的课题。在线数据越来越多,黑客犯罪的动机比以往都来的强烈,一些知名网站密码泄露、系统漏洞导致用户资料被盗等个人敏感信息泄露事件已经警醒我们,要加强大数据网络安全的建设。另外,大数据的不断增加,对数据存储的物理安全性要求会越来越高,从而对数据的多副本与容灾机制也提出更高的要求。目前很多传统企业的数据安全令人担忧。

挑战六:大数据人才缺乏

大数据建设的每个环节都需要依靠专业人员完成,因此,必须培养和造就一支掌握大数据技术、懂管理、有大数据应用经验的大数据建设专业队伍。目前大数据相关人才的欠缺将阻碍大数据市场发展。据Gartner预测,到2015年,全球将新增440万个与大数据相关的工作岗位,且会有25%的组织设立首席数据官职位。大数据的相关职位需要的是复合型人才,能够对数学、统计学、数据分析、机器学习和自然语言处理等多方面知识综合掌控。未来,大数据将会出现约100万的人才缺口,在各个行业大数据中高端人才都会成为最炙手可热的人才,涵盖了大数据的数据开发工程师、大数据分析师、数据架构师、大数据后台开发工程师、算法工程师等多个方向。因此需要高校和企业共同努力去培养和挖掘。目前最大的问题是很多高校缺乏大数据,所以拥有大数据的企业应该与学校联合培养人才。

挑战七:数据开放与隐私的权衡

在大数据应用日益重要的今天,数据资源的开放共享已经成为在数据大战中保持优势的关键。商业数据和个人数据的共享应用,不仅能促进相关产业的发展,也能给我们的生活带来巨大的便利。由于政府、企业和行业信息化系统建设往往缺少统一规划,系统之间缺乏统一的标准,形成了众多“信息孤岛”,而且受行政垄断和商业利益所限,数据开放程度较低,这给数据利用造成极大障碍。另外一个制约我国数据资源开放和共享的一个重要因素是政策法规不完善,大数据挖掘缺乏相应的立法。无法既保证共享又防止滥用。因此,建立一个良性发展的数据共享生态系统,是我国大数据发展需要迈过去的一道砍。同时,开放与隐私如何平衡,也是大数据开放过程中面临的最大难题。如何在推动数据全面开放、应用和共享的同时有效地保护公民、企业隐私,逐步加强隐私立法,将是大数据时代的一个重大挑战。

61.大数据预测
62.大数据的其他应用领域
63.大数据可以应用在哪些行业
64.大数据在金融行业的应用
65.大数据在互联网行业的应用
66.大数据在物流行业的应用

大数据发展面临七个挑战相关推荐

  1. 工业大数据发展面临四方面挑战

    推动以数据为核心的工业转型升级,不仅已成为产业宏观层面的共识,也给微观层面的企业带来了实实在在的效益,但工业大数据的发展也面临着数据资源不足.数据管理滞后.孤岛普遍存在.应用深度不足等四大挑战,因此, ...

  2. 大数据发展面临的挑战是什么?

    现在大数据是世界都关注的事情,这是因为大数据能够帮助人们做很多的事情,大数据的发展也是很多国家重视的地方,当然,我国也不例外.我国对大数据还是比较重视的,现在我国的大数据产业发展已经有了一定的基础,但 ...

  3. 大数据医疗面临着哪些挑战?

    医疗行业的一个特点就是会产生很多数据,所以利用大数据方面的技术来实现行业的变革是一个早就被提出来的课题.这些年来大数据医疗正在蓬勃发展,但是也面临了很多挑战. 大数据医疗主要面临着以下四个挑战: 第一 ...

  4. 备受关注的未来大数据世界:全球大数据发展的七个方向

    当今科技领域发生了巨大的变化,也为大数据改善各行各业的业务.促进经济增长打开了大门.数据能帮助组织机构更好地开展工作,大数据分析已经超越了热门的IT趋势标签,成为公司业务的一部分. 大数据的行业需求预 ...

  5. 健康医疗大数据发展的机遇与挑战

    国家卫计委牵头起草的<关于促进和规范健康医疗大数据应用发展的指导意见>提出,到2017年底,基本形成跨部门健康医疗数据资源共享共用格局.医疗行业是数据密集型行业.IDC预测,截至2020年 ...

  6. 工业大数据的发展面临哪四大挑战

    以数据为关键因素推动产业转型升级,不仅成为行业在宏观层面的共识,而且在微观层面上也给企业带来了实实在在的利益.然而,工业大数据的发展也面临着数据资源不足.数据管理滞后.孤岛普遍存在.应用深度不足等四大 ...

  7. 【2016年第1期】农业大数据资产管理面临的挑战与思考

    李俊清,宋长青,周虎 山东农业大学农业大数据研究中心,山东 泰安 271018 摘要:农业大数据资产管理是发展农业农村大数据的前提,结合农业领域和大数据领域的热门议题,对农业大数据资产管理进行了相关研 ...

  8. 大数据蓝皮书:解读中国大数据发展十大趋势

    2018年5月28日,在以"数化万物 智在融合"为年度主题的2018中国国际大数据产业博览会举办期间,由大数据战略重点实验室研究编著的大数据最新理论成果<大数据蓝皮书:中国大 ...

  9. 《贵州省大数据发展报告(2016)》白皮书发布

    5月26日,2017中国国际大数据产业博览会上发布了<贵州省大数据发展报告(2016)>白皮书.白皮书从发展历程.丰硕成果.问题与挑战以及未来发展重点几个方面全景式反映了近年来贵州省大数据 ...

最新文章

  1. 教你用Vue渐进式搭建聊天室,从JavaScript=TypeScript
  2. Spring MVC 五大组件
  3. 机构:去年购房者平均年龄近30岁
  4. 判断文件是否被占用的两种方法
  5. (巴什博弈 sg函数入门1) Brave Game -- hdu -- 1846
  6. python巡检脚本juniper_JUNIPER设备日常维护巡检命令
  7. java开发简介_Java Web开发介绍
  8. contourf参数 python_Python机器学习(六)
  9. python做的游戏可以导出吗_Python for RenderDoc批量导出模型和贴图
  10. html 获取鼠标在canvas上的坐标,html5-canvas 检测鼠标在画布上的位置
  11. CDH6 kafka如何彻底删除topic及数据
  12. 【Elasticsearch】elasticsearch 常用 API 介绍
  13. 有关Silverlight浮动窗体组件的研究——Silverlight学习笔记(3)
  14. 聊天机器人不仅能省下客服成本 体验可能会更好
  15. unity3d自己写角色移动脚本
  16. consul服务发现与注册于配置 (mac版为例)
  17. redhat linux iso下载
  18. SSM和SSH框架总结
  19. [渝粤教育] 广东-国家-开放大学 21秋期末考试土木工程施工10516k1
  20. linux戒游戏下载,苍月之戒手游下载-苍月之戒公测版v1.0-Linux公社

热门文章

  1. 计算机开机过程与自定义开机启动程序
  2. 深度神经网络的训练过程
  3. 徐工改制方向错 外资控制徐工更是错-左大培 中国社会科学院经济研究所研究员...
  4. 基于SSM电影购票系统【源码开源】
  5. bagging与boosting的区别
  6. 离心泵水力设计——叶轮设计——4 流线分点
  7. BUU-偶尔的刷题-[BJDCTF2020]认真你就输了
  8. 【数据可视化】利用WordCloud制作词云
  9. 360卫士破坏桌面 金山卫士修复系统
  10. c++ 基础复习3 - 友元和继承