当前网络与信息安全领域,正在面临着多种挑战。一方面,企业和组织安全体系架构的日趋复杂,各种类型的安全数据越来越多,传统的分析能力明显力不从心;另一方面,新型威胁的兴起,内控与合规的深入,传统的分析方法存在诸多缺陷,越来越需要分析更多的安全信息、并且要更加快速的做出判定和响应。信息安全也面临大数据带来的挑战。

  一、安全数据的大数据化

  安全数据的大数据化主要体现在以下三个方面:

  1)数据量越来越大:网络已经从千兆迈向了万兆,网络安全设备要分析的数据包数据量急剧上升。同时,随着NGFW的出现,安全网关要进行应用层协议的分析,分析的数据量更是大增。与此同时,随着安全防御的纵深化,安全监测的内容不断细化,除了传统的攻击监测,还出现了合规监测、应用监测、用户行为监测、性能检测、事务监测,等等,这些都意味着要监测和分析比以往更多的数据。此外,随着APT等新型威胁的兴起,全包捕获技术逐步应用,海量数据处理问题也日益凸显。

  2)速度越来越快:对于网络设备而言,包处理和转发的速度需要更快;对于安管平台、事件分析平台而言,数据源的事件发送速率(EPS,Event per Second,事件数每秒)越来越快。

  3)种类越来越多:除了数据包、日志、资产数据,安全要素信息还加入了漏洞信息、配置信息、身份与访问信息、用户行为信息、应用信息、业务信息、外部情报信息等。

  安全数据的大数据化,自然引发人们思考如何将大数据技术应用于安全领域。

  二、传统的安全分析面临挑战

  安全数据的数量、速度、种类的迅速膨胀,不仅带来了海量异构数据的融合、存储和管理的问题,甚至动摇了传统的安全分析方法。

  当前绝大多数安全分析工具和方法都是针对小数据量设计的,在面对大数据量时难以为继。新的攻击手段层出不穷,需要检测的数据越来越多,现有的分析技术不堪重负。面对天量的安全要素信息,我们如何才能更加迅捷地感知网络安全态势?

  传统的分析方法大都采用基于规则和特征的分析引擎,必须要有规则库和特征库才能工作,而规则和特征只能对已知的攻击和威胁进行描述,无法识别未知的攻击,或者是尚未被描述成规则的攻击和威胁。面对未知攻击和复杂攻击如APT等,需要更有效的分析方法和技术!

  三、信息与网络安全需要大数据安全分析

  安全数据的大数据化,以及传统安全分析所面临的挑战和发展趋势,都指向了同一个技术——大数据分析。正如Gartner在2011年明确指出,“信息安全正在变成一个大数据分析问题”。

  于是,业界出现了将大数据分析技术应用于信息安全的技术——大数据安全分析(Big Data Security Analysis,简称BDSA),也有人称做针对安全的大数据分析(Big Data Analysis for Security)。

  借助大数据安全分析技术,能够更好地解决天量安全要素信息的采集、存储的问题,借助基于大数据分析技术的机器学习和数据挖据算法,能够更加智能地洞悉信息与网络安全的态势,更加主动。

大数据为什么需要安全分析相关推荐

  1. Druid:一个用于大数据实时处理的开源分布式系统——大数据实时查询和分析的高容错、高性能开源分布式系统...

    转自:http://www.36dsj.com/archives/28590 Druid 是一个用于大数据实时查询和分析的高容错.高性能开源分布式系统,旨在快速处理大规模的数据,并能够实现快速查询和分 ...

  2. PB级分布式大数据的处理和分析应用

    文章讲的是PB级分布式大数据的处理和分析应用,对于大数据,串行的处理方式难以满足人们的要求,现在主要采用并行计算方式.现有的并行计算可以分为两种: ·细粒度的并行计算.这里细粒度主要是指指令或进程级别 ...

  3. 【2017年第3期】大数据服务三农的初步分析与探索

    孙忠富, 褚金翔, 马浚诚, 杜克明, 郑飞翔 中国农业科学院农业环境与可持续发展研究所,北京 100081 摘要:三农问题是当前中国密切关注的社会问题,大数据技术的发展为三农带来了新的机遇.首先,对 ...

  4. 【2017年第2期】感悟大数据——从数据管理和分析说起

    周傲英 华东师范大学数据科学与工程学院,上海  200062 摘要:大数据依然很热,对其解读也越发众说纷纭.结合笔者长期以来的研发经历和深层思考,讨论了对"大数据"本身." ...

  5. 《大数据》2015年第3期“网络大数据专题”——大数据时代的互联网分析引擎...

    大数据时代的互联网分析引擎 窦志成,文继荣 (中国人民大学信息学院大数据管理与分析方法研究北京市重点实验室 北京 100872) 摘要:随着互联网尤其是移动互联网的高速发展,互联网文档的数量.内容的丰 ...

  6. 聚合中返回source_大数据搜索与可视化分析(9)elasticsearch聚合分析Metric Aggregation...

    在上一篇文章中,我们介绍了<大数据搜索与可视化分析(8)kibana入门教程-2-Discover>,本文学习elasticsearch聚合分析,是对<大数据搜索与可视化分析(3)e ...

  7. 大数据平台网站日志分析系统

    1:大数据平台网站日志分析系统,项目技术架构图: 2:大数据平台网站日志分析系统,流程图解析,整体流程如下: ETL即hive查询的sql; 但是,由于本案例的前提是处理海量数据,因而,流程中各环节所 ...

  8. 大数据技术在网络安全分析的作用

    互联网信息技术的飞速发展,流动数据越来越多,这些数据有效提高了互联网的价值,但是随着海量的数据和信息的不断增加,网络安全分析的压力也越来越大,随着计算机软硬件技术的不断增长和数据传输速率的加快,网络安 ...

  9. 医院大数据中心建设要点分析

    当前,医院内部信息化体系纷乱复杂,已建设的业务系统少则数十个,多则近百个.既包括HIS.LIS.PACS.EMR.心电等医疗业务系统,还涉及到人.财.物等运营管理系统,每个系统厂商不同,设计不同.尽管 ...

  10. 大数据平台日志存储分析系统解决方案

    大数据平台日志存储分析系统是在大数据平台下,针对业务系统产生的日志记录进行存储和分析.日志数据来自ElasticSearch存储的日志历史数据,并将需要存储和分析的日志数据从ElasticSearch ...

最新文章

  1. oracle删sequ_oracle删除指定用户下的表与Sequence | 学步园
  2. Git config 查看和设置配置信息
  3. 【Android 逆向】修改运行中的 Android 进程的内存数据 ( Android 系统中调试器进程内存流程 | 编译内存调试动态库以及调试程序 )
  4. 真人出镜,微信视频号第一期视频来了!
  5. 前后台分离--概念相关
  6. Angular变化检测机制
  7. 约瑟夫(环)问题(Josephu)(单向环形链表)
  8. bash: jps: command not found
  9. Redis(二):Redis的安装及配置(2)---设置启动信息
  10. 你确定你真的理解“双亲委派“了吗?!
  11. 机器学习之神经网络学习及其模型
  12. Golang实践录:命令行cobra库实例优化
  13. Julia : 用@async提升循环性能
  14. Gradle 命令之 --stacktrace , --info , --debug 用法
  15. 解决“win7系统,警告 -已计划将多个默认网关用于提供单一网络(例如 intranet或者Internet)的冗余”问题
  16. TiDB-explain详解
  17. RS-485 工作逻辑
  18. SpringBoot2基础篇
  19. 2019阿里云峰会·北京 | 十年再出发
  20. BP神经网络的Java实现

热门文章

  1. 音标与字母发音不同的字母总结
  2. spring3,上传文件ApplicationHttpRequest cannot be ca...
  3. 就算神游 之五:东京迪斯尼乐园 1
  4. 【分治】LeetCode 50. Pow(x, n)
  5. 剑指offer——面试题42-2:翻转单词顺序
  6. 剑指offer——面试题29:数组中出现次数超过一半的数字
  7. 《剑指offer》第二章小结(1)——链表的基本操作
  8. 【EOS】EOS环境基础
  9. sqoop导出到mysql中文乱码问题总结、utf8、gbk
  10. lonlifeOJ1152 “玲珑杯”ACM比赛 Round #19 概率DP