处理实时数据,最重要的是保证数据的有效性和不间断性,能够保证数据准确无误。有些情况会处理较高的并发性,有着大量的IO,要做到监控实时数据上处理上的压力,能够进行优化。

例如:对于电信行业,对数据处理和实时数据有着非常高的并发性,数据一定要做到准确无误,并且有着非常大量的数据高并发处理。

第一种方案:采用MongoDB数据库,MongoDB能够有效的缓解数据并发上所带来的压力,能够支持动态的扩容,有效的保证数据的不间断性,MongoDB有着监控机制,可以对数据上的利用率和性能效率上进行优化。如果考虑到数据处理量非常的大,IO操作会造出瓶颈,可以结合Redis内存数据库,可以有效缓解数据库上的压力。

第二种方案:便于数据分析和处理,可以考虑采用HDF5文件系统,HDF5支持并发IO操作,如果对数据频繁的上的读写操作,采用分布式系统能够有效缓解数据处理上的压力。传统的部分金融行业会采用HDF5分布式来处理大量的实时金融数据。

第三种方案:流式处理系统,需要进行大量的计算和规则运算分析,可以考虑采用Storm,这是一个复杂的实时数据处理方案。~~~Twitter开源。

第四种方案:数据一定不能有任何上的差错,不能出现任何出入。必须保证有效性和一致性。可以考虑采用KDB+,银行和金融数据上会采用KDB+,不过需要学习复杂的Q语言。

其他还有很多复杂的实时数据处理方案。不过要结合数据的规则和对于数据处理分析的方案来解决瓶颈。

HDF5数据库和mysql数据库_哪些数据库比较适合实现数据实时入库的需求?相关推荐

  1. 关系型数据库和mysql教材_关系型数据库(MySQL)

    数据库系统DBS(DataBase System):数据库管理系统DBMS(DataBase Management System)+数据库DB(DataBase) [关系型数据库]概念: 表table ...

  2. 网校mysql设计规范_网校数据库设计

    {"moduleinfo":{"card_count":[{"count_phone":1,"count":1}],&q ...

  3. MySQL数据库课程实验报告_创建数据库并插入数据

    1.1 进入数据库 $ sudo service mysql start $ mysql -u root 2.1 创建数据库 create database mysql_shiyan; 创建后查看数据 ...

  4. mysql关系数据库_关系型数据库MySql简介

    什么是关系型数据库? 数据库就是用来存储数据的仓库,是一种特殊的文件. 根据存储的数据不同,划分为关系型数据库和非关系型数据库. 关系型数据库就是指 建立在关系模型基础上的数据库,通俗来讲这种数据库就 ...

  5. 根据excel列动态创建mysql表_根据数据库字段动态生成excel模版下载,上传模版获取数据存入数据库(poi 反射)...

    环境:mysql5.7.28 java8 Spring boot 2.2.4 mybatis-plus3.10 动态:根据需求,用户可以选择对应的字段生成excle模版 下载 poi 反射:poi是e ...

  6. mysql数据库键值对_关于数据库存储键值对的问题?

    目前的需求的是:客户可自定义Grid的表头顺序,对表头进行拖拽和排序,并且要根据当前用户的配置保存.现在系统的表头显示是根据后台的配置配置顺序显示,如:table:字段名/表头名排序... 目前的需求 ...

  7. mysql数据库建表关键字_关于数据库建表时的有趣实例--关键字重复

    今天 使用CMD连接mysql进行简单的数据库的建表操作.信心满满的写了如下的代码: 然后就爆了个大大的错误 .简直有点莫名其妙的感觉,我是按照昨天学习的步骤写的代码,为什么会出错? 初步开始怀疑: ...

  8. mysql自愈_云数据库时代的 Db2 自愈系统

    概述 笔者于 2005 年加入 IBM 中国开发实验室,从事 Db2 研发工作 8 年,在 2014 年又加入中信银行.8 年的 IBM 原厂工作经验和 4 年多的银行工作经历让我有幸见证了 Db2 ...

  9. mysql数据库英文句子翻译_【数据库知识】MySQL英文文档翻译

    引言 最近加入了一个MySQL的开源组织,旨在将MySQL的英文官网文档翻译成中文,下面的内容为我负责的部分,因水平有限,在翻译过程中难免有纰漏,还请读者多多指教. 原文 17.1 Replicati ...

最新文章

  1. AngularJS 实现的输入自动完成补充功能
  2. 解决 ASP.NET Core 自定义错误页面对 Middleware 异常无效的问题
  3. A Multi-task Deep Network for Person Re-identification
  4. php如何连接wsdl,PHP如何调用wsdl
  5. 使用无限生命期Session的方法
  6. Linux基金会:Linux已经战胜微软
  7. 伪元素:placeholder-shown:focus-within
  8. html清除图片缓存
  9. c++已知2点求中垂线_电力系统负荷预测-基本方法以及分析(2)
  10. Spring Cloud云架构-Restful 基础架构
  11. 最强大的iptv m3u8 直播源手机检测工具,批量发现问题直播源
  12. python源码剖析, 第0部分 -- 编译python
  13. Jmeter5.0脚本录制
  14. 科大讯飞的语音合成(播放)功能
  15. C语言调用动态共享库
  16. Docker下运行Presto访问Redis及BI展示
  17. 求1~n中0~9出现的次数
  18. NeurlPS 2020来啦!AI TIME PhD 顶会专场直播预告
  19. C#超市进销存系统管理源码(CS架构)
  20. 安装ae显示安装程序无法初始化_pr安装时出现“正在初始化安装程序”,然后就没反应了,怎么办?...

热门文章

  1. 由于Item category group customizing 缺失导致的BDOC error
  2. When will the reference ATTRIBUTE_REF of an BOL entity be cleared
  3. 关于SAP Commerce里CMS页面模型modifiedTime和modifiedtime的大小写问题
  4. SAP CRM和Cloud for Customer里客户主数据的层级维护
  5. SAP C4C 和 ERP 中的外部定价模块 - External Pricing原理介绍
  6. 介绍python修饰器的书_python修饰器
  7. oracle9i 查询scn,Oracle10g的current_scn是如何计算的?
  8. Servlet的快速入门以及执行原理
  9. 利用克鲁斯卡尔算法求最小生成树
  10. jekenis父子结构项目打包_maven 父子工程打包 并且上传linux服务器