长时间以来,人工智能和大数据一直作为孪生兄弟相互支撑。

但如今,生产与离线分析各自独立的传统信息化结构已经无法支撑AI的发展。

每个异构数据库产品之间的同步和数据冗余、业务的实时性需要流数据框架、ML越来越多作为核心业务部件被部署在流程中自动化完成……这些问题的出现通通限制了大数据企业应用的发展。

新一代数据驱动业务提出了数据湖等全新架构,而数据湖不仅仅是低成本的存储,更应是面向生产交易等数据科学处理的核心计算框架。

在此背景下,天云大数据推出了百万原生代码规模的HTAP数据库产品:Hubble!可以实现混合交易分析处理。

据了解,Hubble对SQL进行了全面支持,并具备NoSQL的能力。采用了大数据高扩展、高可用的架构,可以满足不同的业务企业级应用,还可以对实时、高性能的需求提供多种交互接口。

Hubble底层采用Hdfs做数据为存储介质,具备存储海量数据的能力以及集群的横向动态扩展能力,在安全性方面利用HDFS的三副本机制来保证整个集群的稳定运行。

分片服务会将预写日志直接持久化到磁盘,以保证事务,而不是放在内存中,避免使用内存导致事务出错的风险,并提高事务的可靠性。

通过Mem Storage作为数据缓冲层,HDFS Storage将数据序列化到HDFS中,并从API层级支持数据的批量加载,每个shard作为哈勃逻辑层面的最小单元。

Hubble可以使用JAVA SDK、JDBC客户端、SQL等多种访问方式为前端应用提供数据的访问。

在使用hubble时,无论业务规模大小,始终都与小型应用阶段相同,无需改变使用习惯。当业务规模扩大时,只需要添加新的节点,提升数据库的能力,就可以适应业务变化的需要,每个阶段无需付出额外的成本。

Hubble具有实时离线高速入库、超高并发、全部SQL标准三种特性,同时兼具三大目标 。

第一是支持实时、离线高速入库,满足各种入库需要,并支持实时入库,支持离线批量加载,并支持多节点的ACID。

第二支持超高并发,即支持大规模用户访问,支持上万用户在线实时高并发修改和查询。

第三是支持全部标准SQL的语法,提供各种分类、汇总等统计公式,及OLAP分析。

此外,Hubble与MPP数据库impala,还有内存计算Spark的对比,可以看到,50万条、5千万条和5亿条记录的3个测试维度,无论哪个查询,hubble都存在着巨大的优势,hubble基本都是毫秒级响应,而无论是impala还是spark都是分钟级的响应速度。

数据存储在HDFS上,支持数据的批量入库,凭借HDFS的多副本机制,确保数据的高可用性,保证数据不丢失,并具备天然的高扩展性。

对ACID的支持,数据的高一致性,确保新增、修改、删除时数据的一致性,并支持联机操作。利用快照技术,方便记录数据的当前状态,随时对数据对数据进行快照恢复。可以监控集群和Hubble的状态信息,方便数据库管理进行维护和监控。

Hubble使用灵活,无需太多额外的成本,对传统应用的迁移,只需要替换jdbc使用的驱动即可。

既支持OLTP又支持OLAP,一站式的解决联机查询问题,无需部署众多的数据库组件,可以涵盖大部分的业务需求。

在小型应用方面,企业为节省成本,可能选择OLTP数据库,在数据规模小时,可以运转的很好。

但到了中型应用阶段,就会面临资源不够用的问题,这个时候开始做读写分离,分式复用。

过渡到大型应用时期,读写数据开始跑不动,越来越复杂的SQL,这时开始做分库分表操作,并引入了分析型数据库。

最后,巨型应用阶段,开始对不同业务选择不同数据库入口,管理复杂度极高。

这个时候Hubble数据库的引入,就有效解决以上众多问题,降低使用者的门槛,减小开发的投入,方便原有系统的迁移,运行稳定,不需要额外的维护成本。

并且系统在大规模数据量下仍然支持高并发实时响应,减小查询等待时间,从而提升了用户体验,提高了效率。

在游戏和电商数据分析,Hubble可以支持海量的游戏、电商数据的存储,方便对用户进行画像,实现精准营销,并提供秒级的响应速度。

在基础设施监控方面,可以提供准实时入库,对基础实时数据进行流处理,并实时的提供对基础设施数据的监控。

同样在IOT及传感器数据方面,也可以通过实时入库,对物联网数据进行存储、查询及挖掘等。

Hubble:“百万原生代码+混合交易分析”的利器!相关推荐

  1. python优点是代码库支持、灵活_C++和Python混合编程的利器

    Python是一种简单易学.功能强大的编程语言,它有高效率的高层数据结构,能简单而有效地实现面向对象编程.Python简洁的语法.对动态输入的支持和解释性语言的本质,使得它在很多领域的大多数平台上都是 ...

  2. AE 动画直接变原生代码:Airbnb 发布开源动画库 Lottie

    原文 Airbnb 发布的 Lottie 是一个面向 iOS.Android 和 React Native 的开源动画库. 简单来说,就是可以直接利用 AE 导出的 JSON 动画文件,将其解析为原生 ...

  3. python利器怎么编程-C++和Python混合编程的利器

    Python是一种简单易学.功能强大的编程语言,它有高效率的高层数据结构,能简单而有效地实现面向对象编程.Python简洁的语法.对动态输入的支持和解释性语言的本质,使得它在很多领域的大多数平台上都是 ...

  4. 教你如何使用Flutter和原生App混合开发

    点击上方 "程序员小乐"关注, 星标或置顶一起成长 每天凌晨00点00分, 第一时间与你相约 每日英文 Things in this world are temporary. If ...

  5. 使用JNA,让java调用原生代码

    JNA定义: JNA:java Native Access,是SUN公司开发的基于JNI的框架.JNI使得Java可以调用原生的c或者c++代码. JNA与JNI(Java Native Interf ...

  6. flutter 调用原生安卓插件_Flutter 如何调用Android和iOS原生代码

    分3个大步骤: 1.在flutter中调用原生方法 2.在Android中实现被调用的方法 3.在iOS中实现被调用的方法 在flutter中调用原生方法 场景,这里你希望调用原生方法告诉你一个boo ...

  7. flutter 调用原生安卓插件_Flutter 如何调用Android和iOS原生代码-阿里云开发者社区...

    分3个大步骤: 1.在flutter中调用原生方法 2.在Android中实现被调用的方法 3.在iOS中实现被调用的方法 在flutter中调用原生方法 场景,这里你希望调用原生方法告诉你一个boo ...

  8. 互动赠新书|当云原生遇到混合云:如何实现“求变”与“求稳”的平衡

    互动赠新书|当云原生遇到混合云:如何实现"求变"与"求稳"的平衡 作者|郝树伟   Flexera 的<RightScale2021 云状态报告>中 ...

  9. php上传原生代码,腾讯云cos-php-sdk-v5的原生代码上传方式

    这里是用原生代码的上传的方法: 假设为:Qcloud 3.代码部份 public static function uploadToTencentyun_new($file_url_local,$fil ...

最新文章

  1. 03-25实验一、命令解释程序的编写
  2. 【20160924】GOCVHelper综述
  3. mysql noinstall_Windows 下noinstall方式安装 mysql 5.7.5 m15 winx64(推荐)
  4. 关于嵌入式系统内存地址空间的一些疑问(.text、.data、.bass、堆\栈空间)
  5. [Lua学习]简单链表
  6. java8 javafx_Java8中的外观(JavaFX8)
  7. 数据结构 - 二叉排序树BST(创建、遍历、删除节点)
  8. linux-x86_64 error,ORA-09817/Linux-x86_64 Error: 28: No space left on device/ORA-01075
  9. 学习Java之前的一些话
  10. centos 编译Qt5 mysql驱动_centos7安装编译mysql的驱动的问题
  11. 【转】CSS3学习笔记 之 动态伪类选择器
  12. 加拿大java技术移民_加拿大技术移民分析贴之新手入门级!
  13. 操作系统--磁盘调度题目
  14. Qt实现思维导图功能(一)
  15. ubuntu文件夹右键没有共享选项
  16. 你迷茫的原因在于读书太少而想的太多,迷茫不知所措时,那就多读书吧!年轻是本钱,但不努力就不值钱
  17. 腾讯人口密度热力图_从腾讯位置大数据,看中国的超级城市
  18. Lambda钱包API接入教程
  19. 美国佐治亚大学计算机专业,美国计算机专业大学排名TOP10
  20. 微信小程序 # 轮播图swiper滑动到最后一页进行页面跳转

热门文章

  1. 光学双缝单缝公式应用分析
  2. 加油站收银系统 Java_提升加油站收银效率的收银系统
  3. 【计算机毕业设计选题】10套易过的精品毕设项目分享(源码+论文)
  4. Check It Again:论文整理
  5. typora画流程图、时序图(顺序图)、甘特图
  6. 算法-第四版-练习1.3.8解答
  7. 《曼昆经济学原理》读书笔记
  8. 程序员为什么技术这么厉害,赚得钱却不多?
  9. 一文多图搞懂KITTI数据集下载及解析
  10. ORB_SLAM2 KITTI数据集测试