Apache Ranger功能验证

1、概况

1.1、Apache Ambari

Apache Ambari 是一个基于 Web 的 Apache Hadoop 集群的供应、管理和监控。Ambari 目前已支持大多数 Hadoop 组件,包括 HDFS、MapReduce、Hive、Pig、 Hbase、Zookeper、Sqoop 和 Hcatalog 等。

1.2、Ranger支持的插件

2、功能验证

2.1、hive用户配置过滤策略

2.2、使用hive用户查询过滤结果

2.3、hive用户配置脱敏策略

2.4、使用hive用户查询脱敏结果

2.5、zhangsan用户配置脱敏策略

2.6、使用zhangsan用户查询脱敏结果

3、Ranger集成Presto

3.1、Presto概述

Presto是大数据场景中常用的查询引擎,其采用master- slave架构,支持跨数据源类型查询,支持动态横向扩展,采用了内存并行处理、跨集群节点管线执行、多线程执行模型、高效的扁平内存数据结构、Java字节码生成等技术,来完成分布式数据查询和处理。现已广泛应用于OLAP场景。

3.2、Presto计算引擎架构

3.3、Ranger集成Presto

3.4、公司现状

1、Apache Ambari 2.7.4支持的Ranger版本为1.2,不支持Presto插件。只有升级Ranger 2.X版本才支持Presto,升级会有成本。

2、使用Ranger脱敏后的数据,提供接口服务,会导致Hive连接压力过大的问题。使用连接池的话,会有开发成本。

3.5、解决方案(建议)

1、选择Apache Doris

2、易用性

采用MySQL协议和语法,可以通过各类客户端工具来访问,能过与BI工具无缝对接;

支持多表join,针对不同场景join提供了多种优化方案;

生态扩展完善,离线数据的高效批量导入,流式数据的低延迟实时导入都有很好的支持;

简洁的分布式架构,只有FE、BE两个进程,运行不依赖任何第三方系统;

支持弹性伸缩,对于部署、运维非常友好;

3、性能

MPP架构、高效列式存储引擎;

支持数据的预聚合以及预聚合结果的自动更新;

支持数据的实时更新;

3、性能

MPP架构、高效列式存储引擎;

支持数据的预聚合以及预聚合结果的自动更新;

支持数据的实时更新;

支持高并发查询;

Ranger功能验证相关推荐

  1. Ascend Pytorch算子功能验证

    Ascend Pytorch算子功能验证 编写测试用例 以add算子为例,测试脚本文件命名为:add_testcase.py.以下示例仅为一个简单的用例实现,具体算子的实现,需要根据算子定义进行完整的 ...

  2. 18_clickhouse副本同步与高可用功能验证,分布式表与集群配置,数据副本与复制表,ZooKeeper整合,创建复制表,副本同步机制,数据原子写入与去重,负载平衡策略,案例(学习笔记)

    24.副本同步与高可用功能验证 24.1.分布式表与集群配置 24.2.数据副本与复制表 24.3.ZooKeeper整合 24.4.创建复制表 24.5.副本同步机制 24.6.数据原子写入与去重 ...

  3. 基于ARM IP的看门狗设计与功能验证

    看门狗是一个定时器, ARM提供了一个32位向下计数的看门狗IP,它会不断地计数.通过软件可以设置计数值,计数到某一设定值重新开始计数,这一过程也被称为喂狗,如果没有正常喂狗,说明出现系统故障,看门狗 ...

  4. 05 占空比可调的整数奇偶分频器设计与功能验证(附源码)

    虚拟机:VMware -14.0.0.24051 环 境:ubuntu 18.04.1 脚 本:makefile(点击直达) 应用工具:vcs 和 verdi 文章目录 一.Demand 二.Time ...

  5. Openstack-实践4.Manila 部署及功能验证

    1.manila 部署 基本环境: kolla-ansible  rocky+centos7.4 vim /etc/kolla/globals.yml enable_horizon_manila: & ...

  6. SystemVerilog与功能验证

    目录 一.功能验证流程 二.验证手段.验证技术.验证方法学 三.数据类型与编程结构 四.并发进程与进程同步 五.面向对象编程 六.虚接口 七.随机测试 八.继承与多态 九.功能覆盖率 十.断言 一.功 ...

  7. SDN环境搭建和基本功能验证

    sdn环境搭建及基本功能验证 1. 控制器和网络仿真器选择- 3 2. 基本硬件要求- 3 3. 环境和软件要求- 3 4. onos安装说明- 3 4.1. 安装步骤如下- 3 4.1.1. 更新源 ...

  8. 迅为STM32MP157开发板入门教程之外设功能验证

    一.硬件连接 1 电源的连接 请使用开发板自带的 12V 电源连接开发板的 POWER 插座,如图所示. 2 控制台(console)串口 使用数据线连接开发板的 J8 到 PC 机的串口,在这里 J ...

  9. 6U CPCI平台学习资料第116篇:基于5VLX110T FPGA FMC接口功能验证6U CPCI平台

    基于5VLX110T FPGA FMC接口功能验证6U CPCI平台 一.板卡概述 本板卡是Xilinx公司芯片V5系列芯片设计信号处理板卡.由一片Xilinx公司的XC5VLX110T-1FF113 ...

最新文章

  1. 如何保证Qt状态机的最佳性能
  2. 2012_01_26
  3. VSCode打造成为开发神器-插件篇
  4. 【PAT甲级 TreeMap的使用】1002 A+B for Polynomials (25 分) Java版 6/6通过
  5. matlab和python中的svd分解的区别
  6. python数据库框架_目前最受欢迎的12个Python开源框架
  7. php adodb类库下载,PHP_PHP程序中使用adodb连接不同数据库的代码实例,adodb.inc.php文件需要去下载一个 - phpStudy...
  8. Mysql数据库误删除数据恢复方案
  9. 如何做一个基于微信外卖点餐小程序系统毕业设计毕设作品
  10. 【时光纪念】我,留在2015的时光
  11. QT编程错误解决——error: no matching function for call to
  12. 51Nod 1048 1383 整数分解为2的幂
  13. 可以实现内网穿透的几款工具
  14. 获取项目服务器ip,java获取服务器ip地址
  15. 【Win10系统安装】联想小新V3000安装Win10操作系统,并使用Administrator账户登录
  16. 从 SPA 到 PWA:Web App的下一站在哪?
  17. 3个面试谈薪技巧,轻松拿下比期望薪资高2K的offer(建议收藏)
  18. Flash 引导层 实现卫星绕地球旋转
  19. 好书好人生--读书的步骤
  20. 你的职业习惯,是不是第一份工作养成的?

热门文章

  1. linux命令行怎么播放,在linux命令行里能听歌看电影吗
  2. 圆周率 php算法,PHP坐标圆周率计算
  3. 如何设计出别具一格的全息投影餐厅
  4. ajax实现注册用户名时动态显示用户名是否已经被注册(1、ajax可以实现我们常见的注册用户名动态判断)(2、jquery里面的ajax也是类似我们这样封装了的函数)...
  5. 从区块链到DAG(五)--DAG项目介绍IOTA和Obyte
  6. [心电图] 贺银成视频笔记
  7. ZBT的计算几何模板
  8. LED显示按键控制 CT1642、PT6964(1)
  9. ssis-状态为在执行中,组件的颜色一直为黄色
  10. 百科:产品生命周期理论