25.25.27 Sqoop导入导出的时候总是出现等待5分钟的问题解决办法:

HDP3.1 中的 YARN 的 timeline server 默认使用内置的 HBase,不知道为什么,总是过几天就挂掉,暂时还没找到原因。后来想着让它使用外部的 HBase 看看会不会还有此问题。配置如下:
前提: Ambari 中已经装好 YARN 和 HBase 了。
(1) 把 YARN 的配置页中 Advanced yarn-hbase-env 部分里的下面三个值改成 HBase 配置页里相应的值。然后重启 YARN 的服务。

hbase.zookeeper.quorum    拷贝hbase中的设置
hbase.zookeeper.property.clientPort      2181
zookeeper.znode.parent

(2) 登陆到某台机器,执行下面的命令,创建需要的表。

export HBASE_CLASSPATH_PREFIX={hdp-dir}/hadoop-yarn/timelineservice/*{hdp-dir}/hbase/bin/hbase org.apache.hadoop.yarn.server.timelineservice.storage.TimelineSchemaCreator -Dhbase.client.retries.number=35 -create -s

上面{hdp-dir} 是HDP 安装的目录,我的是 /usr/hdp/3.1.4.0-315

笔者的执行语句如下:

export HBASE_CLASSPATH_PREFIX=/usr/hdp/3.1.4.0-315/hadoop-yarn/timelineservice/*
/usr/hdp/3.1.4.0-315/hbase/bin/hbase org.apache.hadoop.yarn.server.timelineservice.storage.TimelineSchemaCreator -Dhbase.client.retries.number=35 -create -s

(3) 登陆 HBase shell,给 yarn 用户赋权限。

grant 'yarn', 'RWXCA'    (笔者没有设置)

转载于:https://www.cnblogs.com/langfanyun/p/10821415.html

Sqoop导入导出的时候总是出现等待5分钟的问题解决办法相关推荐

  1. 如何完美解决Sqoop导入导出MySQL数据错位问题

    我发现小伙伴们在使用Sqoop把数据从MySQL导入到Hive的过程中经常会遇到数据错位的问题,虽然最后都是通过添加参数的方法来解决这个问题,但是我认为这并不是一个完美的解决方案,所以花了一点时间研究 ...

  2. 【Sqoop】sqoop导入导出

    本文简单介绍Sqoop如下操作: Import: ​ rdbms导入HDFS; ​ rdbms导入Hive: ​ rdbms导入Hbase: Export: ​ Hive导出到rdbms: ​ Hba ...

  3. Sqoop导入导出基本操作

    Sqoop基本操作 Sqoop是一款开源的工具,主要用于在Hadoop(Hive)与传统的数据库(mysql.postgresql-)间进行数据的传递,可以将一个关系型数据库(例如 : MySQL , ...

  4. sqoop导入数据遇到的参数问题 ,导出–staging-table

    sqoop import参数 –query "select XXXXX and $CONDITIONS " 按条件导入 -m1 指定map 在导入的时候采用指定–columns的方 ...

  5. Sqoop安装部署和数据的导入导出案例详解

    目录 一.概述 二.Sqoop的工作机制 三.Sqoop1与Sqoop2架构对比 四.Sqoop安装部署 五.Sqoop的数据导入 1. 列举出所有的数据库 2. 准备表数据 3. 导入数据库表数据到 ...

  6. sqoop导入数据(保持一致性)--staging-table

    sqoop导入数据(保持一致性)–staging-table sqoop import参数 –query "select XXXXX and $CONDITIONS " 按条件导入 ...

  7. 利用sqoop将hive数据导入导出数据到mysql

    http://niuzhenxin.iteye.com/blog/1726414 运行环境  centos 5.6   hadoop  hive sqoop是让hadoop技术支持的clouder公司 ...

  8. mysql数据与Hadoop之间导入导出之Sqoop实例

    前面介绍了sqoop1.4.6的 如何将mysql数据导入Hadoop之Sqoop安装,下面就介绍两者间的数据互通的简单使用命令. 显示mysql数据库的信息,一般sqoop安装测试用 sqoop l ...

  9. sqoop导入与导出总结

    mysql导入hadoop体系 sqoop可以可以把mysql的数据导入hdfs,hive以及hbase.就是把mysql导入hadoop体系中. sqoop需求 确定导入还是导出 import 或者 ...

最新文章

  1. OpenCV代码提取:rotate函数的实现
  2. Mysql无法选取非聚合列
  3. jquery validate 详解二
  4. java json转换
  5. 三层交换解决了VLAN之间的通信问题
  6. HarmonyOS之深入解析线程间的通信
  7. C、C++ 不得宠,微软正开发新的编程语言!
  8. 【SQL】CONNECT BY 层次化查询
  9. 小额现金贷用户群体分析及风控体系搭建
  10. p104规约测试软件,基于IEC60870-5-104规约的智能配电网终端设备测试方案及软件设计...
  11. 毕业设计开发日志,基于ARM的嵌入式人脸识别系统的设计与实现
  12. java quicktime_Java Media Development with QuickTime for Java
  13. java中if条件函数怎么用_if函数,多个条件怎么使用
  14. 从零点亮一个led灯
  15. 数据库的基本命令 创建数据库 创建表 插入数据
  16. 预制菜顶流信良记,小龙虾的生意经难念
  17. Freetype的使用
  18. 大数据学习01:大数据概述
  19. 杨亦涛老师分享零基础学ps笔记
  20. R语言ggplot2-堆叠图

热门文章

  1. IO多路复用select/poll/epoll详解以及在Python中的应用
  2. C++学习笔记5[函数]
  3. wxWidgets:多文档界面实例
  4. wxWidgets:wxRichMessageDialog类用法
  5. boost::type_index::type_id相关的测试程序
  6. boost::stl_interfaces模块实现反向迭代器的测试程序
  7. boost::statechart模块实现状态迭代测试
  8. boost::mpl::negate相关的测试程序
  9. boost::lambda::member_pointer_action用法的测试程序
  10. Boost::context模块fiber的stack测试程序