在任何答案和评论之前.我尝试了在Stackoverflow中找到的几个选项,但均以失败告终.以下是这些链接-

我通过命令行在Horton Sandbox中进行了尝试并成功.

sqoop import --connect jdbc:mysql://192.168.56.101:3316/database_name --username=user --password=pwd --table table_name --hive-import -m 1 -- --schema default

其中192.168.56.101适用于Windows,而192.168.56.102适用于Horton Sandbox 2.6.

现在,我想在Java中做同样的事情,使Java代码在其他地方运行,但不在Horton沙箱中运行.

>如何定位HIVE_HOME和其他Sqoop参数,因为它们正在沙盒中运行.

>我必须通过的参数.它应该作为SqoopOptions或Sqoop.runTools字符串数组参数传递.都失败了.

>当导入库(com.cloudera.sqoop和org.apache.sqoop)时,我也感到困惑,并得到这个

ImportTool类型的方法run(com.cloudera.sqoop.SqoopOptions)不适用于这些参数

(org.apache.sqoop.SqoopOptions)包含这两行(在这两行之间添加了option参数)

SqoopOptions options = new SqoopOptions();

int ret = new ImportTool().run(options);

如果我选择Cloudera方法,则弃用,但如果我选择apace run方法,则不接受options参数

我从几周后就为此感到震惊.请帮忙.

解决方法:

是的,您可以通过ssh进行操作. Horton Sandbox预先安装了ssh支持.您可以在Windows上通过ssh客户端执行sqoop命令.或者,如果您想以编程方式(即我在Java中所做的)进行此操作,则必须执行此步骤.

>下载sshxcute Java库:https://code.google.com/p/sshxcute/

>添加到您的Java项目的构建路径,其中包含以下Java代码

import net.neoremind.sshxcute.core.SSHExec;

import net.neoremind.sshxcute.core.ConnBean;

import net.neoremind.sshxcute.task.CustomTask;

import net.neoremind.sshxcute.task.impl.ExecCommand;

public class TestSSH {

public static void main(String args[]) throws Exception{

// Initialize a ConnBean object, parameter list is ip, username, password

ConnBean cb = new ConnBean("192.168.56.102", "root","hadoop");

// Put the ConnBean instance as parameter for SSHExec static method getInstance(ConnBean) to retrieve a singleton SSHExec instance

SSHExec ssh = SSHExec.getInstance(cb);

// Connect to server

ssh.connect();

CustomTask sampleTask1 = new ExecCommand("echo $SSH_CLIENT"); // Print Your Client IP By which you connected to ssh server on Horton Sandbox

System.out.println(ssh.exec(sampleTask1));

CustomTask sampleTask2 = new ExecCommand("sqoop import --connect jdbc:mysql://192.168.56.101:3316/mysql_db_name --username=mysql_user --password=mysql_pwd --table mysql_table_name --hive-import -m 1 -- --schema default");

ssh.exec(sampleTask2);

ssh.disconnect();

}

}

标签:sqoop,hive,hortonworks-data-platform,java,mysql

来源: https://codeday.me/bug/20191121/2052933.html

hive mysql windows_Java-从MySQL到Hive导入,其中MySQL在Windows上运行,而Hive在Cent OS上运行(Horton Sandbox)...相关推荐

  1. mysql db2免费下载_DB2ToMysql(DB2导入到Mysql工具)下载

    DB2ToMysql是一个高效实用的数据转换工具,帮助帮助数据库用户进行转换DB2数据库数据到MySQL,节省将DB2数据导入MySQL的时间.界面简洁直观,操作简单方便. 基本简介 DB2ToMys ...

  2. php将excel导入mysql,PHP实现将EXCEL文件导入到MYSQL

    最近因项目需求,要实现将excel文件通过php页面导入mysql数据库中.在网上搜了很多这方面的资料,发现都是将excel文件另存为csv文件,然后从csv文件导入.这里介绍一个直接将excel文件 ...

  3. windows访问linux数据库命令行,命令行方式导入导出mysql数据库(适用windows、Linux系统vps弹性云)...

    使用命令方式导出导入: 远程登陆到服务器,打开运行,输入cmd回车,在弹出的黑框里面输入以下命令导出.linux同样适用,注意路径即可. 注意:若不是我司默认环境,mysqldump需要到mysql的 ...

  4. 本地mysql和阿里云mysql同步_阿里云RDS和本地mysql做主从同步

    一.从RDS备份要同步的数据库到本地服务器 建议将表结构和数据分开备份. [root@localhost ~]# mysqldump -hrm-wz9a985njgong7yh5.mysql.rds. ...

  5. Hadoop Hive概念学习系列之HDFS、Hive、MySQL、Sqoop之间的数据导入导出(强烈建议去看)(十八)...

    把MySQL里的数据导入到HDFS 1.使用MySQL工具手工导入 把MySQL的导出数据导入到HDFS的最简单方法就是,使用命令行工具和MySQL语句. 为了导出整个数据表或整个数据库的内容,MyS ...

  6. hive分区对应hadoop_hive分区表信息如何导入mysql 表?

    在日志分析大作业中, 有要求把hive数据导入mysql的, hive数据文件如下: [root@cdh-1 sqoop]# hadoop fs -ls -R /user/hive/warehouse ...

  7. hive+mysql+速度_半小时搞定Hadoop+Mysql+Hive+Python

    1. 说明 搭建过Hadoop集群的小伙伴一定知道,如果不用docker,半小时配好Hadoop+Mysql+Hive(后简称Hive)肯定是胡吹,有了Docker镜像,没有说明文档,配好了也不一定会 ...

  8. hive 安装mysql报错_hive的元数据存储在mysql后,报错的解决方法

    最近,因为工作的需要,一直在研究hadoop系统.许多分析工作都将通过hive来解决,所以特将所碰到的问题和解决方案,陆续整理出来,既做为回顾又供需要的朋友参考! 因为要实现多人开发Hive,所以需要 ...

  9. hdfs spark mysql环境_Mac上Hadoop, HDFS, Hive, Spark环境的安装和搭建

    安装前准备 jdk安装 java -version java version "1.8.0_181" Java(TM) SE Runtime Environment (build ...

最新文章

  1. 【C++】函数 指针类型参数 与 引用类型参数 对比 ( 修改外部变量需要传入的参数要求 | 参数作返回值 )
  2. win10下怎么安装使用bash shell
  3. arm-linux学习笔记3-linux内存管理与文件操作
  4. codeforces1457 C. Bouncing Ball
  5. java和网易我的世界有什么区别_网易我的世界手机版对比正版JAVA版我的世界有什么区别?...
  6. tshark 和 tcpdump 的区别
  7. 融合·生态·实践 中国卫生信息大会新华三再秀领航者实力
  8. Host是什么?Host的含义和作用【转载】
  9. 微信小程序 之wx.previewImage图片预览(单张图片预览)
  10. ajax向后台传递参数为对象实例
  11. 1162. 【NOI2002】贪吃的九头龙 (Standard IO)
  12. python 股票交易接口 github_GitHub - gusihao/vnpy: 基于python的开源交易平台开发框架...
  13. 9、RH850 SPI(CSIH) 通讯功能和配置
  14. 日系原画教程基础-张聪-专题视频课程
  15. 2021年中国乳胶床垫市场趋势报告、技术动态创新及2027年市场预测
  16. Call Legs是什么鬼
  17. 百度Ai studio上运行pytorch和tensorflow(转载)
  18. 如何写好数学建模竞赛的论文
  19. 面试必备系列JUC(6)--八锁详解
  20. 国内大数据公司排名你知道几个?

热门文章

  1. LR通过SiteScope监控mysql
  2. ATL WTL 实现分析(五)
  3. nlp中的经典模型(三)
  4. [密码学基础][每个信息安全博士生应该知道的52件事][Bristol52]44在ECC密码学方案中基本的防御方法
  5. [Leedcode][JAVA][第5题][最长回文子串][数组][动态规划]
  6. 分类器交叉验证java_使用交叉验证的KNN分类器
  7. ps aux grep java_linux命令ps-aux监控java进程
  8. Spring AOP原理浅析及入门实例
  9. RxJava之PublishSubject、BehaviorSubject、ReplaySubject和AsyncSubject
  10. Qt中translate、tr关系 与中文问题