Sqoop MySQL hive 数据库导入导出数据
1.导入(从mysql导入hive)
场景:从一个mysql数据库的表中导入数据到hive表中
sqoop import \ --connect "jdbc:mysql://ip:3306/mysql库名" \ (指定连接jdbc端口和数据库名称)--username "root" \ (数据库用户名)--password "root123" \ (密码 若不适用明文指定数据库密码 则可以用-P)--table "user" \ (指定数据库中的一张表)--target-dir "/input/import" \ (指定数据导入到HDFS上的目录)--delete-target-dir \ //如果目标目录已存在,则先删除--num-mappers 1 \ (指定使用导入数据的map个数,mapreduce(V1)中的方式可以用-m 1 代替(过时))--fields-terminated-by "," (目标文件的分隔符, 默认情况下,导入HDFS的每行数据分隔符是逗号)
2.导出(从hive导出到mysql)
场景:从一个hive库的数据表中导出到另一个mysql库中
sqoop export \
--connect "jdbc:mysql://ip:端口/数据库名" \
--username "root" \
--password "123456" \
--table "目标数据库表名" \
--update-mode allowinsert \
--update-key "industry_code" \
--hcatalog-database "hive目标数据库" \
--hcatalog-table "hive目标数据库中的表名" \
--null-string '\\N' \
--null-non-string '\\N' \
-m 1
相关参数如下:
export
:从hdfs导出数据到关系型数据库--update-mode
:指定更新策略,包括updateonly
,allowinsert
,updateonly是默认模式,仅仅更新已存在的数据记录,不会插入新纪录,allowinsert有则更新,无则插入--update-key
:更新标识,即根据某个字段进行更新,例如id,可以指定多个更新标识的字段,多个字段之间用逗号分隔。 – updatemode,指定updateonly(默认模式),仅仅更新已存在的数据记录,不会插入新纪录--hcatalog-database
:hive数据库,parquet格式的hive表使用hcatalog--hcatalog-table
:hive数据库表名--null-string
:针对string类型的字段,当Value是NULL,替换成指定的字符--null-non-string
:针对非string类型的字段,当Value是NULL,替换成指定字符-m
:并行化,使用n个map任务并行导出
3.Sqoop一些常用命令及参数
3.1 常用命令列举
这里给大家列出来了一部分Sqoop操作时的常用参数,以供参考,需要深入学习的可以参看对应类的源代码。
序号 | 命令 | 类 | 说明 |
1 | import | ImportTool | 将数据导入到集群 |
2 | export | ExportTool | 将集群数据导出 |
3 | codegen | CodeGenTool | 获取数据库中某张表数据生成Java并打包Jar |
4 | create-hive-table | CreateHiveTableTool | 创建Hive表 |
5 | eval | EvalSqlTool | 查看SQL执行结果 |
6 | import-all-tables | ImportAllTablesTool | 导入某个数据库下所有表到HDFS中 |
7 | job | JobTool | 用来生成一个sqoop的任务,生成后,该任务并不执行,除非使用命令执行该任务。 |
8 | list-databases | ListDatabasesTool | 列出所有数据库名 |
9 | list-tables | ListTablesTool | 列出某个数据库下所有表 |
10 | merge | MergeTool | 将HDFS中不同目录下面的数据合在一起,并存放在指定的目录中 |
11 | metastore | MetastoreTool | 记录sqoop job的元数据信息,如果不启动metastore实例,则默认的元数据存储目录为:~/.sqoop,如果要更改存储目录,可以在配置文件sqoop-site.xml中进行更改。 |
12 | help | HelpTool | 打印sqoop帮助信息 |
13 | version | VersionTool | 打印sqoop版本信息 |
3.2 公用参数详解
刚才列举了一些Sqoop的常用命令,对于不同的命令,有不同的参数,让我们来一一列举说明。
首先来我们来介绍一下公用的参数,所谓公用参数,就是大多数命令都支持的参数。
3.2.1 公用参数:数据库连接
序号 | 参数 | 说明 |
1 | --connect | 连接关系型数据库的URL |
2 | --connection-manager | 指定要使用的连接管理类 |
3 | --driver | JDBC的driver class |
4 | --help | 打印帮助信息 |
5 | --password | 连接数据库的密码 |
6 | --username | 连接数据库的用户名 |
7 | --verbose | 在控制台打印出详细信息 |
3.2.2 公用参数:import
序号 | 参数 | 说明 |
1 | --enclosed-by <char> | 给字段值前后加上指定的字符 |
2 | --escaped-by <char> | 对字段中的双引号加转义符 |
3 | --fields-terminated-by <char> | 设定每个字段是以什么符号作为结束,默认为逗号 |
4 | --lines-terminated-by <char> | 设定每行记录之间的分隔符,默认是\n |
5 | --mysql-delimiters | Mysql默认的分隔符设置,字段之间以逗号分隔,行之间以\n分隔,默认转义符是\,字段值以单引号包裹。 |
6 | --optionally-enclosed-by <char> | 给带有双引号或单引号的字段值前后加上指定字符。 |
3.2.3 公用参数:export
序号 | 参数 | 说明 |
1 | --input-enclosed-by <char> | 对字段值前后加上指定字符 |
2 | --input-escaped-by <char> | 对含有转移符的字段做转义处理 |
3 | --input-fields-terminated-by <char> | 字段之间的分隔符 |
4 | --input-lines-terminated-by <char> | 行之间的分隔符 |
5 | --input-optionally-enclosed-by <char> | 给带有双引号或单引号的字段前后加上指定字符 |
3.2.4 公用参数:hive
序号 | 参数 | 说明 |
1 | --hive-delims-replacement <arg> | 用自定义的字符串替换掉数据中的\r\n和\013 \010等字符 (补:\013 \010 就是\r\n ) |
2 | --hive-drop-import-delims | 在导入数据到hive时,去掉数据中的\r\n\013\010这样的字符 |
3 | --map-column-hive <map> | 生成hive表时,可以更改生成字段的数据类型 |
4 | --hive-partition-key | 创建分区,后面直接跟分区名,分区字段的默认类型为string |
5 | --hive-partition-value <v> | 导入数据时,指定某个分区的值 |
6 | --hive-home <dir> | hive的安装目录,可以通过该参数覆盖之前默认配置的目录 |
7 | --hive-import | 将数据从关系数据库中导入到hive表中 |
8 | --hive-overwrite | 覆盖掉在hive表中已经存在的数据 |
9 | --create-hive-table | 默认是false,即,如果目标表已经存在了,那么创建任务失败。 |
10 | --hive-table | 后面接要创建的hive表,默认使用MySQL的表名 |
11 | --table | 指定关系数据库的表名 |
Sqoop MySQL hive 数据库导入导出数据相关推荐
- 如何在 MySQL / MariaDB 中导入导出数据,导入导出数据库文件、Excel、CSV
文章目录 本教程将详细讲解 1. MySQL / MariaDB 数据库数据「导出」 2. MySQL / MariaDB 数据库数据「导入」 3. 使用「卡拉云」一键导入导出 MySQL / Mar ...
- mysql数据库导入外部数据乱码么_解决MySQL数据库导入导出数据乱码的问题
最近在linux上面用mysqldump导出数据,放在windows系统中导入就会出现中文乱码,然后就会导致出现: Unknown MySQL server host和Can't connect to ...
- 记一次SQL Server2005导入Oracle10G的折腾过程【供多种数据库导入导出数据的C#程序源码参考】...
曾经很早的时候用 SQL Server2000 时就见过我们老大,用 SQL Server2000 的导入导出功能,把数据都导入到了 Oracle9 里去,所以我也对导入导出数据有充分的信心,绝对能做 ...
- SQL Server数据库导入导出数据方式比较
在我们建立一个数据库时,并且想将分散在各处的不同类型的数据库分类汇总在这个新建的数据库中时,尤其是在进行数据检验.净化和转换时,将会面临很大的挑战.幸好SQL Server为我们提供了强大.丰富的数据 ...
- Mysql数据库导入导出数据,将文件内容按格式导入数据库
实验环境:Linux 安装软件: Mysql 1.导入数据库 1)准备一个权限为mysql的目录 mkdir /myload chonw mysql:mysql /myload 2)修改配置文件 vi ...
- Hive 之 导入导出数据
一 Hive 导入数据 1.1 从本地文件系统导入 LOADDATA LOCAL INPATH '本地文件系统文件' [OVERWRITE] INTOTABLE table_name; 特点:从 ...
- MySQL通过命令导入导出数据
学习总结基本的导入导出操作 1 表tt的格式: CREATE TABLE `tt` ( `ind` int NOT NULL auto_increment, `name` ch ...
- mysql数据库导出后乱码问题_MySQL导入导出数据出现乱码的解决办法
在mysql导入导出数据时经常出现中文乱码的问题,大多是因类导入导出时编码设置不一致所引起的.本文介绍了不同平台下的编码转换方法,供大家参考. 在linux系统中默认的是utf8编码,而windows ...
- hive向mysql导数据_Mysql Hive 导入导出数据
---王燕行转列sql select split(concat_ws(',',collect_set(cast(smzq as string))),',')[1] ,split(concat_ws(' ...
最新文章
- Pymol(1.8.6)作图技巧之cartoon和surface镶嵌模型
- .NET开源工作流驰ccflow从表数据数据源导入设置
- cnn stride and padding_Tensorflow学习笔记- 模型建立与训练篇(CNN)
- 创新技术重塑未来物联网
- 人类如何面对AI挑战
- TCP浅谈为什么3次握手
- android批处理脚本,BAT批处理一键生成APK包脚本分享
- android 日期时间类,Android 日期时间等转换工具类
- 95-30-017-Channel-NioServerSocketChannel
- 通配符?子字符串匹配主字符串次数_leetcode 44 通配符匹配(c++)
- Python demjson 下载并安装
- 跌落式封隔器行业调研报告 - 市场现状分析与发展前景预测(2021-2027年)
- cocos2d 字体颜色
- matlab sqrtm,zz矩阵开方sqrt()和sqrtm()的区别
- 图形推理1000题pdf_公务员考试:遇到图形推理题就烦恼?5招教你练成最强大脑...
- Sublime中文显示乱码
- cs学习使用4(代理)
- html、css --苏宁官网静态界面
- 【Android SDM660源码分析】- 02 - UEFI XBL QcomChargerApp充电流程代码分析
- 寂静之城——哀悼FeedBurner