hive报错Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.mr.MapRedTask
hive出现报错
Error: Error while processing statement: FAILED: Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.mr.MapRedTask (state=08S01,code=2)
整理了网上找到的一些解决方法,希望对大家有所帮助:
方法一:
在运行sql命令前运行以下命令
set hive.support.concurrency=false;
方法二:
yarn资源不足,修改hadoop配置文件yarn-site.xml,参数不固定
<property><name>yarn.scheduler.minimum-allocation-mb</name><value>2048</value><description>default value is 1024</description>
</property>
方法三:
修改配置文件yarn-site.xml ,参数不固定
<property><name>yarn.scheduler.maximum-allocation-mb</name><value>2048</value>
</property>
<property><name>yarn.scheduler.minimum-allocation-mb</name><value>2048</value>
</property>
<property><name>yarn.nodemanager.vmem-pmem-ratio</name><value>2.1</value>
</property>
<property><name>mapred.child.java.opts</name><value>-Xmx1024m</value>
</property>
方法四:
数据量太大,内存溢出,在运行sql命令前设置参数,参数不固定,根据自身需要修改
# map阶段内存不足
set mapreduce.map.memory.mb=10150;
set mapreduce.map.java.opts=-Xmx6144m;
# reduce阶段内存不足
set mapreduce.reduce.memory.mb=10150;
set mapreduce.reduce.java.opts=-Xmx8120m;
方法五:
各个节点时间不同步
# 查看集群时间
date
# 同步时间
ntpdate cn.pool.ntp.org
# 或者使用这一条指令
ntpdate -u ntp.api.bz
方法六:
hadoop版本与hive版本不兼容,建议查一下兼容表确认。
方法七:
修改配置文件yarn-site.xml
#Yarn可使用的物理内存总量,该值不能大于节点的内存
yarn.nodemanager.resource.memory-mb
#单个任务可申请的物理内存
yarn.scheduler.maximum-allocation-mb
方法八:
分区数量太多
# 是否允许动态分区
hive.exec.dynamic.partition=true;
# 允许最大的动态分区
hive.exec.max.dynamic.partitions=1000;
# 单个节点允许最大分区
hive.exec.max.dynamic.partitions.pernode=100;
方法九:
关闭自动装载
set hive.auto.convert.join= false;
方法十:
hive启动堆栈内存不足
修改配置文件hadoop-env.sh
export HADOOP_CLIENT_OPTS="-Xmx2048m $HADOOP_CLIENT_OPTS"
hive下的bin目录下的配置文件hive-config.sh
export HADOOP_HEAPSIZE=${HADOOP_HEAPSIZE:-2048}
方法十一:
hive执行内存不足
set hive.exec.dynamic.partition.mode=nonstrict;
set hive.exec.dynamic.partition=true;
set hive.exec.parallel=true;
set hive.support.concurrency=false;
set mapreduce.map.memory.mb=4128;
方法十二:
关闭集群,重启虚拟机。
我的修改经历:
运行hive程序后出现报错,先去查看了hive的日志
貌似是这个地方出了问题,然后又到ui界面查看job_1656464646163_0001进程
查看他的日志,发现了新问题
想到了利用命令行查看日志错误
yarn logs -applicationId application_1656464646163_0002
发现问题
hive报错Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.mr.MapRedTask相关推荐
- 错误解决:hive报错Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.mr.MapRedTask
临时生效: # 开启本地模式,并执行查询语句 set hive.exec.mode.local.auto=true; 永久生效: <property><name>hive.ex ...
- hive遇到FAILED: Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.mr.MapRedTask错误...
hive遇到FAILED: Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.mr.MapRedTask错误 起因 ...
- Hive错误之 Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.mr.MapRedTask错误分析
Hive Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.mr.MapRedTask错误分析 1. 背景 使用hi ...
- 报错:FAILED: Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.mr.MapRedTask原因查找
项目场景: 使用hive分析.处理数据时 问题描述 执行hive语句后,报错:FAILED: Execution Error, return code 2 from org.apache.hadoop ...
- Hive报错FAILED: Execution Error, return code 3 from org.apache.hadoop.hive.ql.exec.mr.MapredLocalTask
Hive报错Error while processing statement: FAILED: Execution Error, return code 3 from org.apache.hadoo ...
- Hive报错:Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.mr.MapRedTask MapReduce
最近在做hive练习题时使用hive查询报错 Hadoop job information for Stage-3: number of mappers: 0; number of reducers: ...
- Hive任务执行报错:FAILED: Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.mr.MapRedTask
报错内容如下: FAILED: Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.mr.MapRedTask 22/ ...
- 执行HiveSql时报错“FAILED: Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.mr.MapRedTa”
执行HiveSql时报错"FAILED: Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.mr.MapR ...
- Hive更改表名FAILED: Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.DDLTask. Una ble
FAILED: Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.DDLTask. Una ble to alter ...
最新文章
- c#devexpress GridContorl添加进度条
- linux make menuconfig 快速查找
- 利用OracleCommandBuilder实现 datatable与数据库的增删改
- android 保存退出之前的页面_项目实战:Qt+Android模拟操作器(模拟操作app,打开,点击,输入,获取验证码等等)...
- 到底什么是AI0T?现在不少头部企业都在打造AIOT概念,今天我们就梳理一下AIOT产业都包含了哪些,启明云端在AIOT中,能提供哪些解决方案?
- Git如何修改文件夹看不清的蓝色显示
- 获取字符串内双引号中的所有内容
- 为什么我不推荐你盲目追求微服务?迟早要吃亏!
- 如何在 Mac 上轻松编辑、批注、签名和标记 PDF?
- 分块矩阵求逆推导 + 矩阵反演公式由来
- 一个简单的java程序
- Matlab 2016 超详细安装教程
- SAS入门 (二)--宏
- 最近整理电脑硬盘,分享几个小巧实用的软件下载,持续更新
- 免费:轻松实现在微信中直接下载APK
- XJTU 算法设计与问题求解作业题 第一周
- MBTI职业性格测试(Psytopic特别版)
- 编程难?零基础如何学好编程?
- 滑块拖动验证码智能识别验证码技术(持续更新)
- 爬虫+数据探索01-贝壳找房北京二手房信息数据
热门文章
- php获取公众号微信用户信息
- AlignedReID: Surpassing Human-Level Performance in Person Re-Identification
- 文秘计算机操作试题,文秘招聘试题及答案.doc
- 【正则化;岭回归、lasso回归】(转载)
- 渲染管线中的坐标空间和相关变换
- 【20171103早】GreaseMonkey(油猴)安装
- c语言统计行数、字符数、字数
- 机器学习:李航-统计学习方法-代码实现
- CentOS 7.5 编译安装redis集成至系统服务(包括集群环境)
- 职场宝典:让你平步青云的10个谈话技巧[转载]