hive出现报错

Error: Error while processing statement: FAILED: Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.mr.MapRedTask (state=08S01,code=2)

整理了网上找到的一些解决方法,希望对大家有所帮助:

方法一:

在运行sql命令前运行以下命令

set hive.support.concurrency=false;

方法二:

yarn资源不足,修改hadoop配置文件yarn-site.xml,参数不固定

<property><name>yarn.scheduler.minimum-allocation-mb</name><value>2048</value><description>default value is 1024</description>
</property>

方法三:

修改配置文件yarn-site.xml ,参数不固定

<property><name>yarn.scheduler.maximum-allocation-mb</name><value>2048</value>
</property>
<property><name>yarn.scheduler.minimum-allocation-mb</name><value>2048</value>
</property>
<property><name>yarn.nodemanager.vmem-pmem-ratio</name><value>2.1</value>
</property>
<property><name>mapred.child.java.opts</name><value>-Xmx1024m</value>
</property>

方法四:

数据量太大,内存溢出,在运行sql命令前设置参数,参数不固定,根据自身需要修改

# map阶段内存不足
set mapreduce.map.memory.mb=10150;
set mapreduce.map.java.opts=-Xmx6144m;
# reduce阶段内存不足
set mapreduce.reduce.memory.mb=10150;
set mapreduce.reduce.java.opts=-Xmx8120m;

方法五:

各个节点时间不同步

# 查看集群时间
date
# 同步时间
ntpdate cn.pool.ntp.org
# 或者使用这一条指令
ntpdate -u ntp.api.bz

方法六:

hadoop版本与hive版本不兼容,建议查一下兼容表确认。

方法七:

修改配置文件yarn-site.xml

#Yarn可使用的物理内存总量,该值不能大于节点的内存
yarn.nodemanager.resource.memory-mb
#单个任务可申请的物理内存
yarn.scheduler.maximum-allocation-mb

方法八:

分区数量太多

# 是否允许动态分区
hive.exec.dynamic.partition=true;
# 允许最大的动态分区
hive.exec.max.dynamic.partitions=1000;
# 单个节点允许最大分区
hive.exec.max.dynamic.partitions.pernode=100;

方法九:

关闭自动装载

set hive.auto.convert.join= false;

方法十:

hive启动堆栈内存不足
修改配置文件hadoop-env.sh

export HADOOP_CLIENT_OPTS="-Xmx2048m $HADOOP_CLIENT_OPTS"

hive下的bin目录下的配置文件hive-config.sh

export HADOOP_HEAPSIZE=${HADOOP_HEAPSIZE:-2048}

方法十一:

hive执行内存不足

set hive.exec.dynamic.partition.mode=nonstrict;
set hive.exec.dynamic.partition=true;
set hive.exec.parallel=true;
set hive.support.concurrency=false;
set mapreduce.map.memory.mb=4128;

方法十二:

关闭集群,重启虚拟机。

我的修改经历:

运行hive程序后出现报错,先去查看了hive的日志

貌似是这个地方出了问题,然后又到ui界面查看job_1656464646163_0001进程

查看他的日志,发现了新问题

想到了利用命令行查看日志错误

yarn logs -applicationId application_1656464646163_0002

发现问题

hive报错Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.mr.MapRedTask相关推荐

  1. 错误解决:hive报错Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.mr.MapRedTask

    临时生效: # 开启本地模式,并执行查询语句 set hive.exec.mode.local.auto=true; 永久生效: <property><name>hive.ex ...

  2. hive遇到FAILED: Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.mr.MapRedTask错误...

    hive遇到FAILED: Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.mr.MapRedTask错误 起因 ...

  3. Hive错误之 Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.mr.MapRedTask错误分析

    Hive Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.mr.MapRedTask错误分析 1. 背景 使用hi ...

  4. 报错:FAILED: Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.mr.MapRedTask原因查找

    项目场景: 使用hive分析.处理数据时 问题描述 执行hive语句后,报错:FAILED: Execution Error, return code 2 from org.apache.hadoop ...

  5. Hive报错FAILED: Execution Error, return code 3 from org.apache.hadoop.hive.ql.exec.mr.MapredLocalTask

    Hive报错Error while processing statement: FAILED: Execution Error, return code 3 from org.apache.hadoo ...

  6. Hive报错:Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.mr.MapRedTask MapReduce

    最近在做hive练习题时使用hive查询报错 Hadoop job information for Stage-3: number of mappers: 0; number of reducers: ...

  7. Hive任务执行报错:FAILED: Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.mr.MapRedTask

    报错内容如下: FAILED: Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.mr.MapRedTask 22/ ...

  8. 执行HiveSql时报错“FAILED: Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.mr.MapRedTa”

    执行HiveSql时报错"FAILED: Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.mr.MapR ...

  9. Hive更改表名FAILED: Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.DDLTask. Una ble

    FAILED: Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.DDLTask. Una ble to alter ...

最新文章

  1. c#devexpress GridContorl添加进度条
  2. linux make menuconfig 快速查找
  3. 利用OracleCommandBuilder实现 datatable与数据库的增删改
  4. android 保存退出之前的页面_项目实战:Qt+Android模拟操作器(模拟操作app,打开,点击,输入,获取验证码等等)...
  5. 到底什么是AI0T?现在不少头部企业都在打造AIOT概念,今天我们就梳理一下AIOT产业都包含了哪些,启明云端在AIOT中,能提供哪些解决方案?
  6. Git如何修改文件夹看不清的蓝色显示
  7. 获取字符串内双引号中的所有内容
  8. 为什么我不推荐你盲目追求微服务?迟早要吃亏!
  9. 如何在 Mac 上轻松编辑、批注、签名和标记 PDF?
  10. 分块矩阵求逆推导 + 矩阵反演公式由来
  11. 一个简单的java程序
  12. Matlab 2016 超详细安装教程
  13. SAS入门 (二)--宏
  14. 最近整理电脑硬盘,分享几个小巧实用的软件下载,持续更新
  15. 免费:轻松实现在微信中直接下载APK
  16. XJTU 算法设计与问题求解作业题 第一周
  17. MBTI职业性格测试(Psytopic特别版)
  18. 编程难?零基础如何学好编程?
  19. 滑块拖动验证码智能识别验证码技术(持续更新)
  20. 爬虫+数据探索01-贝壳找房北京二手房信息数据

热门文章

  1. php获取公众号微信用户信息
  2. AlignedReID: Surpassing Human-Level Performance in Person Re-Identification
  3. 文秘计算机操作试题,文秘招聘试题及答案.doc
  4. 【正则化;岭回归、lasso回归】(转载)
  5. 渲染管线中的坐标空间和相关变换
  6. 【20171103早】GreaseMonkey(油猴)安装
  7. c语言统计行数、字符数、字数
  8. 机器学习:李航-统计学习方法-代码实现
  9. CentOS 7.5 编译安装redis集成至系统服务(包括集群环境)
  10. 职场宝典:让你平步青云的10个谈话技巧[转载]