背景分析

今早同事突然说,hive在服务器登录不上去了,报权限问题。集群一直好好的怎么报权限问题呢个?笔者问了问情况,了解到原来该同事是看tmp目录下存储的较多的数据觉得浪费空间所以清理了/tmp。为了帮助新同事萌了解问题提供解决思路,首先这个问题比较简单,添加权限就可以,明白tmp下目录信息,特此记录

tmp中究竟存储了什么?

我们登录hdfs web ui发现/tmp目录下存储了如下信息:

我们发现首先,里面会有一个hadoop-yarn的目录,很显然这些信息是集群yarn工作的临时存储目录,也就是作mapreduce操作期间的临时存储,里边存储了job的staging。 Mapreduce工件,中间数据等将保存在该目录下。 mapreduce作业执行完成后,这些文件将自动清除。如果删除此临时文件,则可能会影响当前正在运行的mapreduce作业。

其次,我们发现tmp目录下有一个名为hive的目录,那么这个目录是什么呢?我们进入目录进行查看发现存储的是db信息。

这样我们想到了hive临时存储设置,我们进入hive查看hive的临时存储设置执行命令如下:

set hive.exec.scratchdir;


发现该目录确为hive临时存储目录,用于存储Hive的临时输出和计划,在hive client启动时会进行读取,这也是为什么启动client报错的原因。
最后,我们发现我们还有一个logs的目录,查看目录我们不难了解到,这个其实是我们mapreduce的任务日志的存储目录。


作业运行结束后(无论正常结束与否),将持久化日志到 yarn.nodemanager.remote-app-log-dir,而其默认存储为/tmp/logs。

问题解决

说到这里我们大概了解到了清理/tmp下的数据,也要注意,不能暴力清洗。因为是权限问题,所以我们为盖目录添加权限:

hadoop fs -chmod -R 777 /tmp

hive client 登录报权限不足问题/tmp/hive on HDFS should be writable. Current permissions are: rwx------相关推荐

  1. 处理进入hive报用户和权限的问题Permission denied: user=root,inode=“/tmp/hive”:hadoop:supergroup:drwxr-xr-x

    问题一: [root@Hadoop ~]# hive SLF4J: Class path contains multiple SLF4J bindings. SLF4J: Found binding ...

  2. azkaban 与 java任务_azkaban任务报错java.lang.RuntimeException: The root scratch dir: /tmp/hive...

    azkaban运行任务的时候失败报错如下: 23-03-2016 08:16:14 CST analyzer-kafka2hdfs_new ERROR - Exception in thread &q ...

  3. hive报错(org.apache.hadoop.hdfs.server.namenode.SafeModeException): Cannot create directory/tmp/hive/.

    报错场景: 使用shell脚本进行对hive的数据查询导入导致出错,先是hive执行时间较长,后面hive报错. 问题描述: 使用jps查询进程,发现有三个hive进程,三个RunJar,RunJar ...

  4. win10登录本地Oracle11g数据库管理员报权限不足

    问题:win10登录本地Oracle数据库管理员报权限不足,如下: 问题原因及概述:在网上查了一下,根据自身情况排除了其他原因(检查SQLNET.ORA文件和环境变量),定位问题点在于 当前登录用户不 ...

  5. CAS client 登录认证 报不允许使用CAS来认证您访问的目标应用。

    CAS client 登录认证 报不允许使用CAS来认证您访问的目标应用. .. 解决方案: 修改src/main/resources/services目录下的HTTPSandIMAPS-100000 ...

  6. CentOS7安装harbor仓库+修改默认用户+仓库登录报错

    Docker安装和简单的使用_hrj的博客-CSDN博客 下面 搭建harbor仓库 1.安装docker-compose Linux 上我们可以从 Github 上下载它的二进制包来使用,最新发行的 ...

  7. oracle加as报错,【Oracle】-【sqlplus / as sysdba登录报错问题】-新用

    [Oracle]-[sqlplus / as sysdba登录报错问题]-新用户使用sqlplus / as sysdba登录报错解决 [Oracle]-[sqlplus / as sysdba登录报 ...

  8. 初识ABP vNext(4):vue用户登录菜单权限

    点击上方蓝字"小黑在哪里"关注我吧 登录 菜单权限 运行测试 前言 上一篇已经创建好了前后端项目,本篇开始编码部分. 开始 几乎所有的系统都绕不开登录功能,那么就从登录开始,完成用 ...

  9. rails + devise 用户注册登录及权限判断

    Mac环境 macOS High Sierra 版本 10.13.1 ruby 2.4.1p111 Rails 5.1.4 编辑软件:Atom(你可以选择其它软件,例如:Sublime Text.Ru ...

  10. 手工搭建基于ABP的框架(3) - 登录,权限控制与日志

    为了防止不提供原网址的转载,特在这里加上原文链接: http://www.cnblogs.com/skabyy/p/7695258.html 本篇将实现登录.权限控制.日志配置与审计日志的功能.首先我 ...

最新文章

  1. 开放平台战略下的趣店用户“跨界”
  2. python绝技 — 使用PyGeoIP关联IP地址和物理位置
  3. 使用机器学习预测天气_如何使用机器学习预测着陆
  4. 【转】Android SDK Manager 更新方法
  5. Unity 3D 中NGUI插件设置中文label
  6. gdal读写图像分块处理
  7. Audio strage 声音相关
  8. liunx中查看安装软件和卸载软件和启动程序
  9. Android 版本检测更新
  10. npy文件的保存与读取
  11. MacOS使用技巧总结
  12. 定积分,二重积分,三重积分
  13. QScrollArea手指触摸屏滑动
  14. numpy_concatenate函数
  15. 【Java】工作流框架JBPM
  16. D1. Coffee and Coursework (Easy version) and D2. Coffee and Coursework (Hard Version)
  17. poi中word中表格跨列合并以及不兼容wps问题,java下 linux下word转pdf 问题解决
  18. 30+ 强大的Buddypress主题–开始您的社区站点吧
  19. 文职辅警的技能测试计算机操作是考什么,辅警文职体测都考哪些内容?
  20. 【樽海鞘算法】基于樽海鞘算法求解单目标问题附matlab代码(Salp Swarm Algorithm,SSA)

热门文章

  1. [Error Msg] The root link_base has an inertia specified in the URDF, but KDL does not support ...
  2. B - Distributing Ballot Boxes
  3. 【VUE项目实战】51、商品添加功能(一)
  4. 百度地图移动端https 问题解决记录,也许是这个问题
  5. mysql支付账单怎么设计_订单与支付设计
  6. COUNT统计未支付、待确认订单
  7. Unity3D 使用图片自定义字体,防止打包安卓后字体变形
  8. Mathematica/偏导数/最小二乘法(线性回归)
  9. 问题与解决_IDEA-> Project Structure -> Artifacts-> ‘项目名‘ module: ‘Web‘ facet resources 显示红色
  10. cpu,内存占用率过高解决方法