今天我用Spark进行RDD操作,遇到很多坑,都是之前犯过的错误,总是忘记,这里总结下。

错误日志如下:

我在windows中配置了hadoop,然后还需要一些工具hadoop.dll和winutils.exe文件,这里工具可以进行下载,相关的详细说明,我也写在其中。

链接:https://pan.baidu.com/s/1ggCnoOLtLKWZFAcQop10PA 
提取码:udw9

然后配置一下hadoop/etc/hadoop/hadoop-env.cmd文件,如下图:

这里为什么配置可以参考下我之前写过一篇的文章:https://blog.csdn.net/qq_38364053/article/details/86017854。

最后还需要几步可以彻底解决:以做过的wordcount为例子,需要添加一行代码System.setProperty("hadoop.home.dir","你的hadoop根目录")

以上配置过后,我能正确运行。记录一次,日后再次遇到方便查阅。以上希望对大家有帮助。

Hadoop,Spark错误:Could not locate executable null\bin\winutils.exe in the Hadoop binaries.相关推荐

  1. 安装spark,Could not locate executable null\bin\winutils.exe in the Hadoop binaries报错

    安装spark,Could not locate executable null\bin\winutils.exe in the Hadoop binaries报错 缺少winutils.exe程序 ...

  2. 【Spark】Could not locate executable null\bin\winutils.exe in the Hadoop binaries

    项目场景: 在ideal中运行spark项目进行数据存储文件时报错. 问题描述: 报错:Could not locate executable null\bin\winutils.exe in the ...

  3. [Spark]Could not locate executable null\bin\winutils.exe in the Hadoop binaries

    这里集群环境不同,但遇到的问题及解决办法其实一样,时间有限,就不详细修改了.我主要是在Windows本地运行Spark程序出现该错误. 本文转自http://www.cnblogs.com/hyl82 ...

  4. 【Spark】Spark报错:Could not locate executable null\bin\winutils.exe in the Hadoop binaries

    IDEA集成Scala和Spark之后,运行demo可能会报错: java.io.IOException: Could not locate executable null\bin\winutils. ...

  5. 连接hadoop java.io.IOException:Could not locate executable null\bin\winutils.exe in the Hadoop binarie

    java连接hadoop报错 java.io.IOException: Could not locate executable null\bin\winutils.exe in the Hadoop ...

  6. Could not locate executable null\bin\winutils.exe in the Hadoop binaries全网最强windows10安装hadoop教程

    简述 详细安装配置步骤 1.安装jdk 2.下载安装hadoop 2.1 下载 2.2 解压安装 2.3 配置环境变量 2.4 配置cmd与xml文件 设置完毕启动hadoop 简述 报错内容:Cou ...

  7. IDEA启动hadoop报Could not locate executable null\bin\winutils.exe in the Hadoop binaries.错误的解决办法

    打开了一个hadoop项目,项目代码确定无误可运行,但是本地运行报错如下 仔细看一下报错路径,显示的是null\bin\winutils.exe 而我的winutils已经下载下来并且复制到bin目录 ...

  8. 解决Could not locate executable null\bin\winutils.exe in the Hadoop binaries.

    在Windows环境下使用IDEA.eclipse运行hadoop.spark程序时产生如下异常: 1.java.io.IOException: Could not locate executable ...

  9. 源码追踪,解决Could not locate executable null\bin\winutils.exe in the Hadoop binaries.问题

    在windows系统本地运行spark的wordcount程序,会出现一个异常,但不影响现有程序运行. >>提君博客原创  http://www.cnblogs.com/tijun/  & ...

  10. bug-hadoop:Could not locate executable null\bin\winutils.exe in the Hadoop binaries

    原因:缺少winutils.exe程序 Hadoop都是运行在Linux系统下的,在windows下eclipse中运行mapreduce程序,要首先安装Windows下运行的支持插件 下载: htt ...

最新文章

  1. IBM与思科在融合型基础设施领域实现另一突破
  2. English in 999
  3. java字符串类型常量拼接与变量拼接的区别
  4. git restore用法
  5. RocketMQ源码分析之RocketMQ事务消息实现原理上篇(二阶段提交)
  6. Python 学习笔记12 类 - 使用类和实例
  7. 3 操作系统第二章 进程管理 进程定义、特征、组织、状态与转换
  8. [转载]《不要一辈子靠技术生存》
  9. elasticsearch工作笔记002---Centos7.3安装最新版elasticsearch-7.0.0-beta1-x86_64.rpm单机版安装
  10. vim与外部文件的粘帖复制
  11. 《Python自动化》学习笔记:百度云智能实现提取身份证信息
  12. bellman ford优先队列优化简介模板
  13. java weblogic 下载,weblogic 下载 weblogic 12.2.1 for windows 64位的下载地址
  14. win11电脑摄像头打不开,如下图
  15. 爬取34万专栏文章:304篇10K+高赞文章汇总
  16. 2019年新个税计算器及源代码
  17. Tetris(俄罗斯方块)
  18. 用c语言绘制五角星图形,用c语言画出一个五角星图案
  19. COGNOS安装笔记
  20. NX上配置TLD的环境---对opencv的版本没有要求

热门文章

  1. mysql中ddl是什么_MySQL中DDL是什么意思
  2. 深度学习中的感受野计算
  3. 教你通过bigemap和geojson获取echarts精确到乡镇、街道的地图json数据
  4. MATLAB强化学习入门——五、倒立摆的DQN神经网络控制
  5. 固态加装机械计算机不显示,win10不显示机械硬盘怎么办_win10加装机械硬盘不显示的解决方法...
  6. 网络编程分享二之魔兽对战平台编码实战
  7. 设计递归函数模拟汉诺塔游戏
  8. ibm tivoli_Tivoli Access Manager信任关联拦截器(TAI ++)
  9. elasticsearch 配置 之 discovery.zen.ping.unicast.hosts
  10. 微信网页授权登录demo