用 ​​bash spark-submit​​ 在spark上跑代码的时候出现错误:

ERROR executor.Executor: Exception in task 9.0 in stage 416.0 (TID 18363)
java.lang.OutOfMemoryError: Java heap space
1.
2.
发现其原因竟然是运行的时候默认的内存不足以支撑海量数据,可以用 ​​bash spark-submit --help​​ 中查看到自己代码的运行内存,即:

–driver-memory MEM Memory for driver (e.g. 1000M, 2G) (Default: 1024M)
1.
本机默认为1G的内存运行程序,所以我改成8G内存运行:

bash spark-submit --driver-memory 8G --class MF字段 你的jar名字.jar
1.
具体运行请看:

scala打包jar并在Linux下运行

查看 ​​Linux​​ 的内存命令为:

​​cat /proc/meminfo |grep MemTotal​​​ or ​​top​​

ERROR executor.CoarseGrainedExecutorBackend: RECEIVED SIGNAL TERM相关推荐

  1. ERROR executor.CoarseGrainedExecutorBackend: RECEIVED SIGNAL TERM的一种解决方案

    问题现象:spark应用能正常计算得到结果,但是查看executor有很多是dead,如下图 查看executor stderr日志发现有错误日志:ERROR executor.CoarseGrain ...

  2. error: Program received signal SIGSEGV, Segmentation fault. (Codeblocks, C++)(2)

    之前,针对这个问题也总结过:"error: Program received signal SIGSEGV, Segmentation fault. (Codeblocks, C++)&qu ...

  3. error: Program received signal SIGSEGV, Segmentation fault. (Codeblocks, C++)

    关于"error: Program received signal SIGSEGV, Segmentation fault.". 之前多次遇到的情况都是:对空指针进行了操作. 比如 ...

  4. RECEIVED SIGNAL 15

    DFSRouter: RECEIVED SIGNAL 15: SIGTERM ERROR org.apache.hadoop.hdfs.server.namenode.NameNode: RECEIV ...

  5. 【FLINK】RECEIVED SIGNAL 15: SIGTERM. Shutting down as requested.

    参考以下两篇博客,定位解决了问题,[备注学习] 本人使用的版本是flink 1.10 1.Flink任务物理内存溢出问题定位 问题现象 一个使用10秒滚动窗口的任务在平稳运行一段时间之后出现了频繁的重 ...

  6. error: index-pack died of signal fatal: index-pack failed【Git】

    error: index-pack died of signal fatal: index-pack failed 环境: 克隆Linux源码时发生错误 git clone https://githu ...

  7. gdb调试时,Program received signal SIGPIPE, Broken pipe.

    今天在gdb调试时,发现总是出现Program received signal SIGPIPE, Broken pipe,搜索了网上的资料,发现是在调试时,接收到了SIGPIPE这个signal信号导 ...

  8. 运行 vue-typescript-admin-template 报错 error Command failed with signal “SIGABRT“. 切换node版本

    使用 vue-typescript-admin-template 时 正常运行 yarn serve 发行到了 40%就会报错 error Command failed with signal &qu ...

  9. “progtam received signal SIGABRT,Aborted.“错误

    <Linux高性能服务器编程> p255 代码清单13-4 使用共享内存的聊天室服务器程序  gdb调试到代码207行(ret = bind(listenfd,(struct sockad ...

最新文章

  1. 算法_bitmap算法
  2. 线程安全的单例模式的几种实现方法分享
  3. DayDayUp:2019.12.30吴晓波2020年终秀演讲《预见2020:来海边,拾起信心》读后有感
  4. Python字典:字典操作
  5. 沉浸式状态栏html5实现,Fragment和Activity两种沉浸式状态栏的实现
  6. PHP MySQL Functions (PDO_MYSQL)
  7. Angular URL地址参数改变,视图不更新的解决办法(监听URL变化,重新加载数据方法)
  8. 单机到集群的WEB架构演变
  9. 如何在没有域的环境中搭建AlwaysOn(一)
  10. php中paynotify,PayNotifyValidator.php
  11. 钉钉总裁不穷:周末最烦写周报还有被人钉
  12. 现代电力系统分析[简答】
  13. Linux Mint 19 Tara x86_64安装Docker-ce
  14. Dart语言之旅(完全翻译版)
  15. 华中科技大学计算机二级成绩,华中科技大学2017年计算机水平测试(软考)报名通知...
  16. 如何给单元格加斜线?
  17. Unity如何调用摄像头并显示在窗口内
  18. Python适合0基础菜鸟学吗
  19. 学习安卓开发第七天【网格视图qq相册页面】【下拉;列表框】【下拉列表框实例】【列表视图】
  20. 请回答2020 | 智行中国,用脚步记录这个时代的智变故事

热门文章

  1. Java 类加载器、反射
  2. asp.net Oracle数据库左侧目录树及右侧数据绑定及分页
  3. HDU-5514-Frogs
  4. 基于豆瓣影评数据的完整文本分析
  5. php对接java验签,PHP教程:php对接java现实加签验签的实例
  6. 图像处理中经常用的一幅图片Lena.jpg
  7. SpringMVC一:概述、环境搭建及开发流程
  8. 中国人寿保险单管理系统市场趋势报告、技术动态创新及市场预测
  9. GE CimplicityV11.1安装步骤
  10. 计算机电源启动时序,控制电源启动及关断时序