spark-submit的参数名称解析
执行时需要传入的参数说明
Usage: spark-submit [options] <app jar | Python file> [app options]
参数名称 |
含义 |
--master MASTER_URL |
可以是spark://host:port, mesos://host:port, yarn, yarn-cluster,yarn-client, local |
--deploy-mode DEPLOY_MODE |
Driver程序运行的地方,client或者cluster |
--class CLASS_NAME |
主类名称,含包名 |
--name NAME |
Application名称 |
--jars JARS |
Driver依赖的第三方jar包 |
--py-files PY_FILES |
用逗号隔开的放置在Python应用程序PYTHONPATH上的.zip, .egg, .py文件列表 |
--files FILES |
用逗号隔开的要放置在每个executor工作目录的文件列表 |
--properties-file FILE |
设置应用程序属性的文件路径,默认是conf/spark-defaults.conf |
--driver-memory MEM |
Driver程序使用内存大小 |
--driver-java-options |
|
--driver-library-path |
Driver程序的库路径 |
--driver-class-path |
Driver程序的类路径 |
--executor-memory MEM |
executor内存大小,默认1G |
--driver-cores NUM |
Driver程序的使用CPU个数,仅限于Spark Alone模式 |
--supervise |
失败后是否重启Driver,仅限于Spark Alone模式 |
--total-executor-cores NUM |
executor使用的总核数,仅限于Spark Alone、Spark on Mesos模式 |
--executor-cores NUM |
每个executor使用的内核数,默认为1,仅限于Spark on Yarn模式 |
--queue QUEUE_NAME |
提交应用程序给哪个YARN的队列,默认是default队列,仅限于Spark on Yarn模式 |
--num-executors NUM |
启动的executor数量,默认是2个,仅限于Spark on Yarn模式 |
--archives ARCHIVES |
仅限于Spark on Yarn模式 |
spark-submit的参数名称解析相关推荐
- MyBatis参数名称解析器-ParamNameResolver解析
ParamNameResolver ParamNameResolver是一个参数名解析器,负责把方法的参数按顺序解析出来并进行标注 主要用来处理接口形式的参数,最后会把参数处放在一个map中 map的 ...
- spark submit参数及调优
spark submit参数及调优 原文地址 spark submit参数介绍 你可以通过spark-submit --help或者spark-shell --help来查看这些参数. 使用格式: ...
- spark submit参数及调优(转载)
spark submit参数介绍 你可以通过spark-submit --help或者spark-shell --help来查看这些参数. 使用格式: ./bin/spark-submit \--c ...
- spark submit参数及调试
原文:http://www.cnblogs.com/haoyy/p/6893943.html spark submit参数介绍 你可以通过spark-submit --help或者spark-shel ...
- Spark Submit提交及参数调优
https://www.cnblogs.com/LHWorldBlog/p/8414342.html https://www.cnblogs.com/haoyy/p/6893943.html spar ...
- Spark:spark submit参数及调优 perfect
先看下spark运行原理流程: 我们使用spark-submit提交一个Spark作业之后,这个作业就会启动一个对应的Driver进程. 根据你使用的部署模式(deploy-mode)不同,Drive ...
- mybatis是什么_为什么SpringMVC可以正确解析方法参数名称,但MyBatis却不行?
对Java字节码有一定了解的朋友应该知道,Java 在编译的时候,默认不会保留方法参数名,因此我们无法在运行时获取参数名称.但是在使用 SpringMVC 的时候,我发现一个奇怪的现象:当我们需要接收 ...
- 【原创】大数据基础之Spark(1)Spark Submit即Spark任务提交过程
Spark2.1.1 一 Spark Submit本地解析 1.1 现象 提交命令: spark-submit --master local[10] --driver-memory 30g --cla ...
- Spark Submit任务提交流程
1,简介 在上一篇博客中,我们详细介绍了Spark Standalone模式下集群的启动流程.在Spark 集群启动后,我们要想在集群上运行我们自己编写的程序,该如何做呢?本篇博客就主要介绍Spark ...
最新文章
- 集芯片的焊接技巧:从LQFP64说起
- DNS 截持模拟及环境搭建
- HDU1599 find the mincost route Floyd算法求最小环
- vue中展示列表,类似formatter方法及在vue中点击页面信息事件
- SpringJdbc持久层封装,Spring jdbcTemplate封装,springJdbc泛型Dao,Spring baseDao封装
- Awesome Tools Site
- 3.6-3.8 分布式环境启动、测试
- OpenJTAG与JLink的区别比较
- Dede系统oday漏洞临时修补方法
- Linux下文件操作命令cat(转)
- 2021-09-08 集成学 习 思想概述
- sql cast函数_数据分析面试必备——SQL你掌握的怎么样?
- 如何解决“这台电脑上已经安装了更高版本的Bonjour”
- STM8S003F3 使用ADC:固件库版本与寄存器版本
- html表格中加入斜线,html中给表格添加斜线
- 广告条幅制作html,一种广告设计用的条幅收卷装置的制作方法
- form表单同时提交带文本和图片的数据
- 正则表达式(RegExp)
- presto(一) presto概述
- #HHD32F107# IIC
热门文章
- SQL Server 跨数据库事务
- linux下wc命令详解
- CentOS6.4安装nginx1.4
- vb.net写一个简易的RSS阅读器
- Python进阶之路 3.4.2 条件语句(if、else和elif)
- 关于ping telnet
- spark SQL学习(综合案例-日志分析)
- 浅谈lastIndexOf
- Compiling: main.cpp /bin/sh: g++: not found
- .9文件,展示后显示黑条问题的解决