flink部署yarn错误：Couldn‘t deploy Yarn session cluster

Couldn’t deploy Yarn session cluster

错误信息

flink on yarn启动yarn-session时, 出现yarn-session无法部署错误

并且提示2.1G的虚拟内存使用了2.2GB内存.

...
org.apache.flink.client.deployment.ClusterDeploymentException: `Couldn't deploy Yarn session cluster`at org.apache.flink.yarn.YarnClusterDescriptor.deploySessionCluster(YarnClusterDescriptor.java:381)at org.apache.flink.yarn.cli.FlinkYarnSessionCli.run(FlinkYarnSessionCli.java:548)at org.apache.flink.yarn.cli.FlinkYarnSessionCli.lambda$main$5(FlinkYarnSessionCli.java:785)at java.security.AccessController.doPrivileged(Native Method)at javax.security.auth.Subject.doAs(Subject.java:422)at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1657)at org.apache.flink.runtime.security.HadoopSecurityContext.runSecured(HadoopSecurityContext.java:41)at org.apache.flink.yarn.cli.FlinkYarnSessionCli.main(FlinkYarnSessionCli.java:785)
Caused by: `org.apache.flink.yarn.YarnClusterDescriptor$YarnDeploymentException: The YARN application unexpectedly switched to state FAILED during deployment. `
Diagnostics from YARN: Application application_1617573631507_0006 failed 1 times due to AM Container for appattempt_1617573631507_0006_000001 exited with  exitCode: -103
For more detailed output, check application tracking page:http://node02:8088/cluster/app/application_1617573631507_0006Then, click on links to logs of each attempt.
Diagnostics: Container [pid=72909,containerID=container_1617573631507_0006_01_000001] is running beyond virtual memory limits. `Current usage: 167.3 MB of 1 GB physical memory used; 2.2 GB of 2.1 GB virtual memory used. Killing container.`
...

问题原因

Yarn容器虚拟内存率不足, 因为是用的虚拟机, 资源相对不足, yarn的虚拟内存比较小.导致启动后yarn创建applicationMaster时内存不足

解决方法

可以先尝试配置yarn, 不检测内存

[ryxiong@node01 hadoop-2.7.2]$ vim etc/hadoop/yarn-site.xml

添加如下配置

<!-- 关闭yarn内存检查 -->
<property><name>yarn.nodemanager.pmem-check-enabled</name><value>false</value>
</property>
<property><name>yarn.nodemanager.vmem-check-enabled</name><value>false</value>
</property>

如果方式1, 还无法解决问题

添加如下配置, 提高yarn容器虚拟内存率

<!-- 提高内存虚拟化率 -->
<property><name>yarn.nodemanager.vmem-pmem-ratio</name><value>3.0</value>
</property>

问题解决

flink部署yarn错误：Couldn‘t deploy Yarn session cluster相关推荐

flink on yarn模式出现The main method caused an error: Could not deploy Yarn job cluster问题排查+解决
报错复现: flink run -m yarn-cluster -p 2 -yjm 700m -ytm 1024m -c WordCount target/bbb-1.0-SNAPSHOT.jar 完 ...
yarn 错误：There appears to be trouble with your network connection. Retrying…
问题解决方法更换源操作查看yarn/npm源 #查看代理 yarn config list npm config list npm设置代理 npm config set proxy http: ...
Flink部署——内存配置
文章目录配置 Flink 进程的内存配置总内存 JVM 参数受限的等比内存部分配置 TaskManager 内存配置总内存配置堆内存和托管内存任务(算子)堆内存(Task (Operat ...
Flink部署完整使用 (第三章)
Flink部署完整使用一.认识 1).快速启动一个Flink集群 1.环境配置 2.本地启动 1. 下载安装包 2. 解压 3. 启动 4. 访问Web UI 5. 关闭集群 2).集群启动 1. ...
Flink 部署模式，session 、pre job、aplication三种主要模式
长久以来,在YARN集群中部署Flink作业有两种模式,即Session Mode和Per-Job Mode,而在Flink 1.11版本中,又引入了第三种全新的模式:Application Mode ...
Hexo部署出现错误err-Error-Spawn-failed解决方式
Hexo部署出现错误err: Error: Spawn failed解决方式部署过程中可能会出现错误 fatal: unable to access 'https://github.com/a956 ...
资源管理与调度系统-YARN资源隔离及以YARN为核心的生态系统
资源管理与调度系统-YARN资源隔离及以YARN为核心的生态系统作者:尹正杰版权声明:原创作品,谢绝转载!否则将追究法律责任. 一.什么是资源隔离资源隔离是指为不同任务提供可独立使用的计算资源以 ...
yarn的组成部分_图解YARN工作原理
YARN 即MapReduce V2版本.相比MapReduce V1 它有很多优点: 1. 分散了jobTracker 的任务.资源管理任务由资源管理器负责,作业启动.运行和监测任务由分布在集群节点 ...
yarn create @umijs/umi-app或者yarn create umi myapp 报错：文件名、目录名或卷标语法不正确。
1. Problem Description 在学习ant-design,使用 @umijs/umi-app 为模板,创建一个项目: 和ant-design-pro的时候,使用umi myapp 创建 ...

flink部署yarn错误：Couldn‘t deploy Yarn session cluster

错误信息

问题原因

解决方法

flink部署yarn错误：Couldn‘t deploy Yarn session cluster相关推荐

最新文章

热门文章