查看Hadoop集群的基本信息

2024-05-13 12:49:38

1.1查看Hadoop集群的存储系统信息（浏览器查看）

http://vincen:50070

configured Capaeity:已配置的文件系统存储总量

DFS Remaining:可使用的DFS存储总量

Non DFS Used:被非DFS得应用所占用的存储总量

DFS Used:已使用的DFS存储总量

Live Node:在线的数据节点（DataNode）

各存储容量之间的关系：

Configured Capacity=Non DFS Used + DFS Used + DFS Remaining

1.2查看Hadoop集群的存储系统信息（集群服务器查看）

hdfs dfsadmin -report 命令的基本格式：

hdfs dfsadmin -report [-live] [-dead] [-decommissioning]

各子选项的用法：

-report :输出文件系统中的基本信息及相关数据统计

-report -live :输出文件系统中在线节点的基本信息及相关数据统计

-report -dead :输出文件系统中失效节点的基本信息及相关数据统计

-report -decommissioning :输出文件系统中停用节点的基本信息及相关数据统计

2.查看Hadoop集群的计算资源信息

http://vincen:8088/cluster/nodes

Active Nodes :在线的计算节点

Memory Total :可使用的内存总量

Vcores Total :可使用的CPU核心

Rack :机架名称，默认的机架名称为default-rack

Node Address :计算节点的名称及端口

Containers :执行计算任务的容器数量，无任务时值为0

Mem Used 与Mem Avail :实际内存使用数量与可用内存数量

Vcores Used 与 Vcores Avail :实际CPU核心使用数量与可用CPU核心数量

slave1:8042、slave2:8042、slave3:8042 :计算节点的各项资源信息

3.Hadoop框架的两大特点

1.分布式存储:HDFS

2.并行计算:MapReduce

查看Hadoop集群的基本信息相关推荐

Linux查看Hadoop集群,Hadoop实战之Hadoop集群功能简单测试验证
前几天对Hadoop分布式集群的安装过程进行了总结,对hadoop的集群搭建只是学习hadoop中的艰难的一步,后面还需要学习更多的知识,不知道自己能不能坚持下去,不知道后面还会遇到多少困难,不过,我 ...
Hadoop集群——（二）作业编写、打包、启动、查看
Hadoop集群--(二)作业编写.打包.运行.查看 Hadoop集群搭建好后,就可以将MapReduce作业提交到集群上运行了.下面以我自己编写的一个WordCount单词计数的程序为例,介绍一下如 ...
Docker搭建hadoop集群
参考https://github.com/kiwenlau/hadoop-cluster-docker/blob/master/start-container.sh 因为之前在VMware上操作Had ...
hadoop(05)、使用Eclipse连接远程Hadoop集群
2019独角兽企业重金招聘Python工程师标准>>> 在前面的文中我们分别搭建了单机和集群的Hadoop环境,今天我们将实践使用Eclispe开发工具安装 hadoop的开发插件, ...
Hadoop集群_Hadoop安装配置
1.集群部署介绍 1.1 Hadoop简介 Hadoop是Apache软件基金会旗下的一个开源分布式计算平台.以Hadoop分布式文件系统(HDFS,Hadoop Distributed Filesy ...
linux把集群中所有机器关闭,Hadoop集群（第5期）_Hadoop安装配置
4.3 启动及验证 1)格式化HDFS文件系统在"Master.Hadoop"上使用普通用户hadoop进行操作.(备注:只需一次,下次启动不再需要格式化,只需 start-al ...
Hadoop系列之九：Hadoop集群伪分布式模式的实现详解
1.Hadoop依赖软件 Hadoop基于Java语言开发,因此其运行严重依赖于JDK(Java Development Kit),并且Hadoop的许多功能依赖于Java 6及以后的版本才提供的特性 ...
大数据平台分布式搭建-Hadoop集群配置
Section 1: 文件清单 hadoop-2.8.4.tar.gz jdk-8u181-linux-x64.tar xshell 7家庭版 xftp 7家庭版 Section 2: 下载链接 [J ...
访问hadoop集群时错误：Access denied for user Administrator. Superuser privilege is required
hadoop集群搭建好后,本地通过java api访问hadoop集群,java代码如下(查看hadoop集群上所有节点名称信息) import org.apache.hadoop.conf.Conf ...

最新文章

热门文章