简单认识namenode和datanode

栏目: 服务器 · 发布时间: 6年前

内容简介:在阅读这篇文章之前,你应该先阅读:1. 首先在npdev1机器上面运行hadoop-daemon.sh start namenode,启动namenode.

一、Hadoop的启动

在阅读这篇文章之前,你应该先阅读: Hadoop的安装与环境搭建 .

1. 首先在npdev1机器上面运行hadoop-daemon.sh start namenode,启动namenode.

简单认识namenode和datanode

2. 然后在npfdev2,npfdev3,npfdev4分别运行hadoop-daemon.sh start datanode

简单认识namenode和datanode

3. 启动完成之后,我们的Hadoop的物理架构和逻辑架构如下:

npfdev1机器上面运行namenode, npfdev2,npfdev3,npfdev4分别运行datanode.

简单认识namenode和datanode

4. HDFS架构如下:

Hadoop简单来说就是多台机器备份的,可以横向扩展的系统。

简单认识namenode和datanode

二、使用命令行查看整个集群信息

1. 使用hdfs dfsadmin -report命令

我们为了更好的展示,使用hdfs dfsadmin -report | more 命令:

1.1 看集群的使用情况:

简单认识namenode和datanode

1.2 看集群的datanode的情况, 总共有3个live的datanode.

第一个datanode:

简单认识namenode和datanode

第二个datanode:

简单认识namenode和datanode

第三个datanode:

简单认识namenode和datanode

三、使用web页面查看整个集群信息

1. 访问http://npfdev1:50070,选择Overview选项:

简单认识namenode和datanode

2. 选择Datanodes选项:

简单认识namenode和datanode

3. 选择Utilities选项下面的browse directory,可以看到整个硬盘的使用情况 :

简单认识namenode和datanode

4. 选择Utilities选项下面的logs,可以看到启动日志:

简单认识namenode和datanode

四、关闭Hadoop集群

1. 首先在npdev1机器上面运行hadoop-daemon.sh stop namenode.

简单认识namenode和datanode

2. 然后在npfdev2,npfdev3,npfdev4分别运行hadoop-daemon.sh stop datanode.

简单认识namenode和datanode

五、启动和关闭Hadoop集群命令步骤总结:

1. 在master上启动hadoop-daemon.sh start namenode.

2. 在slave上启动hadoop-daemon.sh start datanode.

3. 用jps指令观察执行结果.

4. 用hdfs dfsadmin -report观察集群配置情况.

5. 通过http://npfdev1:50070界面观察集群运行情况.

6. 用hadoop-daemon.sh stop ...手工关闭集群.

更多Hadoop相关信息见 Hadoop 专题页面 https://www.linuxidc.com/topicnews.aspx?tid=13

Linux公社的RSS地址: https://www.linuxidc.com/rssFeed.aspx

本文永久更新链接地址: https://www.linuxidc.com/Linux/2018-08/153639.htm


以上所述就是小编给大家介绍的《简单认识namenode和datanode》,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对 码农网 的支持!

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

亿级流量网站架构核心技术

亿级流量网站架构核心技术

张开涛 / 电子工业出版社 / 2017-4 / 99

《亿级流量网站架构核心技术》一书总结并梳理了亿级流量网站高可用和高并发原则,通过实例详细介绍了如何落地这些原则。本书分为四部分:概述、高可用原则、高并发原则、案例实战。从负载均衡、限流、降级、隔离、超时与重试、回滚机制、压测与预案、缓存、池化、异步化、扩容、队列等多方面详细介绍了亿级流量网站的架构核心技术,让读者看后能快速运用到实践项目中。 不管是软件开发人员,还是运维人员,通过阅读《亿级流......一起来看看 《亿级流量网站架构核心技术》 这本书的介绍吧!

URL 编码/解码
URL 编码/解码

URL 编码/解码

UNIX 时间戳转换
UNIX 时间戳转换

UNIX 时间戳转换

HSV CMYK 转换工具
HSV CMYK 转换工具

HSV CMYK互换工具