内容简介：HDFS 是 Hadoop Distributed File System （Hadoop 分布式文件系统）的缩写，是 Hadoop 核心项目之一（另外两个分别是 YARN 和 MapReduce）。HDFS 提供了高容错、高吞吐、易扩展、高可用的文件系统。HDFS 是一个主从（Master/Slave）架构的分布式系统，由主节点 NameNode 和从节点 DataNode 构成。
HDFS 是 Hadoop Distributed File System （Hadoop 分布式文件系统）的缩写，是 Hadoop 核心项目之一（另外两个分别是 YARN 和 MapReduce）。HDFS 提供了高容错、高吞吐、易扩展、高可用的文件系统。
架构
HDFS 是一个主从（Master/Slave）架构的分布式系统，由主节点 NameNode 和从节点 DataNode 构成。
Data Block
HDFS 上的文件是以数据块（Data Block）的形式存储的，数据块是 HDFS 文件处理的最小单元。数据块会以文件的形式存储在 DataNode 节点的磁盘上。数据块默认大小是 128 MB，可以通过属性 dfs.blocksize 进行配置。
在 HDFS 上，文件会被切分为一个或多个数据块分布在 DataNode 节点上存储。同一个数据块会冗余存储在不同的 DataNode 节点上，默认副本数是 3，可以通过属性 dfs.replication 进行配置。
NameNode
NameNode 是 HDFS 的主节点，管理这文件系统的命名空间，包括：
- 文件系统目录树
- 文件/目录信息
- 文件的数据块索引
这些信息以文件的形式保存在 NameNode 节点的磁盘上，即空间镜像文件 fsimage 文件和编辑日志文件 edits 。
DataNode
DataNode 是 HDFS 的从节点，根据客户端或 NameNode 写入数据块到本地存储，或读取本地存储上的数据块。
以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持 码农网
猜你喜欢:
- 机器学习(1)-概览
- ISWC 2018概览：知识图谱与机器学习
- 多智能体强化学习（MARL）近年研究概览
- 微软开源自动机器学习工具 NNI 概览及新功能详解
- 超越 DQN 和 A3C：深度强化学习领域近期新进展概览
- 容器技术概览
本站部分资源来源于网络，本站转载出于传递更多信息之目的，版权归原作者或者来源机构所有，如转载稿涉及版权问题，请联系我们。
产品经理的20堂必修课
徐建极 / 人民邮电出版社 / 2013-9-1 / 59.00元
《产品经理的20堂必修课》以作者八年的产品经理工作实践为基础，通过系统的理论结合丰富的实例的方法，全面地总结了作为一名互联网产品经理所应掌握的知识。 《产品经理的20堂必修课》分为三大部分。 讲产品：深入剖析互联网产品成功的要素，分别从需求导向、简单原则、产品运营、战略布局等维度，分析如何让产品在残酷的互联网竞争中脱颖而出。 讲方法：着重分析优秀的产品团队运作的工作方法和程序，详......一起来看看 《产品经理的20堂必修课》 这本书的介绍吧!
