大数据 | HDFS的shell(命令行客户端)操作

Posted JoblabX未来职业实验室

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了大数据 | HDFS的shell(命令行客户端)操作相关的知识,希望对你有一定的参考价值。


HDFS的shell(命令行客户端)操作

大数据 | HDFS的shell(命令行客户端)操作

HDFS集群分为两大角色:NameNode、DataNode

大数据 | HDFS的shell(命令行客户端)操作

NameNode负责管理整个文件系统的元数据

大数据 | HDFS的shell(命令行客户端)操作

DataNode 负责管理用户的文件数据块

大数据 | HDFS的shell(命令行客户端)操作

文件会按照固定的大小(blocksize)切成若干块后分布式存储在若干台datanode上

大数据 | HDFS的shell(命令行客户端)操作

每一个文件块可以有多个副本,并存放在不同的datanode上

大数据 | HDFS的shell(命令行客户端)操作

Datanode会定期向Namenode汇报自身所保存的文件block信息,而namenode则会负责保持文件的副本数量

大数据 | HDFS的shell(命令行客户端)操作

HDFS的内部工作机制对客户端保持透明,客户端请求访问HDFS都是通过向namenode申请来进行


HDFS提供shell命令行客户端,使用方法如下:


点击底部链接

申请加入JOBLABX科技人才俱乐部

以上是关于大数据 | HDFS的shell(命令行客户端)操作的主要内容,如果未能解决你的问题,请参考以下文章

大数据开发-HDFS Shell命令

大数据HDFS客户端命令行(hdfs dfs)详细使用说明

大数据技术之Hadoop(HDFS)概述Shell操作API操作读写流程工作机制

大数据技术之Hadoop(HDFS)概述Shell操作API操作读写流程工作机制

大数据HDFS用户客户端命令行(User Client Commands)详细使用说明

HDFS详解