大数据 | HDFS的shell(命令行客户端)操作
Posted JoblabX未来职业实验室
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了大数据 | HDFS的shell(命令行客户端)操作相关的知识,希望对你有一定的参考价值。
HDFS的shell(命令行客户端)操作
HDFS集群分为两大角色:NameNode、DataNode
NameNode负责管理整个文件系统的元数据
DataNode 负责管理用户的文件数据块
文件会按照固定的大小(blocksize)切成若干块后分布式存储在若干台datanode上
每一个文件块可以有多个副本,并存放在不同的datanode上
Datanode会定期向Namenode汇报自身所保存的文件block信息,而namenode则会负责保持文件的副本数量
HDFS的内部工作机制对客户端保持透明,客户端请求访问HDFS都是通过向namenode申请来进行
HDFS提供shell命令行客户端,使用方法如下:
点击底部链接
申请加入JOBLABX科技人才俱乐部
以上是关于大数据 | HDFS的shell(命令行客户端)操作的主要内容,如果未能解决你的问题,请参考以下文章
大数据技术之Hadoop(HDFS)概述Shell操作API操作读写流程工作机制
大数据技术之Hadoop(HDFS)概述Shell操作API操作读写流程工作机制