【笔记|hadoop核心组件——HDFS系列讲解之HDFS的高级使用命令】
hadoop核心组件——HDFS系列讲解之HDFS的高级使用命令
- HDFS高级使用命令
-
- 数量限额
- 空间大小限额
- 查看hdfs文件限额数量
- HDFS的安全模式
- hdfs的文件权限验证
HDFS高级使用命令 数量限额
hdfs dfs -mkdir -p /user/root/lisi#创建hdfs文件夹
hdfs dfsadmin -setQuota 2 lisi# 给该文件夹下面设置最多上传两个文件,上传文件,发现只能上传一个文件
hdfs dfsadmin -clrQuota /user/root/lisi# 清除文件数量限制
空间大小限额
hdfs dfsadmin -setSpaceQuota 4k /user/root/lisi# 限制空间大小4KB
hdfs dfs -put/export/softwares/zookeeper-3.4.5-cdh5.14.0.tar.gz /user/root/lisi
#上传超过4Kb的文件大小上去提示文件超过限额
hdfs dfsadmin -clrSpaceQuota /user/root/lisi#清除空间限额
hdfs dfs -put/export/softwares/zookeeper-3.4.5-cdh5.14.0.tar.gz /user/root/lisi
#重新上传成功
查看hdfs文件限额数量
hdfs dfs -count -q -h /user/root/lisi
HDFS的安全模式 安全模式是HDFS所处的一种特殊状态,在这种状态下,文件系统只接受读数据请求,而不接受删除、修改等变更请求。在NameNode主节点启动时,HDFS首先进入安全模式,DataNode在启动的时候会向namenode汇报可用的block等状态,当整个系统达到安全标准时,HDFS自动离开安全模式。
如果HDFS处于安全模式下,则文件block不能进行任何的副本复制操作,因此达到最小的副本数量要求是基于datanode启动时的状态来判定的,启动时不会再做任何复制(从而达到最小副本数量要求),hdfs集群刚启动的时候,默认30S钟的时间是处于安全期的,只有过了30S之后,集群脱离了安全期,然后才可以对集群进行操作。
hdfsdfsadmin-safemode
hdfs的文件权限验证 hdfs的文件权限机制与linux系统的文件权限机制类似
r:readw:writex:execute权限x对于文件表示忽略,对于文件夹表示是否有权限访问其内容
如果linux系统用户zhangsan使用Hadoop命令创建一个文件,那么这个文件在HDFS当中的owner就是zhangsan
HDFS文件权限的目的,防止好人做错事,而不是阻止坏人做坏事。HDFS相信你告诉我你是谁,你就是谁。
推荐阅读
- 笔记|hadoop核心组件——HDFS系列讲解之HDFS基本介绍
- 大数据技术栈|(七)Hadoop 3.3.0学习——HDFS
- java|Hadoop核心模块——HDFS详解(2)
- 大数据|Hadoop系列(一)——HDFS总结
- Hadoop|Hadoop集群的webUI监控界面设置Simple安全机制
- Linux|进程间通信之匿名管道
- MySQL|MySQL备份与恢复+策略方案选择
- Python|Python从入门到实战(四)——函数
- 笔记|《模式识别》学习笔记(四)