文章目录
- 前言
- 一、HDFS上的操作
- 1.1 查看文件或文件夹
- 1.2 修改文件或目录权限
- 1.3 创建或删除文件夹
- 1.4 移动或创建文件
- 1.5 信息统计
- 1.6 设置 hdfs 中文件的副本数量
- 二、在本地上传或下载的操作
- 2.1 从本地上传文件到HDFS
- 2.2 从HDFS下载文件到本地
- 总结
前言
前无言
一、HDFS上的操作
操作HDFS上的shell命令,与Linux命令使用方法类似
1.1 查看文件或文件夹
# -ls 显示目录信息
hdfs dfs -ls /
# 显示文件内容
hdfs dfs -cat /tmp/k.txt
# 显示文件末尾 1kb 的数据
hdfs dfs -tail /tmp/x.txt
1.2 修改文件或目录权限
# 修改文件或目录权限
hadoop fs -chmod 777 /a.txt
# 修改文件或目录所有者和所属的组
hadoop fs -chown hadoop:hadoop /a
# 修改文件或目录所属组
hadoop fs -chgrp hadoop /a.txt
1.3 创建或删除文件夹
# 创建文件夹
hdfs dfs -mkdir /a
# 递归创建文件夹
hdfs dfs -mkdir -p /a/b/c
# 删除文件
hdfs dfs -rm /a/b/k.txt
# 递归删除目录及目录里的内容(慎用)
hdfs dfs -rm -r /a
1.4 移动或创建文件
# 移动文件
hdfs dfs -mv /a/k.txt /b
# 创建文件
hdfs dfs -touch /m/w.txt
1.5 信息统计
# 统计文件夹的大小信息
hdfs dfs -du -s -h /a
hdfs dfs -du -h /a
1.6 设置 hdfs 中文件的副本数量
hdfs dfs -setrep 5 /a/k.txt
二、在本地上传或下载的操作
2.1 从本地上传文件到HDFS
# 从本地剪切粘贴到HDFS
hdfs dfs -moveFromLocal tmp.txt /tmp
# 从本地文件系统中拷贝文件到HDFS上去
hdfs dfs -copyFromLocal tmp.txt /tmp
# 从本地文件系统中拷贝文件到HDFS上去(常用)
hdfs dfs -put tmp.txt /tmp
# 追加一个文件到已经存在的文件末尾
hdfs dfs -appendToFile tmp.txt /tmp/b.txt
2.2 从HDFS下载文件到本地
# 从HDFS拷贝到本地
hdfs dfs -copyToLocal /tmp/b.txt /home
# 等同于copyToLocal (常用)
hdfs dfs -get /tmp/b.txt /home
总结
没了。。。