转载自:https://blog.csdn.net/mulangren1988/article/details/54860924
hadoop 文件系统配置文件按如下查找顺序
复制代码
1
2
3
4
51. hadoop jar里的hadoop-default.xml 2. $HADOOP_CONF_DIR下的hadoop-default.xml 3. $HADOOP_CONF_DIR下的hadoop-site.xml。使用local代表将本地文件系统作为hadoop的DFS。 4. 如果传递uri做参数,那么就是特定的文件系统作为DFS。
命令详情
复制代码
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
681. Hadoop fs –fs [local | <file system URI>]: 列出在指定目录下的文件内容,支持pattern匹配。输出格式如filename(full path) <r n> size. 其中n代表replica的个数,size代表大小(单位bytes)。 2. hadoop fs –ls <path> 递归列出匹配pattern的文件信息,类似ls,只不过递归列出所有子目录信息。 3. hadoop fs –lsr <path>: 列出匹配pattern的指定的文件系统空间总量(单位bytes),等价于unix下的针对目录的du –sb <path>/*和针对文件的du –b <path> ,输出格式如name(full path) size(in bytes)。 4. hadoop fs –du <path> 等价于-du,输出格式也相同,只不过等价于unix的du -sb。 5. hadoop fs –dus <path> 将制定格式的文件 move到指定的目标位置。当src为多个文件时,dst必须是个目录。 6. hadoop fs –mv <src> <dst> 拷贝文件到目标位置,当src为多个文件时,dst必须是个目录。 7. hadoop fs –cp <src> <dst> 删除匹配pattern的指定文件,等价于unix下的rm <src> 8. hadoop fs –rm [-skipTrash] <src> 递归删掉所有的文件和目录,等价于unix下的rm –rf <src> 9. hadoop fs –rmr [skipTrash] <src> 等价于unix的rm –rfi <src> 10. hadoop fs –rmi [skipTrash] <src> 从本地系统拷贝文件到DFS 11. hadoop fs –put <localsrc> … <dst> 等价于-put 12. hadoop fs –copyFromLocal <localsrc> … <dst> 等同于-put,只不过源文件在拷贝后被删除 13. hadoop fs –moveFromLocal <localsrc> … <dst> 从DFS拷贝文件到本地文件系统,文件匹配pattern,若是多个文件,则dst必须是目录 14. hadoop fs –get [-ignoreCrc] [-crc] <src> <localdst> 顾名思义,从DFS拷贝多个文件、合并排序为一个文件到本地文件系统 15. hadoop fs –getmerge <src> <localdst> 输出文件内容 16. hadoop fs –cat <src> 等价于-get 17. hadoop fs –copyToLocal [-ignoreCrc] [-crc] <src> <localdst> 在指定位置创建目录 18. hadoop fs –mkdir <path> 设置文件的备份级别,-R标志控制是否递归设置子目录及文件 19. hadoop fs –setrep [-R] [-w] <rep> <path/file> 修改文件的权限,-R标记递归修改。MODE为a+r,g-w,+rwx等,OCTALMODE为755这样 20. hadoop fs –chmod [-R] <MODE[,MODE]…|OCTALMODE> PATH… 修改文件的所有者和组。-R表示递归 21. hadoop fs -chown [-R] [OWNER][:[GROUP]] PATH… 等价于-chown … :GROUP … 22. hadoop fs -chgrp [-R] GROUP PATH… 计数文件个数及所占空间的详情,输出表格的列的含义依次为:DIR_COUNT,FILE_COUNT,CONTENT_SIZE,FILE_NAME或者如果加了-q的话,还会列出QUOTA,REMAINING_QUOTA,SPACE_QUOTA,REMAINING_SPACE_QUOTA 23. hadoop fs –count[-q] <path>
最后
以上就是自觉电源最近收集整理的关于hadoop fs 命令使用(转)的全部内容,更多相关hadoop内容请搜索靠谱客的其他文章。
本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
发表评论 取消回复