思享工具箱

hadoop入门手册4：Hadoop【2.7.1】初级入门之命令：文件系统shell1

摘要：
问题指南1。Hadoop文件系统外壳和Linux外壳有什么相似之处？Hadoop还支持其他文件系统，如LocalFS、HFTPFS、S3FS等。FS shell的调用如下：[Bash shell]纯文本视图复制代码？1bin/hadoopfs＜args＞所有FSshell命令都有URI路径参数。对于HDFS文件系统，方案是HDFS。将错误信息发送到标准错误输出并输出到标准输出。AppendToFile用法：hadoopfs AppendToFile＜localsrc＞＜Dst＞将单个src或多个src从本地文件系统添加到目标文件系统。从标准输入读取并附加到目标文件系统。

问题导读
1.Hadoop文件系统shell与Linux shell有哪些相似之处？
2.如何改变文件所属组？
3.如何改变hdfs的文件权限？
4.如何查找hdfs文件，并且不区分大小写？

hadoop入门手册4：Hadoop【2.7.1】初级入门之命令：文件系统shell1第1张






概述
文件系统 (FS) shell 包括各种类似的命令直接与 Hadoop Distributed File System (HDFS)交互。hadoop也支持其它文件系统,比如 Local FS, HFTP FS, S3 FS, 和 其它的.  FS shell被下面调用:

[Bash shell] 纯文本查看 复制代码
1
bin/hadoopfs <args>



所有的FS shell命令带有URIs路径参数。The URI 格式是://authority/path。对 HDFS文件系统，scheme是hdfs。其中scheme和 authority参数都是可选的
如果没有指定，在文件中使用默认scheme.一个hdfs文件或则目录比如 /parent/child，可以是 hdfs://namenodehost/parent/child 或则简化为/parent/child（默认配置设置成指向hdfs://namenodehost）.大多数FS shell命令对应 Unix 命令.每个命令都有不同的描述。将错误信息发送到标准错误输出和输出发送到stdout。



appendToFile【添加文件】

用法: hadoop fs -appendToFile <localsrc> ... <dst>添加单个src,或则多个srcs从本地文件系统到目标文件系统。从标准输入读取并追加到目标文件系统。

  • hadoop fs -appendToFile localfile /user/hadoop/hadoopfile
  • hadoop fs -appendToFile localfile1 localfile2 /user/hadoop/hadoopfile
  • hadoop fs -appendToFile localfile hdfs://nn.example.com/hadoop/hadoopfile
  • hadoop fs -appendToFile - hdfs://nn.example.com/hadoop/hadoopfile Reads the input from stdin.

返回代码:
返回 0成功返回 1 错误

cat

用法: hadoop fs -cat URI [URI ...]
将路径指定文件的内容输出到stdout 

例子:

  • hadoop fs -cat hdfs://nn1.example.com/file1 hdfs://nn2.example.com/file2
  • hadoop fs -cat file:///file3 /user/hadoop/file4

返回代码:
返回 0成功返回 1 错误

checksum
用法: hadoop fs -checksum URI
返回  checksum 文件信息
例子:

  • hadoop fs -checksum hdfs://nn1.example.com/file1
  • hadoop fs -checksum file:///etc/hosts


chgrp
用法: hadoop fs -chgrp [-R] GROUP URI [URI ...]
改变文件所属组. 必须是文件所有者或则超级用户. 更多信息在 Permissions Guide.
选项

  • 使用-R 将使改变在目录结构下递归进行


chmod
用法: hadoop fs -chmod [-R] <MODE[,MODE]... | OCTALMODE> URI [URI ...]
更改文件的权限. 使用-R 将使改变在目录结构下递归进行。 必须是文件所有者或则超级用户. 更多信息在 Permissions Guide.
选项

  • 使用-R 将使改变在目录结构下递归进行。


chown
用法: hadoop fs -chown [-R] [OWNER][:[GROUP]] URI [URI ]
更改文件的所有者. 使用-R 将使改变在目录结构下递归进行。 必须是文件所有者或则超级用户. 更多信息在 Permissions Guide.
选项

  • 使用-R 将使改变在目录结构下递归进行。


copyFromLocal
用法: hadoop fs -copyFromLocal <localsrc> URI
类似put命令, 需要指出的是这个限制是本地文件
选项:

  • -f 选项会重写已存在的目标文件


copyToLocal
用法: hadoop fs -copyToLocal [-ignorecrc] [-crc] URI <localdst>
与get命令类似, 除了限定目标路径是一个本地文件外。

count
用法: hadoop fs -count [-q] [-h] [-v] <paths>统计目录个数，文件和目录下文件的大小。输出列：DIR_COUNT, FILE_COUNT, CONTENT_SIZE, PATHNAME
【目录个数，文件个数，总大小，路径名称】

输出列带有 -count -q 是: QUOTA, REMAINING_QUATA, SPACE_QUOTA, REMAINING_SPACE_QUOTA, DIR_COUNT, FILE_COUNT, CONTENT_SIZE, PATHNAME
【配置，其余指标，空间配额，剩余空间定额，目录个数，文件个数，总大小，路径名称】
The -h 选项，size可读模式.
The -v 选项显示一个标题行。
Example:

  • hadoop fs -count hdfs://nn1.example.com/file1 hdfs://nn2.example.com/file2
  • hadoop fs -count -q hdfs://nn1.example.com/file1
  • hadoop fs -count -q -h hdfs://nn1.example.com/file1
  • hdfs dfs -count -q -h -v hdfs://nn1.example.com/file1

返回代码:
返回 0成功返回 1 错误

<ignore_js_op>hadoop入门手册4：Hadoop【2.7.1】初级入门之命令：文件系统shell1第2张 



cp
用法: hadoop fs -cp [-f] [-p | -p[topax]] URI [URI ...] <dest>复制文件，这个命令允许复制多个文件到一个目录。
‘raw.*’ 命名空间扩展属性被保留
（1）源文件和目标文件支持他们（仅hdfs）
（2）所有的源文件和目标文件路径在 /.reserved/raw目录结构下。
决定是否使用 raw.*命名空间扩展属性依赖于-P选项


选项:

  • -f 选项如果文件已经存在将会被重写.
  • -p 选项保存文件属性 [topx] (timestamps, ownership, permission, ACL, XAttr). 如果指定 -p没有参数, 保存timestamps, ownership, permission. 如果指定 -pa,  保留权限 因为ACL是一个权限的超级组。确定是否保存raw命名空间属性取决于是否使用-p决定

例子:

  • hadoop fs -cp /user/hadoop/file1 /user/hadoop/file2
  • hadoop fs -cp /user/hadoop/file1 /user/hadoop/file2 /user/hadoop/dir

返回代码:
返回 0成功返回 1 错误

createSnapshot
查看 HDFS Snapshots Guide.

deleteSnapshot
查看 HDFS Snapshots Guide.

df【查看还剩多少hdfs空间】
用法: hadoop fs -df [-h] URI [URI ...]
显示剩余空间
选项:

  • -h 选项会让人更加易读 (比如 64.0m代替 67108864)

Example:

  • hadoop dfs -df /user/hadoop/dir1


<ignore_js_op>hadoop入门手册4：Hadoop【2.7.1】初级入门之命令：文件系统shell1第3张 

du
用法: hadoop fs -du [-s] [-h] URI [URI ...]显示给定目录的文件大小及包含的目录，如果只有文件只显示文件的大小
选项:

  • -s 选项汇总文件的长度，而不是现实单个文件.
  • -h 选项显示格式更加易读 (例如 64.0m代替67108864)

例子:

  • hadoop fs -du /user/hadoop/dir1 /user/hadoop/file1 hdfs://nn.example.com/user/hadoop/dir1

返回代码:
返回 0成功返回 1 错误
<ignore_js_op>hadoop入门手册4：Hadoop【2.7.1】初级入门之命令：文件系统shell1第4张 


dus
用法: hadoop fs -dus <args>
显示统计文件长度
注意:这个命令已被启用， hadoop fs -du -s即可

expunge
用法: hadoop fs -expunge
清空垃圾回收站. 涉及 HDFS Architecture Guide 更多信息查看回收站特点

find
用法: hadoop fs -find <path> ... <expression> ...查找与指定表达式匹配的所有文件，并将选定的操作应用于它们。如果没有指定路径，则默认查找当前目录。如果没有指定表达式默认-print

下面主要表达式:

  • -name 模式
    -iname  模式

如果
值为TRUE如果文件基本名匹配模式使用标准的文件系统组合。如果使用-iname匹配不区分大小写。

  • -print
    -print0Always
    值为TRUE. 当前路径被写至标准输出。如果使用 -print0 表达式, ASCII NULL 字符是追加的.

下面操作:

  • expression -a expression
    expression -and expression
    expression expression

and运算符连接两个表达式,如果两个字表达式返回true,则返回true.由两个表达式的并置暗示，所以不需要明确指定。如果第一个失败，则不会应用第二个表达式。

例子:
hadoop fs -find / -name test -print
返回代码:
返回 0成功返回 1 错误

<ignore_js_op>hadoop入门手册4：Hadoop【2.7.1】初级入门之命令：文件系统shell1第5张 

get
用法: hadoop fs -get [-ignorecrc] [-crc] <src> <localdst>复制文件到本地文件。
复制文件到本地文件系统. 【CRC校验失败的文件复制带有-ignorecrc选项（如翻译有误欢迎指正）】
Files that fail the CRC check may be copied with the -ignorecrc option. 

文件CRC可以复制使用CRC选项。

例子:

  • hadoop fs -get /user/hadoop/file localfile
  • hadoop fs -get hdfs://nn.example.com/user/hadoop/file localfile

返回代码:
返回 0成功返回 1 错误


相关内容 
hadoop入门手册1：hadoop【2.7.1】【多节点】集群配置【必知配置知识1】



hadoop入门手册2：hadoop【2.7.1】【多节点】集群配置【必知配置知识2】




hadoop入门手册3：Hadoop【2.7.1】初级入门之命令指南



hadoop入门手册4：Hadoop【2.7.1】初级入门之命令：文件系统shell1



hadoop入门手册5：Hadoop【2.7.1】初级入门之命令：文件系统shell2



hadoop2.X使用手册1：通过web端口查看主节点、slave1节点及集群运行状态
http://www.aboutyun.com/thread-7712-1-1.html

标签：#hdfs#hadoop#hdfs命令#命令模式#文件目录 | 浏览：169 | 发布日期：

免责声明：文章转载自《hadoop入门手册4：Hadoop【2.7.1】初级入门之命令：文件系统shell1》仅用于学习参考。如对内容有疑问，请及时联系本站处理。

上篇PG-表空间管理kali之sql注入下篇

宿迁高防，2C2G15M，22元/月；香港BGP，2C5G5M，25元/月 雨云优惠码：MjYwNzM=

相关文章

windows7中的“mklink命令”

从 Vista 以后，微软将用户文件和用户的软件配置( AppData ) 明确划分开，并且全部存放在使用者的用户目录下。 Linux早已这样做了，并且在Linux中可将 home 挂载为独立分区，而微软显然还没学到家。用户目录依旧和系统目录一起放在同一分区。 如何将用户目录移动到非系统分区？这是本文的出发点。但本文的重心不在于此，而是 mklink ，一...

nutch+hadoop 配置使用

nutch+hadoop 配置使用 配置nutch+hadoop 1，下载nutch。如果不需要特别开发hadoop，则不需要下载hadoop。因为nutch里面带了hadoop core包以及相关配置 2，建立目录（根据自己喜好） /nutch /search       (nutch installation goes here) nutch安装到这里...

万能Ghost系统制作教程

本篇是制作万能Ghost系统的基础教程。制作的万能Ghost系统镜像文件，可以恢复到任何一台机器上使用 （应该是绝大多数机器上），对于经常装机的朋友，可以给自己带来极大的方便。 录像视频教程:http://bbs.ylmf.com/read.php?tid=27312&u=35 一、前期基础工作 ================= 1、准备所需工具...

spark性能测试理论-Benchmark（转）

一、Benchmark简介Benchmark是一个评价方式，在整个计算机领域有着长期的应用。正如维基百科上的解释“As computer architecture advanced, it became more difficult to compare the performance of various computer systems simply...

Shell命令合集

Ccat zdd 浏览文件zdd的内容cat zdd1 zdd2 浏览多个文件的内容cat -n zdd浏览文件zdd的内容并显示行号cd 回到起始目录，也即刚登陆到系统的目录，cd后面无参数cd / 回到根目录cd .. 返回上一级目录 cd - 返回到最近使用的目录Ddf -kh 查看磁盘信息 du -sh foldername 查看文件夹大小，-h表...

Git应用详解第十讲：Git子库：submodule与subtree

前言 前情提要：Git应用详解第九讲：Git cherry-pick与Git rebase 一个中大型项目往往会依赖几个模块，git提供了子库的概念。可以将这些子模块存放在不同的仓库中，通过submodule或subtree实现仓库的嵌套。本讲为Git应用详解的倒数第二讲，胜利离我们不远了！ 一、submodule submodule：子模块的意思，表...

最新文章

随机推荐

思享工具箱导航