http://www.sudu.cn/info/html/edu/20080407/263375.html
非常多 Linux® 系统管理员都需要做一些整理纯文本设置文件的乏味工作。幸运的是，Linux 有非常多源自于 UNIX® 的数据提取工具，包括 head、tail、grep、egrep、fgrep、cut、paste、join、awk 等。本文给出了几个真实的例子，他们能展示怎么使用这些简单的命令行工具更好地服务于系统管理工作。本文将逐一介绍这些数据提取工具及其操作，将他们应用到日常工作所使用的典型文件中，并介绍一下为什么这些工具对于从这些文件中提取数据来说非常重要。
Linux 操作系统中有非常多文件：设置文件、文本文件、文件文件、日志文件、用户文件，这个清单还在不断增长。通常，这些文件都包含了要查找重要数据所需要访问的一些信息。尽管我们能简单地使用诸如 cat、more 之类的标准工具将大部分文件的内容输出到屏幕上，不过系统中有更加合适的工具能对文本进行过滤和处理，这样就能只关心我们想要的内容。
在阅读本文的过程中，你能打开 shell 并体验一下每个工具的例子。
正则表达式
在开始之前，我们需要首先理解什么是正则表达式，及怎么使用正则表达式。
在最简单的形式中，正则表达式（regular expression）是用来在文件中定位文本的一些搜索标准。例如，要查找所有包含单词 “admin” 的行，我们就能对 “admin” 进行搜索。因此，“admin” 就构成了一个正则表达式。如果我们不仅希望查找 “admin”，而且还想将其替换成 “root”，那么我们就能在一个工具中使用适当的命令将 “admin” 替换成 “root”。他们都构成了正则表达式。
正则表达式所采用的一些基本规则如下：
- 所有单个字符或一串字符都能匹配字符本身，例如上面的 “admin” 的例子。
- ^ 符号（
^）表示一行的开始；$ 符号（$）表示一行的结束。 - 要搜索特别字符（例如 $ 符号），需要在这些字符前面加上反斜线（
＼）。例如，＼$就表示查找$，而不是一行的末尾。 - 点（
.）代表所有单个字符。例如，ad..n代表 5 个字符项，前两个字符是 “ad”，最后一个字符是 “n”。中间两个字符能是所有字符，不过只能是由两个字符组成。 - 所有时候如果正则表达式包含在斜线中（例如
/re/），搜索就是通过文件顺序进行的。如果正则表达式包含在问号中（例如，?re?），搜索就是通过文件逆序进行的。 - 方括号（
[]）表示多个值，减号（-）表示值的范围。例如，[0-9]和[0123456789]相同，[a-z]就等效于搜索所有小写字符。如果一个列表的首字符是 ^ 符号，他就匹配不在这个清单中的所有字符。
表 1 给出了这些规则是怎么真正进行匹配的。
| 例子 | 说明 |
|---|---|
[abc] | 匹配 “a”、“b”、“c” 之一 |
[a-z] | 匹配从 “a” 到 “z” 的所有一个小写字符 |
[A-Z] | 匹配从 “A” 到 “Z” 的所有一个大写字符 |
[0-9] | 匹配从 0 到 9 的所有一个数字 |
[^0-9] | 匹配所有除了 0 到 9 数字范围内的所有字符 |
[-0-9] | 匹配从 0 到 9 的所有数字，或是短横线（-） |
[0-9-] | 匹配从 0 到 9 的所有数字，或是短横线（-） |
[^-0-9] | 匹配除从 0 到 9 的数字和短横线（-）之外的所有字符 |
[a-zA-Z0-9] | 匹配所有字符或数字 |
了解了这些信息，下面让我们开始看一下相关工具。
grep
grep 工具的工作方式是对文件的每一行搜索给定字符串的首次出现。如果找到了这个字符串，就打印该行的内容；否则就不对该行进行打印。下面这个文件我称之为 “memo”，阐述了 grep 的用法和结果。
To: All Employees
From: Human Resources
In order to better serve the needs of our mass market customers, ABC Publishing is integrating the groups selling to this channel for ABC General Reference and ABC Computer Publishing. This change will allow us to better coordinate our selling and marketing efforts, as well as simplify ABC’s relationships with these customers in the areas of customer service, co-op management, and credit and collection. Two national account managers, Ricky Ponting and Greeme Smith, have joined the sales team as a result of these changes.
To achieve this goal, we have also organized the new mass sales group into three distinct teams reporting to our current sales directors, Stephen Fleming and Boris Baker. I have outlined below the national account managers and their respective accounts in each of the teams. We have also hired two new national account managers and a new sales administrator to complete our account coverage. They include:
Sachin Tendulkar, who joins us from XYZ Consumer Electronics as a national account manager covering traditional mass merchants.
Brian Lara, who comes to us via PQR Company and will be responsible for managing our West Coast territory.
Shane Warne, who will become an account administrator for our warehouse clubs business and joins us from DEF division.
Effectively, we have seven new faces on board:
1. RICKY PONTING
2. GREEME SMITH
3. STEPHEN FLEMING
4. BORIS BAKER
5. SACHIN TENDULKAR
6. BRIAN LARA
7. SHANE WARNE
Please join me in welcoming each of our new team members.
举一个简单的例子来说，要查找包含 “welcoming” 单词的行，最佳的方法是使用下面的命令行：
|
如果你想查找单词 “market”，结果会有非常大的不同，如下所示：
|
注意我们找到了两个匹配项：我们希望找的 “market” 和 “marketing”。如果在这个文件中还存在 “marketable” 或 “marketed” 之类的单词，那么上面的命令也会显示包含这些单词的行的内容。
在 grep 中能使用通配符和元字符，我强烈建议将他们放到引号中，这样 shell 就不会将他们解释成命令了。
要查找所有包含数字的行，请使用下面的命令：
|
要查找所有包含 “the” 的行，请使用下面的命令：
|
正如你可能已注意到的相同，输出结果中包含了单词 “these”，更有单词 “the” 的一些精确匹配。
grep 工具，和非常多其他 UNIX/Linux 工具相同，都是大小写敏感的，这意味着查找 “The” 和 “the” 会产生完全不同的结果。
|
如果你想查找一个特定的单词或短语，但却不太关心他们的大小写，那能使用两种方法。第一种方法是使用方括号同时查找 “The” 和 “the”，如下所示：
|
第二种方法是使用 -i 选项，这告诉 grep 忽略大小写的敏感性。
|
除了 -i 选项之外，更有另外几个命令行选项能用来改动 grep 的输出结果。最常见的选项如下所示：
-c—— 屏蔽正常输出；相反，打印每个输入文件的匹配行数。-l—— 屏蔽正常输出；相反，打印包含正常输出内容的每个输入文件的名字。-n—— 在每行输出前面加上该行在输入文件中的行号作为前缀。-v—— 将匹配意义进行逆反 —— 即选择那些不 匹配搜索条件的行。
fgrep
fgrep 会对文件搜索某个字符串，并打印包含这个字符串的所有行的内容。和 grep 不同的是，fgrep 搜索的是个字符串，而不是能匹配某个表达式的一种模式。fgrep 能看作是 grep 在以下方面进行了增强：
- 一次能搜索多个对象。
- fgrep 工具通常速度都比 grep 更快。
- 我们不能使用 fgrep 来搜索使用模式的正则表达式。
假设我们希望从前面的 memo 文件中提取全部由大写字母组成的名字。为了查找 “STEPHEN” 和 “BRIAN”，我们需要执行两个独立的 grep 命令，如下所示：
|
使用 fgrep，只需要一个命令就能实现相同的任务：
|
注意在这两项之间需要使用回车符号。如果没有这个回车符号，搜索就变成了查找一行中的 “STEPHEN BRIAN”。有了这个回车符号之后，他就会查找 “STEPHEN” 的匹配项，及匹配 “BRIAN” 的项。
还要注意在目标文本两侧必须要放上引号。这样能将文本和文件名区分开来。
除了在命令行上指定搜索项之外，我们也能将他们放到一个文件中，并使用这个文件的内容来搜索其他文件。-f 选项让我们能指定一个包含搜索项的主文件，其中能列出经常搜索的内容。
举例来说，我们能想像一个名为 “search_items” 的文件，其中包含了我们希望搜索的两项内容：
|
下面的命令在前面的 memo 文件中搜索 “STEPHEN” 和 “BRIAN”：
|
egrep
egrep 是 grep 的一个功能更加强大的版本，他让我们能一次搜索多个对象。要搜索的对象是使用回车符（和 fgrep 相同）或管道符（|）来分隔的。
|
上面这两个命令都能完成相同的工作。
除了搜索多个目标的功能之外，egrep 还提供了重复搜索和分组搜索的功能：
?查找问号前面字符的零次匹配或一次匹配。+查找加号前面字符的一次或多次匹配。( )表示一个分组。
例如，假设你不记得 Brian 的姓是 “Lara” 还是 “Laras”。
|
这次搜索会输出同时匹配 “LARA” 和 “LARAS” 的项。下面的搜索稍微有些不同：
|
他能和 “STEPHEN”、“STEPHENN”、“STEPHENNN” 等匹配。
如果你正在查找一个单词加上他的一个派生词，能在圆括号中包含派生词的标志字符。
|
这会查找能匹配 “electrons” 的项和能匹配 “electronics” 的项。
总结一下：
+号后面的正则表达式能匹配这个正则表达式的一次或多次出现。?号后面的正则表达式能匹配这个正则表达式的零次或一次出现。- 使用
|符号或回车符分隔开的正则表达式会返回能和任意一个表达式匹配的字符串。 - 正则表达式能放到圆括号
( )中进行分组。 - 我们能使用的命令行参数包括
-c、-f、-i、-l、-n和-v。
grep 工具：一个真实的例子
grep 系列工具能用于所有文本格式的系统文件，以便查找某行中的匹配项。例如，要在 /etc/passwd 文件中查找用户 “root” 的项，能使用下面的命令：
|
由于 grep 会查找这个文件中的某个匹配项，因此这个命令会查找到 “root” 和 “operator” 这两项。如果我们希望只查找用户名为 “root” 的项，能将这个命令修改成下面的样子：
|
cut
使用 cut 工具，我们能将构成文件中数据域的各个列分隔开来。默认的分隔符是制表符，-f 选项能用来指定希望显示的域。
举例来说，假设一个文本文件 “sample” 有三列，其内容如下所示：
|
目前执行下面的命令：
|
这会返回：
|
如果将这个命令修改成：
|
这会返回下面的不同结果：
|
这个命令有几个命令行选项。除了 -f 之外，我们还应该熟悉下面两个选项：
-c—— 允许我们指定字符而不是域。-d—— 允许我们指定其他分隔符，而不是制表符。
cut：两个实际例子
ls -l 命令能显示某个目录中所有文件的权限、链接个数、属主、组、大小、日期和文件名 —— 这些都是以空格分隔开的。如果我们对大部分域都不感兴趣，而是只希望了解文件属主的信息，能使用下面的命令：
|
这个命令只会显示文件属主（第 5 个域），而会忽略其他域。
如果你知道文件属主信息开始的第一个字符的确切位置，能使用 -c 选项来显示文件属主的第一个字符。假设他是从第 16 个字符开始的，下面这个命令就返回第 16 个字符，这是文件属主名的第一个字符。
|
如果我们再假设大部分用户都使用最多 8 个字符作为自己的用户名，那么我们就能使用下面的命令：
|
这会返回用户名域的那些项。
目前假设文件名是从第 55 个字符开始的，不过我们无法确定文件名会连续占用多少个字符，因为有些文件名可能会比其他文件名长非常多。解决方案是从第 55 个字符开始，但却不指定结束字符（这意味着我们要截取该行中所有剩余的内容），如下所示：
|
目前我们来考虑另外一种情况。为了获得系统中所有用户的清单，我们能从前面使用过的 /etc/passwd 文件中提取第一个域：
|
要搜集用户名及其对应的主目录，我们能提取第 1 个和第 6 个域的内容：
|
paste
paste 工具能对文件中的域进行合并。他从每个源文件中提取一行内容，并将其和另外一个源文件中的一行内容合并在一起。
举例来说，假设文件 “fileone” 的内容如下所示：
|
另外，我们更有一个 “filetwo” 文件，其内容如下所示：
|
下面的命令将这两个文件的内容合并在一起，如下所示：
|
如果 fileone 中的行数比 filetwo 多，那么 paste 操作依然会继续，不过在制表符后面是一些空项。
制表符字符是默认的分隔符，不过我们能使用 -d 选项将其修改成所有其他值。
|
我们也能使用 -s 选项将 fileone 的内容在一行中输出，后面加上一个回车键，然后再显示 filetwo 的内容。
|
join
join 是 paste 的一个非常好的增强版本。join 只有在所要连接的文件共享某个一起的域时才会工作。
举例来说，考虑我们上面介绍 paste 时所使用的两个文件。下面是在使用 join 对其进行合并时所发生的事情：
|
注意这并没有显示所有东西。join 工具必须要在所操作的文件之间找到一起的域，默认情况下，他期望这个一起的域就是第一个域。
要了解这是怎么工作的，我们能尝试添加一些新内容。假设 fileone 目前包含以下内容：
|
filetwo 目前包含以下内容：
|
目前，再次尝试下面的命令：
|
此时第一个域相同的地方就会被识别出来，匹配项也就进行了合并。paste 是盲目地从每个文件中提取内容并创建输出结果；而 join 则是只合并那些匹配的行，这种匹配必须非常精确。举例来说，假设你向 filetwo 文件中添加一行内容：
|
目前这个命令只会产生下面的输出结果了：
|
只要这两个文件不再匹配了，就不会再执行所有操作了。第一个文件的每一行都匹配且只匹配于第二个文件相同行的默认域。如果找到匹配项，他们就会组成输出；否则就不再执行所有操作了。
默认情况下，join 只会查找第一个域进行匹配，并输出所有列的内容；不过我们能对这种行为进行修改。-1 选项让我们能指定使用哪个域作为 fileone 中的匹配项， -2 选项让我们能指定使用哪个域作为 filetwo 中的匹配项。
举例来说，要对 fileone 的第二个域和 filetwo 的第三个域进行匹配，我们能使用下面的语法：
|
-o 选项能以 {file.field} 格式来指定输出结果。因此，要在匹配行上打印 fileone 的第二个域和 filetwo 的第三个域，语法为：
|
join：一个实际的例子
在实践中能使用 join 工具最明显的方法是从 /etc/passwd 中提取用户名和对应的主目录项，并从 /etc/group 文件中提取组名。组名在 /etc/passwd 文件中是以数字的格式出目前第四个域中的。类似地，他们在 /etc/group 文件中是在第三个域中出现的。
|
awk
awk 是 Linux 上功能最为强大的工具之一。他本身实际上是一种编程语言，能实现复杂的逻辑语句，还能简化部分文本的提取。在本文那中我们将不会周详对其进行介绍，而是快速了解一下他的语法，并尝试几个实际的例子。
awk 命令包括一个模式和由一条或多条语句构成的操作，语法如下所示：
|
请注意：
- awk 测试指定文件中的每个记录是否符合模式匹配。如果找到匹配项，就执行指定的操作。
- awk 能在管道中作为过滤器，如果没有指定文件，他也能从键盘（标准输入）中接收输入。
一种非常有用的操作是打印数据！下面是怎么引用一条记录中的域。
$0—— 整条记录$1—— 该记录中的第一个域$2—— 该记录中的第二个域
我们还能从一条记录中提取多个域，之间使用逗号分开。
举例来说，要提取 /etc/passwd 文件中的第 6 个域，命令如下：
|
注意 -F 是由预先定义的 FS 变量所定义的输入域分隔符。在我们这个例子中是空格。
要从 /etc/passwd 文件中提取第一个和第六个域，命令如下：
|
要在域之间使用短横线代替冒号来打印这个文件的内容，命令如下：
|
要使用短横线作为域之间的分隔符来打印文件，并且只以逆序打印第一个域和第六个域，命令如下：
|
head
head 工具打印每个文件的最开始部分的内容（默认是 10 行）。如果没有给定文件，他就从标准输入中读入内容，如果给定了文件名就从文件中读入内容。
举例来说，如果我们希望从 memo 文件中提取前两行内容，命令如下：
|
我们能使用 -c 选项指定要显示的字节个数。举例来说，如果我们希望从 memo 文件中读取前两个字节的内容，能使用下面的命令：
|
tail
tail 工具打印每个文件的最末尾部分的内容（默认是 10 行）。如果没有给定文件，他就从标准输入中读入内容，如果给定了文件名就从文件中读入内容。
举例来说，如果我们希望从 memo 文件中提取最后两行内容，命令如下：
|
我们能使用 -c 选项指定要显示的字节个数。举例来说，如果我们希望从 memo 文件中读取最后五个字节的内容，能使用下面的命令：
|
结束语
目前我们已知道怎么使用各种工具从标准 Linux 文件中向外提取数据了。一旦提取出数据之后，这些数据就能进行查看、打印或重定向到其他文件或数据库中了。了解了怎么使用这些有用的工具能帮助我们减少花费在烦杂任务上的时间，从而能够成为一名效率更高的管理员。