Shell脚本之sed详解

摘要:
在编写shell脚本的过程中,我们经常需要使用sed流编辑器和awk来处理文本文件。Sed是一个非交互式编辑器。Sed在处理完一行之后从临时缓冲区中删除该行,然后读取下一行进行处理和显示。处理完输入文件的最后一行后,sed结束运行。由于sed将每行保存在临时缓冲区中并编辑副本,因此不会修改原始文件。如果没有指定地址,sed将处理输入文件的所有行。
在编写shell脚本的过程中,我们经常需要使用sed流编辑器和awk对文本文件进行处理。

一、什么是sed?

    sed 是一种在线编辑器,它一次处理一行内容。sed是非交互式的编辑器。它不会修改文件,除非使用shell重定向来保存结果。默认情况下,所有的输出行都被打印到屏幕上。

 

二、sed的处理过程

    sed编辑器逐行处理文件(或输入),并将结果发送到屏幕。具体过程如下:首先sed把当前正在处理的行保存在一个临时缓存区中(也称为模式空间),然后处理临时缓冲区中的行,完成后把该行发送到屏幕上。sed每处理完一行就将其从临时缓冲区删除,然后将下一行读入,进行处理和显示。处理完输入文件的最后一行后,sed便结束运行。

   前面说到sed不会修改文件,那么现在我们可以知道是为什么了?是因为sed把每一行都存在临时缓冲区中,对这个副本进行编辑,所以不会修改原文件。

补充知识:

    在使用sed的过程中,我们经常会听到“定址”,那么什么是“定址”呢?

    定址用于决定对哪些行进行编辑。地址的形式可以是数字、正则表达式、或二者的结合。如果没有指定地址,sed将处理输入文件的所有行。

1、地址是一个数字,则表示行号;是“$"符号,则表示最后一行。

例如:

  1. sed -n '3p' datafile   #只打印第三行  

 

2、只显示指定行范围的文件内容

例如:

  1. sed -n '100,200p' mysql_slow_query.log  # 只查看文件的第100行到第200行  

 

3、地址是逗号分隔的,那么需要处理的地址是这两行之间的范围(包括这两行在内)。范围可以用数字、正则表达式、或二者的组合表示。

例如:

  1. sed '2,5d' datafile  
  2. #删除第二到第五行  
  3.   
  4. sed '/My/,/You/d' datafile  
  5. #删除包含"My"的行到包含"You"的行之间的行  
  6.   
  7. sed '/My/,10d' datafile  
  8. #删除包含"My"的行到第十行的内容  

 

三、sed命令和选项

sed命令告诉sed如何处理由地址指定的各输入行,如果没有指定地址则处理所有的输入行。

1、sed命令

 

 命令

 功能

 a

 在当前行后添加一行或多行。多行时除最后一行外,每行末尾需用“”续行

 c

 用此符号后的新文本替换当前行中的文本。多行时除最后一行外,每行末尾需用""续行

 i

 在当前行之前插入文本。多行时除最后一行外,每行末尾需用""续行

 d

 删除行

 h

 把模式空间里的内容复制到暂存缓冲区

 H

 把模式空间里的内容追加到暂存缓冲区

 g

 把暂存缓冲区里的内容复制到模式空间,覆盖原有的内容

 G

 把暂存缓冲区的内容追加到模式空间里,追加在原有内容的后面

 l

 列出非打印字符

 p

 打印行

 n

 读入下一输入行,并从下一条命令而不是第一条命令开始对其的处理

 q

 结束或退出sed

 r

 从文件中读取输入行

 !

 对所选行以外的所有行应用命令

 s

 用一个字符串替换另一个

 g

 在行内进行全局替换

 w

 将所选的行写入文件

 x

 交换暂存缓冲区与模式空间的内容

 y

 将字符替换为另一字符(不能对正则表达式使用y命令)

 

2、sed选项

 

 选项

 功能

 -e

 进行多项编辑,即对输入行应用多条sed命令时使用

 -n

 取消默认的输出

 -f

 指定sed脚本的文件名

 

四、正则表达式元字符

    与grep一样,sed也支持特殊元字符,来进行模式查找、替换。不同的是,sed使用的正则表达式是括在斜杠线"/"之间的模式。

    如果要把正则表达式分隔符"/"改为另一个字符,比如o,只要在这个字符前加一个反斜线,在字符后跟上正则表达式,再跟上这个字符即可。

例如:

  1. sed -n 'o^Myop' datafile  


常用的正则表达式如下:

 元字符

 功能

 示例

 ^

 行首定位符

 /^my/ 匹配所有以my开头的行

 $

 行尾定位符

 /my$/ 匹配所有以my结尾的行

 .

 匹配除换行符以外的单个字符

 /m..y/ 匹配包含字母m,后跟两个任意字符,再跟字母y的行

 *

 匹配零个或多个前导字符

 /my*/ 匹配包含字母m,后跟零个或多个y字母的行

 []

 匹配指定字符组内的任一字符

 /[Mm]y/ 匹配包含My或my的行

 [^]

 匹配不在指定字符组内的任一字符

 /[^Mm]y/ 匹配包含y,但y之前的那个字符不是M或m的行

 ..

 保存已匹配的字符

 1,20s/youself/1r/ 标记元字符之间的模式,并将其保存为标签1,之后可以使用1来引用它。最多可以定义9个标签,从左边开始编号,最左边的是第一个。此例中,对第1到第20行进行处理,you被保存为标签1,如果发现youself,则替换为your。

 &

 保存查找串以便在替换串中引用

 s/my/**&**/  符号&代表查找串。my将被替换为**my**

 <

 词首定位符

 /<my/ 匹配包含以my开头的单词的行

 >

 词尾定位符

 /my>/ 匹配包含以my结尾的单词的行

 x{m}

 连续m个x

 /9{5}/匹配包含连续5个9的行

 x{m,}

 至少m个x

 /9{5,}/ 匹配包含至少连续5个9的行

 x{m,n}

 至少m个,但不超过n个x

 /9{5,7}/ 匹配包含连续5到7个9的行

 

五、sed的退出状态

    sed不向grep一样,不管是否找到指定的模式,它的退出状态都是0。只有当命令存在语法错误时,sed的退出状态才不是0。

六、常用范例

1、p命令

    命令p用于显示模式空间的内容。默认情况下,sed把输入行打印在屏幕上,选项-n用于取消默认的打印操作。当选项-n和命令p同时出现时,sed可打印选定的内容。

例子:

  1. (1)sed '/my/p' datafile  
  2. #默认情况下,sed把所有输入行都打印在标准输出上。如果某行匹配模式my,p命令将把该行另外打印一遍。  
  3.   
  4. (2)sed -n '/my/p' datafile  
  5. #选项-n取消sed默认的打印,p命令把匹配模式my的行打印一遍。  

 

2、d命令

    命令d用于删除输入行。sed先将输入行从文件复制到模式空间里,然后对该行执行sed命令,最后将模式空间里的内容显示在屏幕上。如果发出的是命令d,当前模式空间里的输入行会被删除,不被显示。

例子:

  1. (1)sed '$d' datafile  
  2. #删除最后一行,其余的都被显示  
  3.   
  4. (2)sed '/my/d' datafile  
  5. #删除包含my的行,其余的都被显示  

 

3、s命令

例子:

  1. (1)sed 's/^My/You/g' datafile  
  2. #命令末端的g表示在行内进行全局替换,也就是说如果某行出现多个My,所有的My都被替换为You。  
  3.   
  4. (2)sed -n '1,20s/My$/You/gp' datafile  
  5. #取消默认输出,处理1到20行里匹配以My结尾的行,把行内所有的My替换为You,并打印到屏幕上。  
  6.   
  7. (3)sed 's#My#Your#g' datafile  
  8. #紧跟在s命令后的字符就是查找串和替换串之间的分隔符。分隔符默认为正斜杠,但可以改变。无论什么字符(换行符、反斜线除外),只要紧跟s命令,就成了新的串分隔符。  


 

4、e选项

   -e是编辑命令,用于sed执行多个编辑任务的情况下。在下一行开始编辑前,所有的编辑动作将应用到模式缓冲区中的行上。

例子:

  1. sed -e '1,10d' -e 's/My/Your/g' datafile  
  2. #选项-e用于进行多重编辑。第一重编辑删除第1-3行。第二重编辑将出现的所有My替换为Your。因为是逐行进行这两项编辑(即这两个命令都在模式空间的当前行上执行),所以编辑命令的顺序会影响结果。  

 

5、r命令

r命令是读命令。sed使用该命令将一个文本文件中的内容加到当前文件的特定位置上。

例如:

  1. sed '/My/r introduce.txt' datafile  
  2. #如果在文件datafile的某一行匹配到模式My,就在该行后读入文件introduce.txt的内容。如果出现My的行不止一行,则在出现My的各行后都读入introduce.txt文件的内容。  

 

6、w命令

例子:

  1. sed -n '/hrwang/w me.txt' datafile  

 

7、a 命令

    a 命令是追加命令,追加将添加新文本到文件中当前行(即读入模式缓冲区中的行)的后面。所追加的文本行位于sed命令的下方另起一行。如果要追加的内容超过一行,则每一行都必须以反斜线结束,最后一行除外。最后一行将以引号和文件名结束。

例子:

  1. sed '/^hrwang/a  
  2. >hrwang and mjfan are husband  
  3. >and wife' datafile  
  4. #如果在datafile文件中发现匹配以hrwang开头的行,则在该行下面追加hrwang and mjfan are husband and wife  

 

8、i 命令

i 命令是在当前行的前面插入新的文本。

 

9、c 命令

sed使用该命令将已有文本修改成新的文本。

 

10、n命令

sed使用该命令获取输入文件的下一行,并将其读入到模式缓冲区中,任何sed命令都将应用到匹配行紧接着的下一行上。

例如:

  1. sed '/hrwang/{n;s/My/Your/;}' datafile  

注:如果需要使用多条命令,或者需要在某个地址范围内嵌套地址,就必须用花括号将命令括起来,每行只写一条命令,或这用分号分割同一行中的多条命令。

 

11、y命令

    该命令与UNIX/Linux中的tr命令类似,字符按照一对一的方式从左到右进行转换。例如,y/abc/ABC/将把所有小写的a转换成A,小写的b转换成B,小写的c转换成C。

例如:

  1. sed '1,20y/hrwang12/HRWANG^$/' datafile  
  2. #将1到20行内,所有的小写hrwang转换成大写,将1转换成^,将2转换成$。  
  3. #正则表达式元字符对y命令不起作用。与s命令的分隔符一样,斜线可以被替换成其它的字符。  

 

12、q命令

    q命令将导致sed程序退出,不再进行其它的处理。

  1. sed '/hrwang/{s/hrwang/HRWANG/;q;}' datafile  

 

13、h命令和g命令

为了更好说明这两个命令,我们先创建如下的文本文件:

  1. #cat datafile  
  2. My name is hrwang.  
  3. Your name is mjfan.  
  4. hrwang is mjfan's husband.  
  5. mjfan is hrwang's wife.  

 

  1. sed -e '/hrwang/h' -e '$G' datafile  
  2. sed -e '/hrwang/H' -e '$G' datafile  
  3. #通过上面两条命令,你会发现h会把原来暂存缓冲区的内容清除,只保存最近一次执行h时保存进去的模式空间的内容。而H命令则把每次匹配hrwnag的行都追加保存在暂存缓冲区。  
  4.   
  5. sed -e '/hrwang/H' -e '$g' datafile  
  6. sed -e '/hrwang/H' -e '$G' datafile  
  7. #通过上面两条命令,你会发现g把暂存缓冲区中的内容替换掉了模式空间中当前行的内容,此处即替换了最后一行。而G命令则把暂存缓冲区的内容追加到了模式空间的当前行后。此处即追加到了末尾。  

 

补充知识点:sed特殊用法

  1. sed -n '/root/w a.txt'    #将匹配行输出到文件  
  2.   
  3. sed '/root/r abc.txt' /etc/passwd #把abc.txt的文件内容读入到root匹配行后  
  4.   
  5. sed -n '/root/w a.txt'  
  6.   
  7. sed -n '/root/{=;p}' /etc/passwd #打印行号和匹配root的行  
  8.   
  9. sed -n '/root/{n;d}' /etc/passwd #将匹配root行的下一行删除  
  10.   
  11. sed -n '/root/{N;d}' /etc/passwd #将匹配root行和下一行都删除  
  12.   
  13. sed '22{h;d};23,33{H;d};44G' pass  

七、sed脚本编写方法

1、从文件读入命令

  1. sed -f sed.sh  

sed.sh文件内容:

  1. s/root/yerik/p  
  2. s/bash/csh/p  

 

2、直接运行脚本 ./sed.sh /etc/passwd

  1. #!/bib/sed -f  
  2. s/root/yerik/p  
  3. s/bash/csh/p  

八、小技巧

1、用sed 输出自己的IP 地址

  1. ifconfig eth0 |sed '2p' |sed 's/^.*addr:/ /g' |sed 's/B.*$ / /g'  

 

2、在sed的命令行中引用shell变量时要使用双引号,而不是通常所用的单引号。下面是一个根据name变量的内容来删除named.conf文件中zone段的脚本:

name='zone "localhost"'

  1. sed "/$name/,/};/d" named.conf   

 

3、保持和获取:h命令和G命令

  1. $ sed -e '/test/h' -e '$G example  

    在sed处理文件的时候,每一行都被保存在一个叫模式空间的临时缓冲区中,除非行被删除或者输出被取消,否则所有被处理的行都将打印在屏幕上。接着模式空间被清空,并存入新的一行等待处理。在这个例子里,匹配test的行被找到后,将存入模式空间,h命令将其复制并存入一个称为保持缓存区的特殊缓冲区内。第二条语句的意思是,当到达最后一行后,G命令取出保持缓冲区的行,然后把它放回模式空间中,且追加到现在已经存在于模式空间中的行的末尾。在这个例子中就是追加到最后一行。简单来说,任何包含test的行都被复制并追加到该文件的末尾。

 

4、保持和互换:h命令和x命令

  1. $ sed -e '/test/h' -e '/check/x' example   

   互换模式空间和保持缓冲区的内容。也就是把包含test与check的行互换。

 

 

九、练习

1,删除文件每行的第一个字符。

  1. sed -n 's/^.//gp' /etc/passwd  
  2. sed -nr 's/(.)(.*)/2/p' /etc/passwd  

 

2,删除文件每行的第二个字符。

  1. sed -nr 's/(.)(.)(.*)/13/p' /etc/passwd  

 

3,删除文件每行的最后一个字符。

  1. sed -nr 's/.$//p' /etc/passwd  
  2. sed -nr 's/(.*)(.)/1/p' /etc/passwd  

 

4,删除文件每行的倒数第二个字符。

  1. sed -nr 's/(.*)(.)(.)/13/p' /etc/passwd  

 

5,删除文件每行的第二个单词。

  1. sed -nr 's/([^a-Z]*)([a-Z]+)([^a-Z]+)([a-Z]+)(.*)/1235/p' /etc/passwd  

 

6,删除文件每行的倒数第二个单词。

  1. sed -nr 's/(.*)([^a-Z]+)([a-Z]+)([^a-Z]+)([a-Z]+)([^a-Z]*)/12456/p' /etc/samba/smb.conf  

 

7,删除文件每行的最后一个单词。

  1. sed -nr 's/(.*)([^a-Z]+)([a-Z]+)([^a-Z]*)/124/p' /etc/samba/smb.conf  

 

8,交换每行的第一个字符和第二个字符。

  1. sed -nr 's/(.)(.)(.*)/213/p' /etc/passwd  

 

9,交换每行的第一个单词和第二个单词。

  1. sed -nr 's/([^a-Z]*)([a-Z]+)([^a-Z]+)([a-Z]+)(.*)/14325/p' /etc/samba/smb.conf  

 

10,交换每行的第一个单词和最后一个单词。

  1. sed -nr 's/([^a-Z]*)([a-Z]+)([^a-Z]+)([a-Z]+)(.*)/14325/p' /etc/passwd  

 

11,删除一个文件中所有的数字。

  1. sed 's/[0-9]*//g' /etc/passwd  

 

12,删除每行开头的所有空格。

  1. sed -n 's/^ *//p' /etc/samba/smb.conf   
  2. sed -nr 's/( *)(.*)/2/p' testp  

 

13,用制表符替换文件中出现的所有空格。

  1. sed -n 's/ / /gp' pass  

 

14,把所有大写字母用括号()括起来。

  1. sed -nr 's/([A-Z])/(&)/gp' testp   
  2. sed -n 's/[A-Z]/(&)/gp' testp  

15,打印每行3次。

  1. sed 'p;p' pass  

 

16,隔行删除。

  1. sed -n '1~2p' pass  

 

17,把文件从第22行到第33行复制到第44行后面。

  1. sed '1,21h;22h;23,33H;44G' pass  

 

18,把文件从第22行到第33行移动到第44行后面。

  1. sed '22{h;d};23,33{H;d};44G' pass  

 

19,只显示每行的第一个单词。

  1. sed -nr 's/([^a-Z]*)([a-Z]+)([^a-Z]+)(.*)/2/p' /etc/passwd  

 

20,打印每行的第一个单词和第三个单词。

  1. sed -nr 's/([^a-Z]*)([a-Z]+)([^a-Z]+)([a-Z]+)([^a-Z]+)([a-Z]+)(.*)/2--4/p' /etc/passwd  

 

21,将格式为    mm/yy/dd    的日期格式换成   mm;yy;dd

  1. date +%m/%Y/%d |sed -n 's#/#;#gp'  

 

22, 逆向输出

  1. cat a.txt  
  2. ABC  
  3. DEF  
  4. XYZ  
  5. 输出样式变成  
  6. XYZ  
  7. DEF  
  8. ABC  

免责声明:文章转载自《Shell脚本之sed详解》仅用于学习参考。如对内容有疑问,请及时联系本站处理。

上篇LWIP总结4G EPS 中的 User Plane下篇

宿迁高防,2C2G15M,22元/月;香港BGP,2C5G5M,25元/月 雨云优惠码:MjYwNzM=

相关文章

开源软件源码阅读小技巧

开源软件已经广泛的被互联网公司所应用,不仅仅是因为其能给企业节省一大笔成本,而且最重要的是拥有更多的自主可控性,能从源头上对软件质量进行把控。另一方面,由于开源软件背后往往没有大型的商业公司,所以文档相对来说不是非常完善(或者说文档和代码不一定相互对应),因此,作为一名合格程序员,尤其是基础软件开发的程序员,阅读开源软件源码的能力是必备的素质。 MySQ...

PgSql备份pg_dump与还原手记pg_restore(转)

真没有想到,以前一直是PostgreSQL使用者,突然需要库移植又成了头一招了!原来它与mysql命令行操作区别还挺大。不用怕,但绝对要细心,因为数据库操作是网站的核心,一旦出现损坏或丢失,后果就非常严重了。我先写了步骤,然后按计划进行,虽然也出现了错误,但最终还是安全移植了。这里记录在案,以备后用。备份还原方法:pg_dump和pg_restore,先仔...

nc基本操作&amp;amp;反弹shell

一、nc简介 nc 被称为瑞士军刀netcat ,所做的就是在两台电脑之间建立链接,并返回两个数据流。 可运行在TCP或者UDP模式,添加参数 —u 则调整为UDP,默认为TCP 即可用在windows系统也可在linux系统,也可作用于二者之间,只是对应的命令有微微差异。 二、nc常用参数 -l 开启监听 -p 指定一个端口 -v 显示详细输出 -e...

Shell字符串

1.字符串是shell编程中最常用最有用的数据类型(除了数字和字符串,也没啥其它类型好用了),字符串可以用单引号,也可以用双引号,也可以不用引号。单双引号的区别跟PHP类似。 单引号字符串的限制: 单引号里的任何字符都会原样输出,单引号字符串中的变量是无效的; 单引号字串中不能出现单引号(对单引号使用转义符后也不行)。 双引号的优点: 双引号里可以有...

shell的for循环

与其他编程语言类似,Shell支持for循环。for循环一般格式为: for 变量 in 列表 do command1 command2 ... commandN done 列表是一组值(数字、字符串等)组成的序列,每个值通过空格分隔。每循环一次,就将列表中的下一个值赋给变量。in 列表是可选的,如果不用它,for 循环使用...

ubuntu一些基本软件安装方法

ubuntu一些基本软件安装方法 首先说明一下 ubuntu 的软件安装大概有几种方式:1。 deb 包的安装方式deb 是 debian 系 Linux 的包管理方式, ubuntu 是属于 debian 系的 Linux 发行版,所以默认支持这种软件安装方式,当下载到一个 deb 格式的软件后,在终端输入这个命令就能安装:sudo dpkg -i *....