Shell中的正则表达式及字符串处理

时间:2021-05-27 17:28:20

shell里一个正则表达式就是由普通字符(例如字符 a 到 z)以及特殊字符(称为元字符)组成的文字模式。该模式描述在查找文字主体时待匹配的一个或多个字符串。正则表达式作为一个模板,将某个字符模式与所搜索的字符串进行匹配。 

将下一个字符标记为一个特殊字符、或一个原义字符、或一个 后向引用、或一个八进制转义符。例如,'n' 匹配字符 "n"。'/n' 匹配一个换行符。序列 '//' 匹配 "/" 而 "/(" 则匹配 "("。 

匹配输入字符串的开始位置。 

匹配输入字符串的结束位置。 

匹配前面的子表达式零次或多次。例如,zo* 能匹配 "z" 以及 "zoo"。 * 等价于{0,}。 

匹配前面的子表达式一次或多次。例如,'zo+' 能匹配 "zo" 以及 "zoo",但不能匹配 "z"。+ 等价于 {1,}。 

匹配前面的子表达式零次或一次。例如,"do(es)?" 可以匹配 "do" 或 "does" 中的"do" 。? 等价于 {0,1}。 
{n} 
n 是一个非负整数。匹配确定的 n 次。例如,'o{2}' 不能匹配 "Bob" 中的 'o',但是能匹配 "food" 中的两个 o。 
{n,} 
n 是一个非负整数。至少匹配n 次。例如,'o{2,}' 不能匹配 "Bob" 中的 'o',但能匹配 "foooood" 中的所有 o。'o{1,}' 等价于 'o+'。'o{0,}' 则等价于 'o*'。 
{n,m} 
m 和 n 均为非负整数,其中n <= m。最少匹配 n 次且最多匹配 m 次。 "o{1,3}" 将匹配 "fooooood" 中的前三个 o。'o{0,1}' 等价于 'o?'。请注意在逗号和两个数之间不能有空格。 

当该字符紧跟在任何一个其他限制符 (*, +, ?, {n}, {n,}, {n,m}) 后面时,匹配模式是非贪婪的。非贪婪模式尽可能少的匹配所搜索的字符串,而默认的贪婪模式则尽可能多的匹配所搜索的字符串。例如,对于字符串 "oooo",'o+?' 将匹配单个 "o",而 'o+' 将匹配所有 'o'。 

匹配除 "/n" 之外的任何单个字符。要匹配包括 '/n' 在内的任何字符,请使用象 '[./n]' 的模式。 
(pattern) 
匹配pattern 并获取这一匹配。所获取的匹配可以从产生的 Matches 集合得到,在VBScript 中使用 SubMatches 集合,在Visual Basic Scripting Edition 中则使用 $0…$9 属性。要匹配圆括号字符,请使用 '/(' 或 '/)'。 
(?:pattern) 
匹配 pattern 但不获取匹配结果,也就是说这是一个非获取匹配,不进行存储供以后使用。这在使用 "或" 字符 (|) 来组合一个模式的各个部分是很有用。例如, 'industr(?:y|ies) 就是一个比 'industry|industries' 更简略的表达式。 
(?=pattern) 
正向预查,在任何匹配 pattern 的字符串开始处匹配查找字符串。这是一个非获取匹配,也就是说,该匹配不需要获取供以后使用。例如, 'Windows (?=95|98|NT|2000)' 能匹配 "Windows 2000" 中的 "Windows" ,但不能匹配 "Windows 3.1" 中的 "Windows"。预查不消耗字符,也就是说,在一个匹配发生后,在最后一次匹配之后立即开始下一次匹配的搜索,而不是从包含预查的字符之后开始。 
(?!pattern) 
负向预查,在任何不匹配Negative lookahead matches the search string at any point where a string not matching pattern 的字符串开始处匹配查找字符串。这是一个非获取匹配,也就是说,该匹配不需要获取供以后使用。例如'Windows (?!95|98|NT|2000)' 能匹配 "Windows 3.1" 中的 "Windows",但不能匹配 "Windows 2000" 中的 "Windows"。预查不消耗字符,也就是说,在一个匹配发生后,在最后一次匹配之后立即开始下一次匹配的搜索,而不是从包含预查的字符之后开始。

x|y 
匹配 x 或 y。例如,'z|food' 能匹配 "z" 或 "food"。'(z|f)ood' 则匹配 "zood" 或 "food"。 
[xyz] 
字符集合。匹配所包含的任意一个字符。例如, '[abc]' 可以匹配 "plain" 中的 'a'。 
[^xyz] 
负值字符集合。匹配未包含的任意字符。例如, '[^abc]' 可以匹配 "plain" 中的'p'。 
[a-z] 
字符范围。匹配指定范围内的任意字符。例如,'[a-z]' 可以匹配 'a' 到 'z' 范围内的任意小写字母字符。 
[^a-z] 
负值字符范围。匹配任何不在指定范围内的任意字符。例如,'[^a-z]' 可以匹配任何不在 'a' 到 'z' 范围内的任意字符。
/b 
匹配一个单词边界,也就是指单词和空格间的位置。例如, 'er/b' 可以匹配"never" 中的 'er',但不能匹配 "verb" 中的 'er'。 
/B 
匹配非单词边界。'er/B' 能匹配 "verb" 中的 'er',但不能匹配 "never" 中的 'er'。 
/cx 
匹配由x指明的控制字符。例如, /cM 匹配一个 Control-M 或回车符。 x 的值必须为 A-Z 或 a-z 之一。否则,将 c 视为一个原义的 'c' 字符。 
/d 
匹配一个数字字符。等价于 [0-9]。 
/D 
匹配一个非数字字符。等价于 [^0-9]。 
/f 
匹配一个换页符。等价于 /x0c 和 /cL。 
/n 
匹配一个换行符。等价于 /x0a 和 /cJ。 
/r 
匹配一个回车符。等价于 /x0d 和 /cM。 
/s 
匹配任何空白字符,包括空格、制表符、换页符等等。等价于 [ /f/n/r/t/v]。 
/S 
匹配任何非空白字符。等价于 [^ /f/n/r/t/v]。 
/t 
匹配一个制表符。等价于 /x09 和 /cI。 
/v 
匹配一个垂直制表符。等价于 /x0b 和 /cK。 
/w 
匹配包括下划线的任何单词字符。等价于'[A-Za-z0-9_]'。 
/W 
匹配任何非单词字符。等价于 '[^A-Za-z0-9_]'。 
/xn 
匹配 n,其中 n 为十六进制转义值。十六进制转义值必须为确定的两个数字长。例如, '/x41' 匹配 "A"。'/x041' 则等价于 '/x04' & "1"。正则表达式中可以使用 ASCII 编码。. 
/num 
匹配 num,其中 num 是一个正整数。对所获取的匹配的引用。例如,'(.)/1' 匹配两个连续的相同字符。 
/n 
标识一个八进制转义值或一个后向引用。如果 /n 之前至少 n 个获取的子表达式,则 n 为后向引用。否则,如果 n 为八进制数字 (0-7),则 n 为一个八进制转义值。 
/nm 
标识一个八进制转义值或一个后向引用。如果 /nm 之前至少有is preceded by at least nm 个获取得子表达式,则 nm 为后向引用。如果 /nm 之前至少有 n 个获取,则 n 为一个后跟文字 m 的后向引用。如果前面的条件都不满足,若 n 和 m 均为八进制数字 (0-7),则 /nm 将匹配八进制转义值 nm。 
/nml 
如果 n 为八进制数字 (0-3),且 m 和 l 均为八进制数字 (0-7),则匹配八进制转义值 nml。 
/un 
匹配 n,其中 n 是一个用四个十六进制数字表示的 Unicode 字符。例如, /u00A9 匹配版权符号 (?)。

Grep正则表达式

要用好grep这个工具,其实就是要写好正则表达式,所以这里不对grep的所有功能进行实例讲解,只列几个例子,讲解一个正则表达式的写法。 
$ ls -l | grep '^a' 
通过管道过滤ls -l输出的内容,只显示以a开头的行。 
$ grep 'test' d* 
显示所有以d开头的文件中包含test的行。 
$ grep 'test' aa bb cc 
显示在aa,bb,cc文件中匹配test的行。 
$ grep '[a-z]/{5/}' aa 
显示所有包含每个字符串至少有5个连续小写字符的字符串的行。 
$ grep 'w/(es/)t.*/1' aa 
如果west被匹配,则es就被存储到内存中,并标记为1,然后搜索任意个字符(.*),这些字符后面紧跟着另外一个es(/1),找到就显示该行。如果用egrep或grep -E,就不用"/"号进行转义,直接写成'w(es)t.*/1'就可以了。

grep正则表达式元字符集(基本集) 

锚定行的开始 如:'^grep'匹配所有以grep开头的行。 

锚定行的结束 如:'grep$'匹配所有以grep结尾的行。 

匹配一个非换行符的字符 如:'gr.p'匹配gr后接一个任意字符,然后是p。 

匹配零个或多个先前字符 如:'*grep'匹配所有一个或多个空格后紧跟grep的行。 .*一起用代表任意字符。 
[] 
匹配一个指定范围内的字符,如'[Gg]rep'匹配Grep和grep。 
[^] 
匹配一个不在指定范围内的字符,如:'[^A-FH-Z]rep'匹配不包含A-R和T-Z的一个字母开头,紧跟rep的行。 
/(../) 
标记匹配字符,如'/(love/)',love被标记为1。 
/< 
锚定单词的开始,如:'/ 
/> 
锚定单词的结束,如'grep/>'匹配包含以grep结尾的单词的行。

x/{m/} 
重复字符x,m次,如:'0/{5/}'匹配包含5个o的行。

x/{m,/} 
重复字符x,至少m次,如:'o/{5,/}'匹配至少有5个o的行。

x/{m,n/} 
重复字符x,至少m次,不多于n次,如:'o/{5,10/}'匹配5--10个o的行。 
/w 
匹配文字和数字字符,也就是[A-Za-z0-9],如:'G/w*p'匹配以G后跟零个或多个文字或数字字符,然后是p。 
/W 
/w的反置形式,匹配一个或多个非单词字符,如点号句号等。 
/b 
单词锁定符,如: '/bgrepb/'只匹配grep。

Shell字符串处理 
1. 构造字符串 
直接构造 
STR_ZERO=hello 
STR_FIRST="i am a string" 
STR_SECOND='success' 
重复多次 
#repeat the first parm($1) by $2 times 
strRepeat() 

local x=$2 
if [ "$x" == "" ]; then 
x=0 
fi 
local STR_TEMP="" 
while [ $x -ge 1 ]; 
do 
STR_TEMP=`printf "%s%s" "$STR_TEMP" "$1"` 
x=`expr $x - 1` 
done 
echo $STR_TEMP 

举例: 
STR_REPEAT=`strRepeat "$USER_NAME" 3` 
echo "repeat = $STR_REPEAT" 
2. 赋值与拷贝 
直接赋值 
与构造字符串一样 
USER_NAME=terry 
从变量赋值 
ALIASE_NAME=$USER_NAME 
3. 联接 
直接联接两个字符串 
STR_TEMP=`printf "%s%s" "$STR_ZERO" "$USER_NAME"` 
使用printf可以进行更复杂的联接 
4. 求长 
求字符数(char) 
COUNT_CHAR=`echo "$STR_FIRST" | wc -m` 
echo $COUNT_CHAR 
求字节数(byte) 
COUNT_BYTE=`echo "$STR_FIRST" | wc -c` 
echo $COUNT_BYTE 
求字数(word) 
COUNT_WORD=`echo "$STR_FIRST" | wc -w` 
echo $COUNT_WORD 
5. 比较 
相等比较 
str1 = str2 
不等比较 
str1 != str2 
举例: 
if [ "$USER_NAME" = "terry" ]; then 
echo "I am terry" 
fi 
小于比较 
# return 0 if the two string is equal, return 1 if $1 < $2, else 2 strCompare() { local x=0 if [ "$1" != "$2" ]; then x=2 local TEMP=`printf "%s/n%s" "$1" "$2"` local TEMP2=`(echo "$1"; echo "$2") | sort` if [ "$TEMP" = "$TEMP2" ]; then x=1 fi fi echo $x } 
6. 测试 
判空 
-z str 
判非空 
-n str 
是否为数字 
# return 0 if the string is num, otherwise 1 
strIsNum() 

local RET=1 
if [ -n "$1" ]; then 
local STR_TEMP=`echo "$1" | sed 's/[0-9]//g'` 
if [ -z "$STR_TEMP" ]; then 
RET=0 
fi 
fi 
echo $RET 

举例: 
if [ -n "$USER_NAME" ]; then 
echo "my name is NOT empty" 
fi 
echo `strIsNum "9980"` 
7. 分割 
以符号+为准,将字符分割为左右两部分 
使用sed 
举例: 
命令 date --rfc-3339 seconds 的输出为 
2007-04-14 15:09:47+08:00 
取其+左边的部分 
date --rfc-3339 seconds | sed 's/+[0-9][0-9]:[0-9][0-9]//g' 
输出为 
2007-04-14 15:09:47 
取+右边的部分 
date --rfc-3339 seconds | sed 's/.*+//g' 
输出为 
08:00 
以空格为分割符的字符串分割 
使用awk 
举例: 
STR_FRUIT="Banana 0.89 100" 
取第3字段 
echo $STR_FRUIT | awk '{ print $3; }' 
8. 子字符串 
字符串1是否为字符串2的子字符串 
# return 0 is $1 is substring of $2, otherwise 1 
strIsSubstring() 

local x=1 
case "$2" in 
*$1*) x=0;; 
esac 
echo $x 
}

shell 编程中使用到得if语句内判断参数

  –b 当file存在并且是块文件时返回真 
  -c 当file存在并且是字符文件时返回真 
  -d 当pathname存在并且是一个目录时返回真 
  -e 当pathname指定的文件或目录存在时返回真 
  -f 当file存在并且是正规文件时返回真 
  -g 当由pathname指定的文件或目录存在并且设置了SGID位时返回为真 
  -h 当file存在并且是符号链接文件时返回真,该选项在一些老系统上无效 
  -k 当由pathname指定的文件或目录存在并且设置了“粘滞”位时返回真 
  -p 当file存在并且是命令管道时返回为真 
  -r 当由pathname指定的文件或目录存在并且可读时返回为真 
  -s 当file存在文件大小大于0时返回真 
  -u 当由pathname指定的文件或目录存在并且设置了SUID位时返回真 
  -w 当由pathname指定的文件或目录存在并且可执行时返回真。一个目录为了它的内容被访问必然是可执行的。 
  -o 当由pathname指定的文件或目录存在并且被子当前进程的有效用户ID所指定的用户拥有时返回真。

UNIX Shell 里面比较字符写法: 
  -eq 等于 
  -ne 不等于 
  -gt 大于 
  -lt 小于 
  -le 小于等于 
  -ge 大于等于 
  -z 空串 
  = 两个字符相等 
  != 两个字符不等 
  -n 非空串 
  -------------------------------------------------------------------------

  更为详细的说明: 
  运算符 描述 示例 
  文件比较运算符 
  -e filename 如果 filename 存在,则为真 [ -e /var/log/syslog ] 
  -d filename 如果 filename 为目录,则为真 [ -d /tmp/mydir ] 
  -f filename 如果 filename 为常规文件,则为真 [ -f /usr/bin/grep ] 
  -L filename 如果 filename 为符号链接,则为真 [ -L /usr/bin/grep ] 
  -r filename 如果 filename 可读,则为真 [ -r /var/log/syslog ] 
  -w filename 如果 filename 可写,则为真 [ -w /var/mytmp.txt ] 
  -x filename 如果 filename 可执行,则为真 [ -L /usr/bin/grep ] 
  filename1 -nt filename2 如果 filename1 比 filename2 新,则为真 [ /tmp/install/etc/services -nt /etc/services ] 
  filename1 -ot filename2 如果 filename1 比 filename2 旧,则为真 [ /boot/bzImage -ot arch/i386/boot/bzImage ]

  字符串比较运算符 (请注意引号的使用,这是防止空格扰乱代码的好方法) 
-z string 如果 string 长度为零,则为真 [ -z $myvar ] 
  -n string 如果 string 长度非零,则为真 [ -n $myvar ] 
  string1 = string2 如果 string1 与 string2 相同,则为真 [ $myvar = one two three ] 
  string1 != string2 如果 string1 与 string2 不同,则为真 [ $myvar != one two three ]

  算术比较运算符 
  num1 -eq num2 等于 [ 3 -eq $mynum ] 
  num1 -ne num2 不等于 [ 3 -ne $mynum ] 
  num1 -lt num2 小于 [ 3 -lt $mynum ] 
  num1 -le num2 小于或等于 [ 3 -le $mynum ] 
  num1 -gt num2 大于 [ 3 -gt $mynum ] 
  num1 -ge num2 大于或等于 [ 3 -ge $mynum ]

  脚本示例: 
  #!/bin/bash 
  # This script prints a message about your weight if you give it your 
  # weight in kilos and hight in centimeters. 
  if [ ! $# == 2 ]; then 
  echo "Usage: $0 weight_in_kilos length_in_centimeters" 
  exit 
  fi 
  weight="$1" 
  height="$2" 
  idealweight=$[$height - 110] 
  if [ $weight -le $idealweight ] ; then 
  echo "You should eat a bit more fat." 
  else 
  echo "You should eat a bit more fruit." 
  fi 
  # weight.sh 70 150 
  You should eat a bit more fruit. 
  # weight.sh 70 150 33 
  Usage: ./weight.sh weight_in_kilos length_in_centimeters 
  位置参数 $1, $2,..., $N,$#代表了命令行的参数数量, $0代表了脚本的名字, 
  第一个参数代表$1,第二个参数代表$2,以此类推,参数数量的总数存在$#中,上面的例子显示了怎么改变脚本,如果参数少于或者多余2个来打印出一条消息。 
  执行,并查看情况。 
  # bash -x tijian.sh 60 170 
  + weight=60 
  + height=170 
  + idealweight=60 
  + '[' 60 -le 60 ']' 
  + echo 'You should eat a bit more fat.' 
  You should eat a bit more fat. 
  其中-x用来检查脚本的执行情况