lua脚本对utf8字符串过滤中文字符

时间:2023-01-11 13:09:53

lua 的string库不支持处理utf-8编码的汉字。用lua要处理汉字还是很费劲的。


UTF8的编码规则:

1. 字符的第一个字节范围: 0x00—0x7F(0-127),或者 0xC2—0xF4(194-244); UTF8 是兼容 ascii 的,所以 0~127 就和 ascii 完全一致

2. 0xC0, 0xC1,0xF5—0xFF(192, 193 和 245-255)不会出现在UTF8编码中 

3. 0x80—0xBF(128-191)只会出现在第二个及随后的编码中(针对多字节编码,如汉字) 

 

 这样我们可以利用lua强大的模式匹配,来实现我们要的效果,关键的处理有这么两个: 

1. 

local _, count = string.gsub(str, "[^\128-\193]", ""),

用来得到str中的字符数 

2. 

for uchar in string.gfind(str, "[%z\1-\127\194-\244][\128-\191]*") do

tab[#tab+1] = uchar

end,

用来把str中的每个字符映射到tab中