1.全局声明编码的格式
from __future__ import print_function
from __future__ import unicode_literals
import sys
reload(sys)
sys.setdefaultencoding('utf-8')
在func中将字符串转为unicode,再转为中文编码
如str.decode('utf-8').encode('gbk')
2.在测试过程中,遇到一个问题,即使声明了全局的编码格式,但是在读写txt文件的时候,中文的标点会输出乱码,这个时候需要声明整个txt文件打开的编码格式。
import codecs
f = codecs.open(txt_path, 'r', 'utf-8')
3.将列表等合集,转为unicode编码
json.dumps(sents, encoding="gbk", ensure_ascii=False))