环境/框架:windows7+Intellij Idea+jdk8+tomcat+Spring
起因:写微信支付接口时遇到过很多编码错误问题,比如:
1. 收到了微信返回、console里打印出来错误描述是“???mchid???appid???”
2. 返回给设备端的出错描述,postman里看到是“JSON???????”
3. 另外这里提到的签名checksum计算错误
目的:使代码开发、程序运行和读写http消息时都使用UTF-8编码
Disclaimer:只是整理自己遇到且试过的(没有数据库、html页面相关)。解决思路和大部分代码来源都是*(感谢SO答主)。一些能原帖链接已经附上、其他用英文google应该都能找到。
Checklist:
Intellij settings -> file encodings 都设成UTF-8,目的:将项目源文件都以UTF-8保存。
[optional] Intellij bin/目录下idea.exe.vmoptions/idea64.exe.vmoptions 增加
-Dfile.encoding=UTF8
,目的:使IDE在UTF-8下运行。
(仔细想了想其实说不出这个有什么具体作用…但因为遇到过console打印乱码问题,为了限制/缩小排查范围就加上了。)
以上参考intellij-idea-incorrect-encoding-in-console-output设置maven或gradle编译选项,具体参考:
Maven文档
how-to-configure-encoding-in-maven
show-utf-8-text-properly-in-gradle
目的:保证生成的class文件(特别是其中的static String)都使用utf8编码。配置tomcat。用到的是
(1)jvm_opts增加-Dfile.encoding=UTF8
(可以修改catalina.bat或Intellij的run configuration),目的:保证在运行各webapp时用UTF8而不是系统默认编码(开头提到的checksum问题)。
(2)server.xml里<Connector>
增加属性URIEncoding="UTF-8"
,目的:保证GET方法的url(及query string)使用utf8解析。
两个非常详细的参考:
Tomcat FAQ CharactorEncoding (里面的How to use UTF-8 everywhere节)
how-to-get-utf-8-working-in-java-webapps-
配置web.xml里servlet
<filter>
,我看到的用Spring的一般都是<filter>
<filter-name>SpringEncodingFilter</filter-name>
<filter-class>org.springframework.web.filter.CharacterEncodingFilter</filter-class>
<init-param>
<param-name>encoding</param-name>
<param-value>UTF-8</param-value>
</init-param>
<init-param>
<param-name>forceEncoding</param-name>
<param-value>true</param-value>
</init-param>
</filter>CharacterEncodingFilter
的作用Java doc里写的很清楚,代码里是这样:String encoding = getEncoding(); // 这个是xml里设置的UTF-8
if (encoding != null) {
if (isForceRequestEncoding() || request.getCharacterEncoding() == null) {
request.setCharacterEncoding(encoding);
}
if (isForceResponseEncoding()) { // isForceRequestEncoding和isForceResponseEncoding都等于forceEncoding
response.setCharacterEncoding(encoding);
}
}如果接口开发里使用的是javax的
HttpServletRequest
和HttpServletResponse
,配置完这步后、Content-Type
里的charset应该都是UTF-8了。当然这个只是加个名称、具体body的stream读写还是要自己处理的…
参考:
CharacterEncodingFilter
encoding-and-servlet-api-setcontenttype-or-setcharacterencoding -
然而如果使用Spring web MVC、具体是用到
@RequestBody
、@ResponseBody
等annotation时,将stream和目标Object互转的class是HttpMessageConverter
而非CharacterEncodingFilter
,
参考 RequestMapping Java doc
其中提到比如:@ResponseBody annotated methods (Servlet-only) for access to the Servlet response HTTP contents. The return value will be converted to the response stream using message converters.
还有这个09年的帖子
CharacterEncodingFilter can’t help here, because String returned by @RequestBody-annotated method is encoded by StringHttpMessageConverter
(没有在Spring代码里找到到底是哪边决定使用
CharacterEncodingFilter
或者HttpMessageConverter
,但既然官方doc里这么说了、应用开发知道就好了吧…)此时如果Controller方法里注入或返回的参数是
String
类型1、且没有指定编码(@RequestMapping
里没有produces),仍然是有默认charset=ISO-8859-1
会被框架自动添加上去。这个默认charset来自的是StringHttpMessageConverter
:public static final Charset DEFAULT_CHARSET = Charset.forName("ISO-8859-1");
参考
StringHttpMessageConverter Java doc
who-sets-response-content-type-in-spring-mvc-responsebody (具体几种配置方法可参考这个链接)我希望统统都用utf8,所以直接
register-defaults="false"
并改了defaultCharset,写出来的xml是这样:<mvc:annotation-driven>
<mvc:message-converters register-defaults="false">
<bean class="org.springframework.http.converter.StringHttpMessageConverter">
<constructor-arg>
<util:constant static-field="java.nio.charset.StandardCharsets.UTF_8"/>
</constructor-arg>
</bean>
</mvc:message-converters>
</mvc:annotation-driven>然而09年那个帖子的回答里写的直接是
<constructor-arg value="UTF-8">
实际测下来是可以用的(注入了UTF-8 Charset对象),不是很确定Spring到底是怎么解析的…
4主要处理GET Request、5主要处理POST Request、6主要处理Response,这样server端应该就没问题了。而Spring的
RestTemplate
client,参考how-can-i-tell-resttemplate-to-post-with-utf-8-encoding,也是一样加了utf-8的message converter。好奇了下Jackson,结果说Jackson因为Json关系只支持的UTF-8、UTF-16和UTF-32、且可以自动检测,参考
jackson-objectmapper-with-utf-8-encoding
JsonEncoding.java
jackson-core/issues/222
特地查了Json的encoding要求,还确实是这样。
xml的话,开头就是<?xml version="1.0" encoding="UTF-8"?>
。话说回来,编码encoding、字符集charset到底是什么?UTF-8、UTF-16、UTF-32又有什么区别?
又翻回到以前看的…
whats-the-difference-between-encoding-and-charset
what-is-unicode-utf-8-utf-16
评论提到的入门必读absolute-minimum-must-know
甚至这个贴吧帖子: 我早就想问了,极影下载的GB和BIG5,究竟是什么区别?
不过GB是编码,GB2312和GBK是字符集;而Unicode是字符集,UTF-8、UTF-16、UTF-32都是编码;开始确实有点绕…
- 昨天提交完文档就遇到同组里其他人开发的接口里fastJson的JSONObject注入出错、后来参考了这个17年4月7号的教程、加了
FastJsonHttpMessageConverter
就好。总之Spring预设就挂载这多个MessageConverter(前文链接里2.2. The Default Message Converters列表)、有多个converter可以对supportedMediaTypes
property进行细化配置,暂时没有更深入了解了就不写了 ↩