R语言连接数据库中文问题

时间:2022-02-02 01:40:44
前段时间,我问一个写了好些年代码的资深高手,我说你平时如果要做数据分析以及可视化专题图表的时候,一般用啥来做?他告诉我,做项目的时候,都是写JAVA拼啊……

我说,那你为什么不考虑用R语言或者Python呢?他直接告诉我:我们一般不用这种非主流语言。

然后我又问:如果任务很急,比如中午领导告诉你,我就要这三百万条数据的基础统计图表,下午下班前给我。你怎么办?

他说,这个就比较麻烦了,遇上这种统计的事项,我们都是采用项目形式来完成了……

对话完毕。

从以上对话,可能大家能够得出和虾神一样的结论:正常程序员对于这种短平快的任务(就要几个简单统计图),采企业级开发的语言(Java等),还是挺麻烦的。

虾神年轻时候也是写代码出身的,脑补一下,如果遇上这种事情,用正常程序员的流程应该怎么做:

首先:搭建工程,各种框架、外部包、数据库连接准备工作。

然后写后台,各种拼SQL语句。

最后,写前台,调用交互好的数据,用javascrip的各种框架(比如D3)来进行可视化,如果有美工介入,出来的东西肯定无懈可击的。

但是……当你把这一套东西都弄完,可能一个月就过去了(如果就你一个人……,而且你还得是个全栈工程师)。当然,你也可以反驳——本座写代码块,一周(三天)就能搞定。而且还能够各种复用……
R语言连接数据库中文问题

好吧,我想说的是,如果你会一门脚本语言的话,当你把工程建好的时候,这边整个任务都已经完成了。

当然,上面的内容只是虾神有感而发。和今天的博客内容没有任何关系。

今天博客主要是解决一个学R语言里面最最痛苦的问题(嗯,python2.x里面也有),就是中文乱码问题:

一般用R语言的同学,多半遇见过以下这个问题:
R语言连接数据库中文问题

反正虾神我每次遇见这个问题,立刻就是:
R语言连接数据库中文问题

实际上这个问题写代码的人一般都能遇见,不同字符编码的问题,如果是从文件里面读的还好说,可以带这个字符编码集一起读,但是如果这个数据是来自于数据库的,如果经验的话,那就真得各种凉拌了。

下面我简单把我今天通过R语言从Postgresql数据库中处理中文问题的整个流程说说,如果哪位同学也遇上了,可以参考我的整个解决方式。

下面这个代码是简单的从R连接Postgresql获取数据的过程,如果没有中文,就一切ok:

library(ggplot2)
library(RPostgreSQL)
drv= dbDriver("PostgreSQL")
pgCon=dbConnect(drv,user="sde",password="sde",host="127.0.0.1")
s ="select * from chinapop"
rs = dbSendQuery(pgdb, statement = s)
df = fetch(rs, n = -1)


数据是我SDE库里面的,内容如下:
R语言连接数据库中文问题

在数据库里面表现如下:
R语言连接数据库中文问题

结构非常简单,大部分字段都是数字型,只有name这个字段是中文的,当我们运行连接和查询之后,在R语言里面就变成了这个一个dataframe:
R语言连接数据库中文问题

然后我们如果想进行一下查询,比如要查一下以“南”在结尾的省(湖南、河南、海南、云南),那么sql语句变成:
R语言连接数据库中文问题

一下就让我们抓狂了……生无可恋啊……

然后我们来看看为什么会出现这个问题,首先当然看看你的R语言的环境,这个可以通过sessionInfo()来实现
R语言连接数据库中文问题

原来R语言默认使用的是你系统的字符集——我这里win7中文版,默认的字符集就是cp936,也就是所谓的gb2312编码。

然后再来看看我们数据库用的编码,我这里是Postgersql,其他的数据库查看方式自己百度:
R语言连接数据库中文问题

字符编码是UTF-8……好吧,知道这个问题就好解决了。

首先,从数据库里面获取的数据,回来的是UTF8的,那么我们可以转成R的字符编码,转换的函数R语言里面已经提供了,叫做iconv(),如下:
R语言连接数据库中文问题

将df里面的name数列,从UTF8的编码,转换为CP936,这样就变成了中文了。

下面就可以用同样的方式来处理中文查询的问题:
这次是从CP936转换为UTF8来执行,语句如下:
s =paste("select * from chinapop where name like '%",iconv("南","CP936","UTF8"),"'",sep = "")
paster函数,是R语言里面的字符串连接函数。
R语言连接数据库中文问题
下面抛出了一个警告,所里面有个字段类型是st_geometry类型的,R语言读不了……这个是ArcGIS的东西,直接不管。

然后我们可以看出,查出来4条数据,说明SQL语句执行成功了,但是回来的还是乱码,接下去用上面说的iconv()函数转换一下就行:
R语言连接数据库中文问题
到此,中文问题解决.

后面就是R语言老本行分析&可视化了,我们把这4个省的2008年的GDP做一个柱状图,代码如下(用的是ggplot2)
qplot(name,gdp_2008,data=df,fill=gdp_2008)+geom_bar(stat='identity')

R语言连接数据库中文问题
如果还需要其他的各种分析可视化,敲命令就可以了,打完收工。