Linux下汉字编码的转换(gbk转换为utf8)

时间:2022-04-05 14:11:15

因为项目的需要linux下将GBK编码转换为utf8编码,google一下,网上的相关资源比较少,下面的操作经过本人的反复试验。本例子同样适用于其他的编码转换

有gbk到utf8的转换过程,需要经过unicode作为中间编码。因为Windows的转换相对简单,先讲一下windows下的转换过程,linux下的过程基本相同,函数使用上有差别

Windows下:

1、在windows下可以使用函数MultiByteToWideChar先将多字节字符,转换为unicode。

2、使用函数WideCharToMultiByte,将unicode再转换为utf8编码。

google一下,网上例子很多。在这里贴了一个简单的源码,实现ansi到utf8编码的转换

char *multichar_2_utf8(const char *m_string)
{
	int len=0;
	wchar_t *w_string;
	char *utf8_string;
    //计算由ansi转换为unicode后,unicode编码的长度
	len=MultiByteToWideChar(CP_ACP,0,(LPCTSTR)m_string, -1, NULL,0);//CP_ACP指示了转换为unicode编码的编码类型
	w_string=(wchar_t *)malloc(2*len+2);
	memset(w_string,0,2*len+2);
    //ansi到unicode转换
	MultiByteToWideChar(CP_ACP, 0, (LPCTSTR)m_string,-1,w_string, len);//CP_ACP指示了转换为unicode编码的编码类型

    //计算unicode转换为utf8后,utf8编码的长度
	len = WideCharToMultiByte(CP_UTF8, 0, w_string, -1, NULL, 0, NULL, NULL);//CP_UTF8指示了unicode转换为的类型
    	utf8_string=(char  *)malloc(len+1);
    	memset(utf8_string, 0, len + 1);
    //unicode到utf8转换
    	WideCharToMultiByte (CP_UTF8, 0, w_string, -1, utf8_string, len, NULL,NULL);//CP_UTF8指示了unicode转换为的类型
	free(w_string);
	return utf8_string;
}

Linux下:

linux下没有上面的两个函数,需要使用函数 mbstowcs和wcstombs

mbstowcs将多字节编码转换为宽字节编码

wcstombs将宽字节编码转换为多字节编码

这两个函数,转换过程中受到系统编码类型的影响,需要通过设置来设定转换前和转换后的编码类型。通过函数setlocale进行系统编码的设置。

linux下输入命名

locale -a查看系统支持的编码类型。

andy@andy-linux:~$ locale -a
C
en_AG
en_AU.utf8
en_BW.utf8
en_CA.utf8
en_DK.utf8
en_GB.utf8
en_HK.utf8
en_IE.utf8
en_IN
en_NG
en_NZ.utf8
en_PH.utf8
en_SG.utf8
en_US.utf8
en_ZA.utf8
en_ZW.utf8
POSIX
zh_CN.gb18030
zh_CN.gbk
zh_CN.utf8
zh_HK.utf8
zh_SG.utf8
zh_TW.utf8

本例子中实现的是由zh_CN.gbk到zh_CN.utf8的转换

流程:

1、调用函数setlocale(LC_ALL,"zh_CN.gbk"),设置待转码的字符串类型为gbk类型。

2、调用函数mbstowcs,实现 设置的编码到unicode编码的转换。

3、调用函数setlocale(LC_ALL,"zh_CN.utf8"),设置转换后编码类型为utf8类型。

4、调用函数wcstombs,实现unicode到 设置的编码类型的转换。
下面是我写的源码

 

#include <stdlib.h>
#include <locale.h>


/******************************************************************************
 * FUNCTION: gbk2utf8
 * DESCRIPTION: 实现由gbk编码到utf8编码的转换 
 * 
 * Input: utfStr,转换后的字符串;  srcStr,待转换的字符串; maxUtfStrlen, utfStr的最
            大长度
 * Output: utfStr
 * Returns: -1,fail;>0,success
 * 
 * modification history
 * --------------------
 *  2011-nov-25, lvhongya written
 * --------------------
 ******************************************************************************/
int gbk2utf8(char *utfStr,const char *srcStr,int maxUtfStrlen)
{
    if(NULL==srcStr)
    {
        printf("Bad Parameter\n");
        return -1;
    }

    //首先先将gbk编码转换为unicode编码
    if(NULL==setlocale(LC_ALL,"zh_CN.gbk"))//设置转换为unicode前的码,当前为gbk编码
    {
        printf("Bad Parameter\n");
        return -1;
    }

    int unicodeLen=mbstowcs(NULL,srcStr,0);//计算转换后的长度
    if(unicodeLen<=0)
    {
        printf("Can not Transfer!!!\n");
        return -1;
    }
    wchar_t *unicodeStr=(wchar_t *)calloc(sizeof(wchar_t),unicodeLen+1);
    mbstowcs(unicodeStr,srcStr,strlen(srcStr));//将gbk转换为unicode
    
    //将unicode编码转换为utf8编码
    if(NULL==setlocale(LC_ALL,"zh_CN.utf8"))//设置unicode转换后的码,当前为utf8
    {
        printf("Bad Parameter\n");
        return -1;
    }
    int utfLen=wcstombs(NULL,unicodeStr,0);//计算转换后的长度
    if(utfLen<=0)
    {
        printf("Can not Transfer!!!\n");
        return -1;
    }
    else if(utfLen>=maxUtfStrlen)//判断空间是否足够
    {
        printf("Dst Str memory not enough\n");
        return -1;
    }
    wcstombs(utfStr,unicodeStr,utfLen);
    utfStr[utfLen]=0;//添加结束符
    free(unicodeStr);
    return utfLen;
}

 

尊重劳动成果,转帖请注明出处:http://blog.csdn.net/lvhongya/article/details/7011019