作为一名程序员,肯定有被乱码困扰的时候,真到了百思不得其解的时候,就会觉得:英文程序员真幸福。

但其实只要明白编码之间的转换规律,其实乱码so easy~

我们知道,计算机存储数据都是2进制,就是0和1,那么这么多的字符就都需要有自己对应的0和1组成的序列,计算机将需要存储的字符转换成它们对应的01序列,然后就可以储存在电脑里了。

比如我们可以定义用8位2进制表示一个字符,“00000000”表示小写字母“a”,“00000001”表示小写字母“b”,那么计算机要存储“ab”的时候,其实在计算机里的存储的是“0000000000000001”,读取的时候先读取前8位,根据对应关系,可以解码出“a”,再读取后8位,又可以解码出“b”,这样就读出了当时写入的“ab”了。而我们定义的这种字符和二进制序列的对应关系,就可以称之为编码。我们如果需要将“ab”发送给别人,因为网络也是基于二进制,所以只要先约定好编码规则,就可以发送“0000000000000001”,然后对方根据约定的编码解码,就可以得到“ab”。现在是互联网的时代,我们经常需要和其他的计算机进行交互,一套编码系统还是比较复杂的,所以大家就需要约定统一的编码,这样的编码是大家都约定好的,就不用再去约定编码规则了~然而,为了满足各种不同的需求,人们还是制定了很多种编码,没有哪一种能全面替代其他编码,所以现在多种编码并存。通常这些编码都被大家所接受和熟知,所以现在不用再通信前商量编码的对应规则和细节,只需要告诉对方,我采用的是什么通用编码,彼此就能愉快地通信了。

所以乱码的本质就是:读取二进制的时候采用的编码和最初将字符转换成二进制时的编码不一致。

ps:编码有动词含义也有名词含义,名词含义就是一套字符和二进制序列之间的转换规则,动词含义是使用这种规则将字符转换成二进制序列。

好了,废话不多,直接上一段代码:

import java.io.UnsupportedEncodingException;

public class EncodingTest {

public static void main(String[] args) throws UnsupportedEncodingException {

String srcString = "我们是中国人";

String utf2GbkString = new String(srcString.getBytes("UTF-8"),"GBK");

System.out.println("UTF-8转换成GBK:"+utf2GbkString);

String utf2Gbk2UtfString = new String(utf2GbkString.getBytes("GBK"),"UTF-8");

System.out.println("UTF-8转换成GBK再转成UTF-8:"+utf2Gbk2UtfString);

}

}

因为UTF-8和GBK是两套中文支持较好的编码,所以经常会进行它们之间的转换,这里就以它们举例。

以上代码运行打印出以下内容:

UTF-8转换成GBK:鎴戜滑鏄腑鍥戒汉

UTF-8转换成GBK再转成UTF-8:我们是中国人

我们看到,将"我们是中国人"以UTF-8编码转换成byte数组(byte数组其实就相当于二进制序列了,此过程即编码),再以GBK编码和byte数组创建新的字符串(此过程即以GBK编码去解码byte数组,得到字符串),就产生乱码了。

因为编码采用的UTF-8和解码采用的GBK不是同一种编码,所以最后结果乱码了。

之后再对乱码使用GBK编码,还原到解码前的byte数组,再使用和最初编码时使用的一致的编码UTF-8进行解码,就可得到最初的“我们是中国人”。

这种多余的转换有时候还是很有用的,比如ftp协议只支持ISO-8859-1编码,这个时候如果要传中文,只能先换成ISO-8859-1的乱码,ftp完成后,再转回UTF-8就又可以得到正常的中文了。

怎么样?编码转换是不是so easy?那该来点正经的了:

import java.io.UnsupportedEncodingException;

public class EncodingTest {

public static void main(String[] args) throws UnsupportedEncodingException {

String srcString = "我们是中国人";

String gbk2UtfString = new String(srcString.getBytes("GBK"), "UTF-8");

System.out.println("GBK转换成UTF-8:" + gbk2UtfString);

String gbk2Utf2GbkString = new String(gbk2UtfString.getBytes("UTF-8"), "GBK");

System.out.println("GBK转换成UTF-8再转成GBK:" + gbk2Utf2GbkString);

}

}

这次我们反过来,先将字符串以GBK编码再以UTF-8解码,再以UTF-8编码,再以GBK解码。

这次的运行结果是:

GBK转换成UTF-8:�������й���

GBK转换成UTF-8再转成GBK:锟斤拷锟斤拷锟斤拷锟叫癸拷锟斤拷

WTF??万恶的“锟斤拷”,相信不少人都见过。这里GBK转成UTF-8乱码好理解,但是再转回来怎么变成了“锟斤拷锟斤拷锟斤拷锟叫癸拷锟斤拷”,这似乎不科学。

这其实和UTF-8独特的编码方式有关,由于UTF-8需要对unicode字符进行编码,unicode字符集是一个几乎支持所有字符的字符集,为了表示这么庞大的字符集,UTF-8可能需要更多的二进制位来表示一个字符,同时为了不致使UTF-8编码太占存储空间,根据二八定律,UTF-8采用了一种可变长的编码方式,即将常用的字符编码成较短的序列,而不常用的字符用较长的序列表示,这样让编码占用更少存储空间的同时也保证了对庞大字符集的支持。

正式由于UTF-8采用的这种特别的变长编码方式,这一点和其他的编码很不一样。比如GBK固定用两个字节来表示汉字,一个字节来表示英文和其他符号。

来测试一下:

import java.io.UnsupportedEncodingException;

public class EncodingTest {

public static void main(String[] args) throws UnsupportedEncodingException {

String srcString = "我们是中国人";

byte[] GbkBytes = srcString.getBytes("GBK");

System.out.println("GbkBytes.length:" + GbkBytes.length);

byte[] UtfBytes = srcString.getBytes("UTF-8");

System.out.println("UtfBytes.length:" + UtfBytes.length);

String s;

for (int i = 0; i

s = Character.valueOf(srcString.charAt(i)).toString();

System.out.println(s + ":" + s.getBytes().length);

}

}

}

运行结果为:

GbkBytes.length:12

UtfBytes.length:18

我:3

们:3

是:3

中:3

国:3

人:3

可以看到使用GBK进行编码,“我们是中国人”6个汉字占12个字节,而是用UTF-8进行编码则占了18个字节,其中每个汉字占3个字节(由于是常用汉字,只占3个字节,有的稀有汉字会占四个字节。)

UTF-8编码的读取方式也比较不同,需要先读取第一个字节,然后根据这个字节的值才能判断这个字节之后还有几个字节共同参与一个字符的表示。

对于某一个字符的UTF-8编码,如果只有一个字节则其最高二进制位为0;如果是多字节,其第一个字节从最高位开始,连续的二进制位值为1的个数决定了其编码的位数,其余各字节均以10开头。UTF-8最多可用到6个字节。

如表:

1字节 0xxxxxxx

2字节 110xxxxx 10xxxxxx

3字节 1110xxxx 10xxxxxx 10xxxxxx

4字节 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx

5字节 111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx

6字节 1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx

因此UTF-8中可以用来表示字符编码的实际位数最多有31位,即上表中x所表示的位。除去那些控制位(每字节开头的10等),这些x表示的位与UNICODE编码是一一对应的,位高低顺序也相同。

实际将UNICODE转换为UTF-8编码时应先去除高位0,然后根据所剩编码的位数决定所需最小的UTF-8编码位数。

因此那些基本ASCII字符集中的字符(UNICODE兼容ASCII)只需要一个字节的UTF-8编码(7个二进制位)便可以表示。

上面一随便看看就好,只要知道“由于UTF-8的特殊编码方式,所以有些序列是不可能出现在UTF-8编码中的”就可以了。

所以当我们将由GBK编码的12个字节试图用UTF-8解码时会出现错误,由于GBK编码出了不可能出现在UTF-8编码中出现的序列,所以当我们试图用UTF-8去解码时,经常会遇到这种不可能序列,对于这种不可能序列,UTF-8把它们转换成某种不可言喻的字符“�”,当这种不可言喻的字符再次以UTF-8进行编码时,他们已经无法回到最初的样子了,因为那些是UTF-8编码不可能编出的序列。然后这个神秘字符再转换成GBK编码时就变成了“锟斤拷”。当然,还有很多其他的巧合,可能正好碰到UTF-8中存在的序列,甚至原本不是一个字符的字节,可能是某个字的第二个字节和下一个字的两个字节,正好被识别成一个UTF-8序列,于是解码出一个汉字,当然这些在我们看来都是乱码了,只不过不是“锟斤拷”的样子。因为不可能序列更普遍存在,所以GBK转UTF-8再转GBK时,最常见的便是“锟斤拷”!

所以:以非UTF-8编码编码出的字节数组,一旦以UTF-8进行解码,通常这是一条不归路,再尝试将解码出的字符以UTF-8进行编码,也无法还原之前的字节数组。

相反地,其他的固定长度编码几乎都可以顺利还原。

=====================2016/11/15补充==========================

上文中其实有一个东西一直在回避,就是既然所有字符在保存时都需要转换成二进制,那么java是使用什么编码来保存字符的呢?这个问题其实我们可以不必深究,因为这对我们是透明的,我们只要假设java使用某种编码可以表示所有字符。得益于这种透明,我们可以当作java是直接保存字符本身的,就如上文所做的这样。但是今天面试的时候被问到了,我说这个是对我们透明所以没有深究。他说虽然是透明的,但是如果弄懂其中的原理还是能加深理解。我马上想到unicode,因为java要准确地表示所有字符,那么只有unicode能胜任了。这个回答也得到面试官的肯定,还说了一些更细节的。每种编码都会提供和unicode编码之间的转换规则。当我们以字符串直接量new一个String,这个String就是以unicode在内存中存储的。同样这也解决了一个让我疑惑的问题:为什么一个char中既可以存储一个字母,也可以存储一个汉字,明明很多编码如GBK、UTF-8中汉字和字母的长度不一样。如果java虚拟机使用unicode编码,那这一切就很好理解了,字母和汉字长度一样。

新增一条结论:java虚拟机中以使用unicode编码保存字符,任何编码都提供了和unicode编码的转换规则。

java锟斤拷锟斤拷锟_锟斤拷?UTF-8与GBK互转乱码问题相关推荐

  1. android拷机工具,【AndroidFramework】【EMMC拷机】混合拷机时盒子待机

    [AndroidFramework][EMMC拷机]混合拷机时盒子待机 问题结论 暂时确定为误按键,不是故障.问题关闭.后续完全保证无按键(物理隔离)情况下如果出现待机,请反馈. 问题描述 [EMMC ...

  2. 深拷⻉浅拷⻉的区别?如何实现⼀个深拷⻉?

    深拷⻉浅拷⻉的区别?如何实现⼀个深拷⻉? 答: JavaScript 中存在两⼤数据类型: 基本类型 引⽤类型 基本类型数据保存在在栈内存中 引⽤类型数据保存在堆内存中,引⽤数据类型的变量是⼀个指向堆 ...

  3. 有两个空酒桶,分别能舀3斤和7斤酒,还有1个装满了10斤的酒桶,我要卖5斤酒给剑客,这该如何是好?

    用3斤的盛两下分别倒入7斤的空酒桶里,7斤的空酒桶还有1斤就装满了,再盛3斤倒入7斤里1斤: 那么3斤里剩下了2斤,倒空7斤的酒桶,把3斤的酒桶的剩下的2斤酒倒入7斤的酒桶里, 再盛3斤倒入7斤桶里, ...

  4. 减一天_减肥好方法 | 减肥食谱一周瘦10斤,小窍门一天减一斤

    减肥好方法 | 减肥食谱一周瘦10斤,小窍门一天减一斤 饮食 早餐 两个鸡蛋➕紫薯粥 中餐 玉米➕鸡胸肉➕青菜➕牛奶➕圣女果 晚餐 紫薯➕虾➕西兰花➕香蕉➕柠檬水 . 今天每餐的分量都有很多,中午的手 ...

  5. 硬盘对拷必备 AGE USB/eSATA对拷机现卖场!_青岛行情-中关村在线

    硬盘对拷必备 AGE USB/eSATA对拷机现卖场!_青岛行情-中关村在线 硬盘对拷必备 AGE USB/eSATA对拷机现卖场!_青岛行情-中关村在线 硬盘对拷必备 AGE USB/eSATA对拷 ...

  6. 俩个装满水的8斤桶和一个空的3斤的桶分给4个人每人4斤

    有三个桶,两个大的可装8斤的水,一个小的可装3斤的水,现在有16斤水装满了两大桶就是8斤的桶,小桶空着,如何把这16斤水分给4个人,每人4斤.没有其他任何工具,4人自备容器,分出去的水不可再要回来. ...

  7. 任务一:实现销售分析功能关键算法A商店准备在今年夏天开始出售西瓜,西瓜的售价如下,20斤以上的每斤0.85元;重于15斤轻于等于20斤的,每斤0.90元;重于10斤轻于等于15斤的,每斤0.95元;

    任务一:实现销售分析功能关键算法 A商店准备在今年夏天开始出售西瓜,西瓜的售价如下,20斤以上的每斤0.85元:重于15斤轻于等于20斤的,每斤0.90元:重于10斤轻于等于15斤的,每斤0.95元: ...

  8. 生鲜配送ERP系统_对商品模块数据模型与界面设计的思考【Java 开源版】杭州生鲜配送系统_升鲜宝_SaaS全链路生鲜供应链管理系统_升鲜宝

    生鲜配送ERP系统_对商品模块数据模型与界面设计的思考及简要分析[Java 开源版]杭州生鲜配送系统_升鲜宝_SaaS全链路生鲜供应链管理系统_升鲜宝 一直在研究与改造自己的生鲜配送系统,越来越觉得后 ...

  9. 哈夫曼编码 译码java_基于Java的哈夫曼编码译码系统_报告毕业论文

    基于Java的哈夫曼编码译码系统_报告毕业论文 1课 程 设 计Java 与面向对象程序设计课程设计基于 Java 的哈夫曼编码译码系统1.问题描述和分工情况1.1 问题描述使用 Java 语言实现哈 ...

最新文章

  1. Linux_SystemLogManager
  2. POJ2455 Secret Milking Machine【二分,最大流】
  3. 分布式光伏发电并网无功补偿问题
  4. c++如何定义一个只能在堆上(栈上)生成对象的类?
  5. linux '$^t' 时间,Linux C时间函数 time_t struct tm
  6. 计算机组成原理中ID是什么,计算机组成原理.doc
  7. python vtk_VTK在python环境下的安装和调用
  8. 初创公司5大Java服务困局,阿里工程师如何打破?
  9. java timer 序列化_编程达人 应用层timer_如何序列化timer
  10. assertion failed:concurrent update to the log .mutiple streaming jobs delete 4
  11. 查看linux代码版本,如何查看 Linux Mint 版本号和代号 | Linux 中国
  12. ref:LDAP入门
  13. eclipse设置黑色主题
  14. Oracle和MySQL语法区别
  15. c语言erf函数,c/c++开发分享精确计算缩放互补误差函数,erfcx()
  16. 2021/4/27 “如何为div层添加边框?”(border属性详解)
  17. 阿里巴巴数据中台实践
  18. android:persistent属性研究
  19. 面试官:知道你的接口QPS是多少么?
  20. codeforce#420 E. Okabe and El Psy Kongroo(图论+矩阵快速幂)

热门文章

  1. 什么是做空 什么是做空期权波动率?
  2. Ambarella处理器启动过程
  3. Flexbox在button/fieldset/legend中(比如safair)失效问题
  4. python从入门到实践十二章
  5. 信息安全实验四:RSA公钥加密算法 2019.04.28
  6. Pixelmator Pro for Mac(图像编辑软件)
  7. Wargames学习笔记--Natas
  8. C语言中lwr是谁的缩写,C语言中关于字符串的操作(转)
  9. 所在位置 行:1 字符: 1+ cnpm i+ ~~~~ + CategoryInfo : SecurityError: (:) [],PSSecurityExcepti
  10. GAMES101复习:光线追踪(Ray Tracing)