以汉字‘中国’为例

我们经常在开发中会遇到如下几种

  • \u4e2d\u56fd
  • %E4%B8%AD%E5%9B%BD
  • 中国 中国

从这里几个编码开始说起吧

1 unicode字符串

\u4e2d\u56fd  ,我们经常在后台的配置文件中看到,比如message 文件,它表示的字符在unicode编码中对应的数字。

由于java内部采用unicode编码,可以通过下面的代码来获取。

String str1 = "\u4e2d\u56fd";
System.out.println(str1);
System.out.println(Integer.toHexString('中'));输出
中国
4e2d

2 URL Encoder

%E4%B8%AD%E5%9B%BD, 这类编码 ,经常在get请求的url中看到,用于传递表单数据,显示的数据实际上就是字符的UTF-8的值,每个字节前加上%

通过如下代码来验证

byte[] aa = "中国".getBytes("utf-8");
for(int i=0; i<aa.length;i++)
{System.out.print(String.format("%02x",aa[i]).toUpperCase());
}输出
E4B8ADE59BBD

看到这里,可能会有一个疑惑,就是unicode怎么转换为utf-8的,4e2d怎么变成E4B8AD的,下面来说说这个问题。

3 unicode和utf-8

unicode是编码方案,4e2d 描述的是‘中’在编码表对应的数字,但并不涉及如何在字节中展示它。

utf的的全称(Unicode Transformation Formats),从字面可以理解,它描述的是unicode编码在字节中的存储了。

UTF-8 规则如下

  1. 对于ascii字符,第一位为0,后面的x由ascii来填充

    0xxxxxxx

    这样做的好处是,utf-8向下兼容ascii编码。

  2. 对于其他字符,通过可变字节来表示

第一个字节前n位设置为1,第n+1位设置为0 ,后面字节前2为都设置为10,其他空余位 由unicode          编码来填充,高位补0

110xxxxx 10xxxxxx
1110xxxx 10xxxxxx 10xxxxxx
11110xxx 10xxxxxx 10xxxxxx 10xxxxxx
111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx

拿刚才的中的例子来说

4E2D转换为二进制位为                     0100111000101101

在UTF-8中需要使用3个字节来表示    1110xxxx 10xxxxxx 10xxxxxx

将4E2D填充到x中后  表示为              11100100 10111000 10101101

转换为十六进制为  E4B8AD

4 html字符实体

中国 中国 这种不多见,实际上也就是unicode的值,它本质我理解为html的转义字符,我们可能会在html中看到它。20013  4E2D 就是十进制和十六进制,其实都是一样的。

5 乱码的产生

我们知道,一个字节范围是0-255,ascii在表示字符时,使用了0-127。而中文字符由于数量多,需要由两个以上的字节去表示一个字符。

每种编码集,都将字符映射到了不同的字节去表示,比如港台的BIG5 大陆的GBK,国际规范的unicode等。以前有款软件叫做magicwin,基本98,95下玩游戏必备,就是转换字体的字符集的。

我们开发中,出现乱码经常是IO环节出现,比如读写文件,网络通讯等。

实际上这个过程经历了 String ->byte -> String。

比如我们在通讯或文件操作时,传输和保存的本质都是字节流,而在字符到字节转换的过程中,需要按照一致的编码解码进行处理,否则就会产生乱码

如下图所示

上图就是  gbk编码的中国  在解码时被转换成了乱码

需要注意的几点

  1. 避免多次编码或解码。
  2. 注意操作系统、虚拟机环境的默认编码

6 WEB环境下的乱码

WEB环境下,主要是浏览器->TOMCAT容器->具体项目代码

出现乱码可能在以下两个点

  1. 表单提交的数据产生乱码
  2. 网页显示乱码

WEB环境下乱码的本质是网络IO的乱码,浏览器是客户端,而 tomcat是服务端,产生的原因对应如下:

  1. 当浏览器提交的数据,后台解码不正确时,后台会产生乱码
  2. 当浏览器解析后台返回的数据时,编码解码不一致,网页可能会显示乱码。

主要由于涉及到浏览器,容器之类的,造成对于编码不太透明,会让人疑惑。

常见的处理方式:

  1.  get请求的乱码

    浏览器在发起get请求时,会进行encodeURI,将汉字转换为%E4%B8%AD%E5%9B%BD, 而tomcat在默认解析时,会按照iso8859-1去处理,所以经常会出现一些request.getParameter() 获取的字符串为乱码。

    这个处理最好全局的去修改tomcat  的配置文件为URIEncoding="UTF-8" ,否则需要对字符串进行一个iso8859-1 -> utf-8的转换。

  2. 网页显示的字符集设置

    网页在解析html文件时,会按照声明的字符集进行解析

    <meta http-equiv="Content-Type" content="text/html; charset=utf-8" />

    如果不设置,会自动选择字符集进行处理,每个浏览器默认的不一致。

    保持声明的一致就可以避免乱码

  3. POST请求的乱码

常见的方式 设置统一的filter 进行处理。

<filter-class>org.springframework.web.filter.CharacterEncodingFilter</filter-class>

转载于:https://my.oschina.net/u/988317/blog/1490346

开发中常见的编码和乱码问题相关推荐

  1. python2发送http不编码_[转]Python 2.x中常见字符编码和解码方面的错误及其解决办法...

    Python 2.x中的字符编码,设计的的确不好,导致初学者,甚至是即使用Python很长时间的人,都会经常遇到字符编解码方面的错误. 下面就把一些常见情,尽量的都整理出来,并给出相应的解决办法. 看 ...

  2. 浅谈在游戏陪玩开发中常见的几种加密算法及实现

    前言 数字签名.信息加密是游戏陪玩开发前后端都经常需要使用到的技术,应用场景包括了用户登入.交易.信息通讯.oauth 等等,不同的应用场景需要游戏陪玩开发时使用到不同的签名加密算法,或者需要搭配不一 ...

  3. PHP开发中常见的安全问题详解和解决方法

    PHP开发中常见的安全问题详解和解决方法 参考文章: (1)PHP开发中常见的安全问题详解和解决方法 (2)https://www.cnblogs.com/walblog/articles/83313 ...

  4. web开发中常见的安全漏洞及避免方法

    1.安全攻击 1.SQL.HTML.JS.OS命令注入 2.XSS跨站脚本攻击,利用站内信任的用户,在web页面插入恶意script代码 3.CSRF跨站请求伪造,通过伪装来自信任用户的请求来利用受信 ...

  5. 【Web安全】Web开发中常见的安全误区

    安全是Web应用程序不容忽视的一个重要因素,而在Web应用开发中,一些开发者由于缺乏安全方面的意识,导致Web应用存在风险.下面来介绍Web开发中常见的一些安全误区. 如果我们使用Web框架,那么不必 ...

  6. javaWEB开发中get方式请求的乱码问题解决

    为什么80%的码农都做不了架构师?>>>    我们在日常的开发中难免会遇到一些乱码问题的解决 这个能解决一般get方式乱码问题 public String getStr(Strin ...

  7. iOS开发中常见的一些异常

    iOS开发中常见的一些异常 参考文章: (1)iOS开发中常见的一些异常 (2)https://www.cnblogs.com/feng9exe/p/7244936.html 备忘一下.

  8. Android开发中常见的内存泄露案例以及解决方法总结

    Android开发中常见的内存泄露案例以及解决方法总结 参考文章: (1)Android开发中常见的内存泄露案例以及解决方法总结 (2)https://www.cnblogs.com/shen-hua ...

  9. 软件开发中 常见英文文档 缩写(转)

    软件开发中常见英文缩写和各类软件开发文档的英文缩写: 英文简写 文档名称 MRD market requirement document (市场需求文档) PRD product requiremen ...

最新文章

  1. numpy 数组 维度 大小 形状
  2. python accept解析_python中requests库使用方法详解
  3. MATLAB如何保存仿真高清图片(matlab)
  4. 大数据文字游戏_基于大数据的成功应用有哪些 ?
  5. java12章_从零开始学Java 第12章 异常处理
  6. Qt + Python + OpenCV图标替换工具 之 Qt界面设计(四)
  7. 新修订未成年人保护法6月1日正式实施
  8. BAT架构师推荐的9本程序员技术进阶图书,大家看过多少?
  9. 对口本科计算机专业,对口高考计算机类专业综合试题(卷).doc
  10. 《Mars说光场》系列文章整理
  11. 怎样使用Scanner(扫描仪),超级详细,不容错过!!!
  12. 计算机多媒体教学一体机包括,学校使用多媒体教学触摸一体机应用效果的介绍...
  13. 机器学习笔记—模式识别与智能计算(一)模式识别概述
  14. weblogic增大线程数
  15. l麒麟安装oracle,中标麒麟linux安装Oracle客户端
  16. 家用路由器配置方法(精简版)
  17. IOS Xcode 开发适配最低IOS版本 适配POD库
  18. AXUI百度地图坐标拾取系统超强升级,功能更多更实用!
  19. 产品经理入门:一、产品、产品经理
  20. 费率与利率的差别_费率是什么(利率和费率有啥区别?)

热门文章

  1. STM32 中断优先级设置或配置
  2. html网页制作秒表原理,JavaScript怎么实现简单的秒表效果?(代码示例)
  3. 一维原子链体系态密度的计算
  4. 【雷达通信】雷达脉冲压缩含Matlab源码
  5. 二级城市邮政编码属性文件
  6. 【​观察】搭搭云9999元定制“全家桶套餐”,是市场噱头还是真刀实干?
  7. python opencv 保存图片_【python-opencv 】一、图像的加载与保存
  8. 基于MATLAB开发的视频播放器
  9. 小白怎么运营抖音,制作出漂亮的视频,成为抖音大V
  10. yuzu最新安装使用教程