public static final int MIN_SUPPLEMENTARY_CODE_POINT = 0x010000;
public static final int MAX_CODE_POINT = 0X10FFFF;
public static final int NO_UNICODE = 0xfffd;
/**
 * 过滤4字长UTF-8编码字符,防止入库失败
 * 4字长的UTF-8字符就是Unicode SMP(辅助平面)中的字符, 也就是Unicode编码大于U+FFFF的字符, 所以我们只需要获取字符串中各个字符的code point,
 * 当code point 大于FFFF 65535时 过滤掉即可;
 * 当从Unicode编码向某个字符集转换时,如果在该字符集中没有对应的编码,则得到0x3f(即问号字符?)
            从其他字符集向Unicode编码转换时,如果这个二进制数在该字符集中没有标识任何的字符,则得到的结果是0xfffd 65533
 * @param str
 * @return
 */
public static String filterUtf8mb4(String str) {
        StringBuilder sb = new StringBuilder(str.length());
        for (int i = 0; i < str.length(); i++) {
            int codePoint = str.codePointAt(i);
            if (codePoint >= MIN_SUPPLEMENTARY_CODE_POINT && codePoint <  MAX_CODE_POINT + 1) {
                i++;
            }else if(codePoint !=NO_UNICODE ){
             sb.appendCodePoint(codePoint);
            }
        }
        return sb.toString();
    }

转载于:https://www.cnblogs.com/460i/p/9829839.html

数据同步关于去除乱码插入mysql数据库相关推荐

  1. golang mysql数据同步_使用Golang实现MySQL数据库之间的表同步

    这是用来实现两个 MySQL 数据库中的具有相同字段表的增量同步. 支持按照某种格式增量获取表中的待同步数据. 支持按照列名称向 数据库 的表中批量插入待同步的数据. 安装 go get -u git ...

  2. MySQL数据同步到ES集群(MySQL数据库与ElasticSearch全文检索的同步)

    简介:MySQL数据库与ElasticSearch全文检索的同步,通过binlog的设置对MySQL数据库操作的日志进行记录,利用Python模块对日志进行操作,再利用kafka的生产者消费者模式进行 ...

  3. python获取mysql表中一列数据_将Python列表插入mySQL数据库中的一列

    嗨,我试图在一列中插入一个python列表,但是它总是在语法上给出错误. 这是新手.谢谢你的帮助.谢谢.在from time import time import MySQLdb import url ...

  4. Mybatis插入MySQL数据库中文乱码

    Mybatis插入MySQL数据库中文乱码 在dataSource.properties配置文件中设置useUnicode=true&characterEncoding=utf-8编码即可. ...

  5. hibernate插入Mysql数据库出现中文乱码情况从这5个方面解决

    因为有了新电脑所以又要解决乱码问题,在网上找帖子很是头疼,还是自己总结一下比较好. hibernate插入Mysql数据库出现中文乱码情况从这几个方面解决:有了这几方面以后使用mysql的乱码问题就不 ...

  6. python随机数据库_Python实现生成随机数据插入mysql数据库的方法

    本文实例讲述了Python实现生成随机数据插入mysql数据库的方法.分享给大家供大家参考,具体如下: 运行结果: 实现代码: import random as r import pymysql fi ...

  7. 通达信股票日线数据插入mysql数据库测试

    目录 1 安装mysql数据库 2 用小猫统计附带的设置程序创建数据库 3 用小猫统计 cat.exe 在数据库中建立日线数据表 3.1 初始化系统 3.2  建立股票日线表 4 导入日线数据 4.1 ...

  8. 数据迁移的几种方式 - MySQL数据库

    写在前面:博主是一只经过实战开发历练后投身培训事业的"小山猪",昵称取自动画片<狮子王>中的"彭彭",总是以乐观.积极的心态对待周边的事物.本人的技 ...

  9. mysql数据文件有10g_百万行mysql数据库优化和10G大文件上传方案

    最近这几天正在忙这个优化的方案,一直没时间耍,忙碌了一段时间终于还是拿下了这个项目?项目中不要每次都把程序上的问题,让mysql数据库来承担,它只是个mysql而已. 问题1:针对MySQL Comm ...

最新文章

  1. ceph bluestore源码分析:admin_socket实时获取内存池数据
  2. SAP S4HANA 介绍LTMC的文章链接
  3. 多线程处理list_数组两元素的最大差:从暴力到多线程
  4. ubuntu php png,[工作记事]Ubuntu下PHP编译安装以及添加jepg支持
  5. Oracle游标有何用,Oracle游标使用方法有哪些?
  6. 栏目图片 栏目描述_昕街拍|长期福利栏目来啦,秀街拍赢礼品!
  7. apache.camel_在即将发布的Camel 2.21版本中改进了使用Apache Camel和ActiveMQ Artemis处理大型消息的功能...
  8. art-template模板引擎详解
  9. Android 利用SurfaceView进行图形绘制
  10. python10进制2进制转换
  11. 《Asp.Net 2.0 揭秘记(十四)
  12. Linux 系统查看网卡配置信息
  13. 登陆豆瓣显示服务器开小差,豆瓣打不开
  14. python爬不是网页_用python爬网站数据,为什么只爬到标签,爬不到标签内容呢
  15. 【论文阅读】Recurrent Chunking Mechanisms for Long-Text Machine Reading Comprehension
  16. 双击进入共享计算机时提示无法访问错误(连接共享打印机)
  17. C语言怎么实现语音功能
  18. 港科夜闻|香港科大汪扬教授轻松访谈:对话西泽投资管理主席刘央女士,倾听她跌宕起伏的30年投资生涯...
  19. go通过channel获取goroutine的处理结果
  20. 加速想象力 AR/VR 训练营(无锡站)签约挂牌仪式成功举行

热门文章

  1. Java凝视Annotation
  2. python 计算文件的MD5
  3. python multi_python – 堆叠MultiIndex的所有级别
  4. python 屏幕录制_Python实现屏幕录制功能的代码
  5. javascript中的面向对象_面向对象和函数式编程的本质区别
  6. cad线性标注命令_CAD图纸中怎么进行线性标注
  7. linux中文系统装offci,Ubuntu 14.04 LTS中安装fcitx中文输入法的教程
  8. java编写存钱_用Java编写一个简单的存款
  9. 请写出sfr和sbit的语句格式_单片机c语言的sbit和sfr
  10. 下列有关mysql数据库中的null值_MySQL数据库中与 NULL值有关的问题