Python 正则表达式匹配中文
参照Python正则表达式指南
在使用Python的过程中,由于需求原因,我们经常需要在文本或者网页元素中用Python正则表达式匹配中文,但是我们经常所熟知的正则表达式却只能匹配英文,而对于中文编码却望尘莫及,于是我大量Google,几经Baidu,花了两个多个小时测试,终于发现解决的办法。特记录如下
从字符串的角度来说,中文不如英文整齐、规范,这是不可避免的现实。本文结合网上资料以及个人经验,以 python 语言为例,稍作总结。欢迎补充或挑错。
通常我们可以使用 repr()函数查看字串的原始格式。这对于写正则表达式有所帮助。
Python正则表达式的问题
更加详细的Python正则表达式问题,请参见这里http://www.cnblogs.com/huxi/archive/2010/07/04/1771073.html
Python 的 re模块有两个相似的函数:re.match(), re.search 。
两个函数的匹配过程完全一致,只是起点不同。 match只从字串的开始位置进行匹配,如果失败,它就此放弃;
而search则会锲而不舍地完全遍历整个字串中所有可能的位置,直到成功地找到一个匹配,或者搜索完字串,以失败告终。
如果你了解match的特性(在某些情况下比较快),大可以自由用它;如果不太清楚,search通常是你需要的那个函数。
从一堆文本中,找出所有可能的匹配,以列表的形式返回,这种情况用findall()这个函数。例子见后面的代码。
UTF-8与unicode
两种字符类可以并列在一起使用,例如,平假名、片假名、中文的放在一起,u"[\u4e00-\u9fa5\u3040-\u309f\u30a0-\u30ff]+",来自定义所需要匹配的文本。
匹配中文时,正则表达式和目标字串的格式必须相同。这一点至关重要。或者都用默认的utf8,此时你不用额外做什么;如果是unicode,就需要在正则式之前加上u""格式。
例如 linux 下常用unicode(string, "utf8"),windows 下或许会用cp936吧
示例程序1
# -*- coding: utf-8 -*-
import sys
import re
reload(sys)
sys.setdefaultencoding('utf8')s="""en: Regular expression is a powerful tool for manipulating text. zh: 汉语是世界上最优美的语言,正则表达式是一个很有用的工具jp: 正規表現は非常に役に立つツールテキストを操作することです。 jp-char: あアいイうウえエおオ kr:정규 표현식은 매우 유용한 도구 텍스트를 조작하는 것입니다. """
print "原始utf8字符"
#utf8
print "--------"
print repr(s)
print "--------\n"#非ansi
re_words=re.compile(r"[\x80-\xff]+")
m = re_words.search(s,0)
print "非ansi字符"
print "--------"
print m
print m.group()
print "--------\n"#unicode
s = unicode(s)
print "原始unicode字符"
print "--------"
print repr(s)
print "--------\n"#unicode chinese
re_words = re.compile(u"[\u4e00-\u9fa5]+")
m = re_words.search(s,0)
print "unicode 中文"
print "--------"
print m
print m.group()
res = re.findall(re_words, s) # 查询出所有的匹配字符串
if res:print "There are %d parts:\n"% len(res) for r in res: print "\t",r print
print "--------\n"#unicode korean
re_words=re.compile(u"[\uac00-\ud7ff]+")
m = re_words.search(s,0)
print "unicode 韩文"
print "--------"
print m
print m.group()
print "--------\n"#unicode japanese katakana
re_words=re.compile(u"[\u30a0-\u30ff]+")
m = re_words.search(s,0)
print "unicode 日文 片假名"
print "--------"
print m
print m.group()
print "--------\n"#unicode japanese hiragana
re_words=re.compile(u"[\u3040-\u309f]+")
m = re_words.search(s,0)
print "unicode 日文 平假名"
print "--------"
print m
print m.group()
print "--------\n"#unicode cjk Punctuation
re_words=re.compile(u"[\u3000-\u303f\ufb00-\ufffd]+")
m = re_words.search(s,0)
print "unicode 标点符号"
print "--------"
print m
print m.group()
print "--------\n"
几种主要非英文字符集的编码范围
主要非英文语系字符范围 |
||
范围 | 编码 | 说明 |
2E80~33FFh | 中日韩符号区 | 收容康熙字典部首、中日韩辅助部首、注音符号、日本假名、韩文音符,中日韩的符号、标点、带圈或带括符文数字、月份,以及日本的假名组合、单位、年号、月份、日期、时间等。 |
3400~4DFFh | 中日韩认同文字扩充A区 | 中日韩认同表意文字扩充A区,总计收容6,582个中日韩汉字。 |
4E00~9FFFh | 中日韩认同表意文字区 | 中日韩认同表意文字区,总计收容20,902个中日韩汉字。 |
A000~A4FFh | 彝族文字区 | 收容中国南方彝族文字和字根 |
AC00~D7FFh | 韩文拼音组合字区 | 收容以韩文音符拼成的文字 |
F900~FAFFh | 中日韩兼容表意文字区 | 总计收容302个中日韩汉字 |
FB00~FFFDh | 文字表现形式区 | 收容组合拉丁文字、希伯来文、阿拉伯文、中日韩直式标点、小符号、半角符号、全角符号等。 |
比如需要匹配所有中日韩非符号字符,那么正则表达式应该是^[\u3400-\u9FFF]+$
理论上没错, 可是我到msn.co.ko随便复制了个韩文下来, 发现根本不对, 诡异
再到msn.co.jp复制了个’お’, 也不得行..
然后把范围扩大到^[\u2E80-\u9FFF]+$, 这样倒是都通过了, 这个应该就是匹配中日韩文字的正则表达式了, 包括我們臺灣省還在盲目使用的繁體中文
而关于中文的正则表达式, 应该是^[\u4E00-\u9FFF]+$, 和论坛里常被人提起的^[\u4E00-\u9FA5]+$很接近
需要注意的是论坛里说的^[\u4E00-\u9FA5]+$这是专门用于匹配简体中文的正则表达式, 实际上繁体字也在里面, 我用测试器测试了下’中華人民共和國’, 也通过了, 当然, ^[\u4E00-\u9FFF]+$也是一样的结果。
示例程序2
那么我们很多时候如果要匹配的内容如果既有中文也有英文,比如我们要匹配一个可以由中文字母以及一些其他字符组成的标题,该怎么写呢,我么接着看下面的代码
#!coding:utf-8import re
import sys# 测试匹配中文信息
def TestReChinese( ):source = u" 数据结构模版----单链表SimpleLinkList[带头结点&&面向对象设计思想](C语言实现)"temp = source.decode('utf8')print "同时匹配中文英文"print "--------------------------"xx = u"([\w\W\u4e00-\u9fff]+)"pattern = re.compile(xx)results = pattern.findall(temp)for result in results:print resultprint "--------------------------"print print print "只匹配中文"print "--------------------------"xx = u"([\u4e00-\u9fff]+)"pattern = re.compile(xx)results = pattern.findall(temp)for result in results:print resultprint "--------------------------"if __name__ == "__main__" :# 测试正则表达式reload(sys)sys.setdefaultencoding("utf-8")TestReChinese( )
其他方法
具体信息请参见http://blog.csdn.net/gatieme/article/details/43275077
转:
https://blog.csdn.net/gatieme/article/details/43235791
\w 匹配的仅仅是中文,数字,字母,对于国人来讲,仅匹配中文时常会用到,见下
匹配中文字符的正则表达式: [\u4e00-\u9fa5]
或许你也需要匹配双字节字符,中文也是双字节的字符
匹配双字节字符(包括汉字在内):[^\x00-\xff]
注:可以用来计算字符串的长度(一个双字节字符长度计 2,ASCII 字符计 1 )
PS:关于正则,本站还提供了一个非常简便实用的正则测试工具供大家使用:
正则表达式在线测试工具://www.w3cschool.cn/tools/index?name=reg
Python 正则表达式匹配中文相关推荐
- Python正则表达式匹配中文
分享一下我老师大神的人工智能教程!零基础,通俗易懂!http://blog.csdn.net/jiangjunshow 也欢迎大家转载本篇文章.分享知识,造福人民,实现我们中华民族伟大复兴! 参照Py ...
- python正则表达式匹配中文汉字
原文链接:python使用正则表达式匹配中文汉字 python正则匹配汉字,用来计算汉字字数,有两种方法: 1 [\u4e00-\u9fa5] 2 [^\x00-\xff] 两种匹配方式的区别: [\ ...
- python正则表达式匹配中文标点符号_正则表达式-匹配标点符号
string testStr = "你好,测试."; Regex reg= new Regex(@"\p{P}"); testStr= reg.Replace( ...
- python正则匹配中文_python 正则表达式匹配中文-阿里云开发者社区
python 正则表达式匹配中文 文件编码为 utf-8 设置默认编码为 utf-8 中文需要转换为 \u 形式的编码,也就是 编码, 轮换方法,cmd 下执行 python 进入 python 命 ...
- Python正则匹配中文与编码总结
###字符串的编码乱码问题由来已久,真的是令人头疼.这不是在做正则匹配中文时候,编码又一次成了拦路虎,在这儿记录两点.第一,字符串编码.第二,正则匹配中文. 早期编码都用ASCII编码,用一个字节来处 ...
- Oracle正则表达式匹配中文的问题
查资料知道中文Unicode范围是\u4e00 - \u9fa5 可是自己用来正则表达式匹配中文总是用不了Unicode.最简单举例: select regexp_replace('abc秋歌def' ...
- Notepad++中用正则表达式匹配中文
通常正则表达式匹配中文可以利用Unicode的特点,使用[\u4e00-\u9fa5]匹配.但在Notepad++中不能正常使用. 解决方法是,首先将编码转换成Unicode(菜单->格式-&g ...
- re 正则表达式匹配中文
之前踩过一个坑, 用正则表达式匹配中文字符:[^\x00-\xff] 最后发现这个是匹配非单字节字符, 表示的是0- 255 的ASCII码值 import re r = re.compile('[^ ...
- 【转】正则表达式 匹配中文,英文字母和数字及_的写法!同时控制长度
[转]正则表达式 匹配中文,英文字母和数字及_的写法!同时控制长度 using System.Text.RegularExpressions; 匹配中文:[\u4e00-\u9fa5] 英文字母:[a ...
- python正则表达式匹配字符串中的电话号码_Python正则表达式匹配字符串中的数字...
这篇文章主要介绍了Python正则表达式匹配字符串中的数字,本文通过实例代码给大家介绍的非常详细,具有一定的参考借鉴价值,需要的朋友可以参考下 1.使用"\d+"匹配全数字 代码: ...
最新文章
- ES shard unassigned的解决方法汇总
- UA MATH574M 统计学习II 二元分类
- [思考]-ARM LR寄存器的思考
- MySQL高级 - 常用工具 - mysqlimport与source
- mysql ondumplictcate_4.5万字手把手教你实现MySQL TB级数据存储!!
- 对象json字符串数组 java对象,java把json的字符串转换为json对象和数组
- Spring Security笔记:Remember Me(下次自动登录)
- iOS系统自带正则表达式简单运用
- cad解除块的快捷命令_cad退出块编辑_cad常用快捷键命令表_cad打印快捷键
- 3.MNIST数据集分类
- 键盘指示灯亮着 按键全部失效了怎么办
- Windows11安装安卓子系统WSA及安卓应用
- Android之ListView
- amd一键超频怎么用_AMD Ryzen小白说明书——CPU超频篇
- Python实用模块(二十四)tenacity
- 自学习策略和Levy飞行的正弦余弦优化算法-附代码
- Java为什么要有基本数据类型和包装类型
- c语言中优先级劣后级,基金优先级与劣后级的区别是什么 看完你就明白了
- RSHELIOS速腾32线激光配置记录
- PHP使用header实现文件下载功能
热门文章
- Mac版本git下载和使用
- opencv android模版匹配,基于opencv模板匹配的目标检测方法
- 首推机器人视觉解决方案 百度AI开发者实战营成都站揭秘
- 蓝牙 - 通信原理:电磁波 - 无线电波 - ISM - 蓝牙
- 计算机视频解码测试,无底限测试 入门电脑挑战H.265视频解码
- Linux更新清华源
- 如何elf文件转换为asm汇编文件
- 怎么样计算机械功率,如何计算设备功率?设备功率计算公式
- STM32工程---非特定语音识别模块使用---语音播报+语音识别
- java entry的用法_Java ZipEntry setComment()用法及代码示例