[转]python 正则匹配中文
python 正则匹配中文
参考: http://hi.baidu.com/nivrrex/blog/item/e6ccaf511d0926888d543071.html
http://topic.csdn.net/u/20070404/15/b011aa83-f9b7-43b3-bbff-bfe4f653df03.html
首先,确保所有编码都为 unicode
比如 str.decode('utf8') #从utf8文本中
u"啊l" #在控制台输出中
(罗嗦下)本想使用参考一定编码 Hex 但郁闷的是 这每个字好像占2个位置,使用正则匹配无果。
其次,确定中文范围 : [\u4e00-\u9fa5]
(这里注意下 python 的re写的时候) 要 u"[\u4e00-\u9fa5]" #确定正则表达式也是 unicode 的
demo :
None
>>> print re.match(ur"[\u4e00-\u9fa5]+",u"啊")
<_sre.SRE_Match object at 0x2a98981308>
>>> print re.match(ur"[\u4e00-\u9fa5]+",u"t")
None
>>> print tt
现在才明白
>>> tt
'\xe7\x8e\xb0\xe5\x9c\xa8\xe6\x89\x8d\xe6\x98\x8e\xe7\x99\xbd'
>>> print re.match(r"[\u4e00-\u9fa5]",tt.decode('utf8'))
None
>>> print re.match(ur"[\u4e00-\u9fa5]",tt.decode('utf8'))
<_sre.SRE_Match object at 0x2a955d9c60>
>>> print re.match(ur".*["u4e00-"u9fa5]+",u"hi,匹配到了")
<_sre.SRE_Match object at 0x2a955d9c60>
>>> print re.match(ur".*["u4e00-"u9fa5]+",u"hi,no no")
None
其他 扩充 范围 (转)
2E80~33FFh:中日韩符号区。收容康熙字典部首、中日韩辅助部首、注音符号、日本假名、韩文音符,中日韩的符号、标点、带圈或带括符文数字、月份,以及日本的假名组合、单位、年号、月份、日期、时间等。
3400~4DFFh:中日韩认同表意文字扩充A区,总计收容6,582个中日韩汉字。
4E00~9FFFh:中日韩认同表意文字区,总计收容20,902个中日韩汉字。
A000~A4FFh:彝族文字区,收容中国南方彝族文字和字根。
AC00~D7FFh:韩文拼音组合字区,收容以韩文音符拼成的文字。
F900~FAFFh:中日韩兼容表意文字区,总计收容302个中日韩汉字。
FB00~FFFDh:文字表现形式区,收容组合拉丁文字、希伯来文、阿拉伯文、中日韩直式标点、小符号、半角符号、全角符号等。
比如需要匹配所有中日韩非符号字符,那么正则表达式应该是^[\u3400-\u9FFF]+$
理论上没错, 可是我到msn.co.ko随便复制了个韩文下来, 发现根本不对, 诡异
再到msn.co.jp复制了个’お’, 也不得行..
然后把范围扩大到^[\u2E80-\u9FFF]+$, 这样倒是都通过了, 这个应该就是匹配中日韩文字的正则表达式了, 包括我們臺灣省還在盲目使用的繁體中文
而关于中文的正则表达式, 应该是^[\u4E00-\u9FFF]+$, 和论坛里常被人提起的^[\u4E00-\u9FA5]+$很接近
需要注意的是论坛里说的^[\u4E00-\u9FA5]+$这是专门用于匹配简体中文的正则表达式, 实际上繁体字也在里面, 我用测试器测试了下’中華人民共和國’, 也通过了, 当然, ^[\u4E00-\u9FFF]+$也是一样的结果。
转载自http://www.blogjava.net/Skynet/archive/2009/05/02/268628.html
下面这个小工具包含了 判断unicode是否是汉字,数字,英文,或者其他字符。 全角符号转半角符号。 unicode字符串归一化等工作。 还有一个能处理多音字的汉字转拼音的程序,还在整理中。
#!/usr/bin/env python
# -*- coding:GBK -*-
"""汉字处理的工具:
判断unicode是否是汉字,数字,英文,或者其他字符。
全角符号转半角符号。"""
__author__="internetsweeper <zhengbin0713@gmail.com>"
__date__="2007-08-04"
def is_chinese(uchar):
"""判断一个unicode是否是汉字"""
if uchar >= u'\u4e00' and uchar<=u'\u9fa5':
return True
else:
return False
def is_number(uchar):
"""判断一个unicode是否是数字"""
if uchar >= u'\u0030' and uchar<=u'\u0039':
return True
else:
return False
def is_alphabet(uchar):
"""判断一个unicode是否是英文字母"""
if (uchar >= u'\u0041' and uchar<=u'\u005a') or (uchar >= u'\u0061' and uchar<=u'\u007a'):
return True
else:
return False
def is_other(uchar):
"""判断是否非汉字,数字和英文字符"""
if not (is_chinese(uchar) or is_number(uchar) or is_alphabet(uchar)):
return True
else:
return False
def B2Q(uchar):
"""半角转全角"""
inside_code=ord(uchar)
if inside_code<0x0020 or inside_code>0x7e: #不是半角字符就返回原来的字符
return uchar
if inside_code==0x0020: #除了空格其他的全角半角的公式为:半角=全角-0xfee0
inside_code=0x3000
else:
inside_code+=0xfee0
return unichr(inside_code)
def Q2B(uchar):
"""全角转半角"""
inside_code=ord(uchar)
转载自 http://www.ej38.com/showinfo/Python-137539.html
转载于:https://blog.51cto.com/elvisz/984984
[转]python 正则匹配中文相关推荐
- Python正则匹配中文与编码总结
###字符串的编码乱码问题由来已久,真的是令人头疼.这不是在做正则匹配中文时候,编码又一次成了拦路虎,在这儿记录两点.第一,字符串编码.第二,正则匹配中文. 早期编码都用ASCII编码,用一个字节来处 ...
- python正则匹配中文_python 正则表达式匹配中文-阿里云开发者社区
python 正则表达式匹配中文 文件编码为 utf-8 设置默认编码为 utf-8 中文需要转换为 \u 形式的编码,也就是 编码, 轮换方法,cmd 下执行 python 进入 python 命 ...
- python正则匹配中文/英文/数字/其它字符
匹配提取 一些字符串既包含中文.也包含英文.数字等,需要对这类字符串做提取,单个中文字符.英文单词以及数字表达等.需要采用正则匹配的方式来做 比如对于如下针对数据的描述 Android/IOS 2条装 ...
- 西北乱跑娃 --- python正则匹配中文以及数字和标点
很多朋友在做爬虫和数据采集的时候会遇见字符中存在很多的特殊字符,影响数据的质量.今天给大家写一段代码用于数据清洗: 方法一: info = '' str = '<@ba.rem>可以在下列 ...
- Python2和Python3正则匹配中文时的编码问题
Python2和Python3正则匹配中文时的编码问题 我们都会遇到这样的人,他们说话时是中文英文穿插使用的.也就是一句话中有中文也有英文,很多时候没有办法避免,尤其是说一些专业术语时,当然也有纯个人 ...
- python正则匹配任意字符_Python 匹配任意字符(包括换行符)的正则表达式写法...
Python 匹配任意字符(包括换行符)的正则表达式写法 想使用正则表达式来获取一段文本中的任意字符,写出如下匹配规则: (.*) 结果运行之后才发现,无法获得换行之后的文本.于是查了一下手册,才发现 ...
- python正则表达式匹配中文汉字
原文链接:python使用正则表达式匹配中文汉字 python正则匹配汉字,用来计算汉字字数,有两种方法: 1 [\u4e00-\u9fa5] 2 [^\x00-\xff] 两种匹配方式的区别: [\ ...
- Python正则表达式匹配中文
分享一下我老师大神的人工智能教程!零基础,通俗易懂!http://blog.csdn.net/jiangjunshow 也欢迎大家转载本篇文章.分享知识,造福人民,实现我们中华民族伟大复兴! 参照Py ...
- php正则获取标签,PHP通过正则匹配中文字符 过滤html标签 获取文本内容
正则匹配中文汉字根据页面编码不同而略有区别: GBK/GB2312编码:[x80-xff]+ 或 [xa1-xff]+ UTF-8编码:[x{4e00}-x{9fa5}]+/u [php] $str ...
- python正则匹配表达式(2)
上节主要讲解python正则匹配的匹配表达式,而需要调用相应的API才能解决如何匹配的问题. 在python官方文档Regular Expression HOWTO给出了python匹配函数,官方给出 ...
最新文章
- log4j2的配置文件log4j2.xml笔记
- mysql同步 触发器_mysql 触发器(数据库的同步)
- 【项目实战】汽车金融评分卡
- 纯C写Windows程序系列---------VS2010设置纯C环境 .
- c++异常处理机制示例及讲解
- 4.Flow Layout Pane
- 2017.3.13 木棍分割 思考记录
- sqoop安装及使用
- 【MATLAB】 分形插值
- 考研数据结构(3)笔记
- Anaconda下载安装
- 以下哪些python数字是合法的_3 4j 是合法Python数字类型。
- XTU OJ 1395
- win10内存满载测试软件,windows10系统使用自带内存检测工具检测内存好坏的方法...
- ArcGIS10.2 安装教程
- python opencv 实现图像白平衡
- 解决webView不支持网页input type=“file“上传功能。接个文章搜索,自己写的代码,确保可以使用。
- 吴恩达 (Andrew Ng) 是一个怎样的人
- Widget Extention开发笔记
- 刚刚!核电老将俞培根晋升东方电气集团董事长
热门文章
- ultilize什么意思_utilize是什么意思_utilize在线翻译_读音_用法_例句_含义-查字典网...
- pythonATM,购物车项目实战5-数据处理层
- 统计函数应用之SQL 分析函数
- python iotextwrapp执行不动_Python tkinter - 第10章 文本控件(Text)方法
- java面试难吗_MBA提前面试考什么?MBA提前面试得到优秀的,复试还难吗?林晨陪你考研...
- Openresty 学习笔记(二)Nginx Lua 正则表达式相关API
- Python3 数据类型-Number
- form里面的action和method(post和get的方法)使用
- maven 强制jdk的版本
- 给CentOS 6.7 配置IP地址