参照Python正则表达式指南
在使用Python的过程中，由于需求原因，我们经常需要在文本或者网页元素中用Python正则表达式匹配中文，但是我们经常所熟知的正则表达式却只能匹配英文，而对于中文编码却望尘莫及，于是我大量Google，几经Baidu，花了两个多个小时测试，终于发现解决的办法。特记录如下
从字符串的角度来说，中文不如英文整齐、规范，这是不可避免的现实。本文结合网上资料以及个人经验，以 python
语言为例，稍作总结。欢迎补充或挑错。
通常我们可以使用 repr()函数查看字串的原始格式。这对于写正则表达式有所帮助。
Python正则表达式的问题
更加详细的Python正则表达式问题，请参见这里http://www.cnblogs.com/huxi/archive/2010/07/04/1771073.html Python 的 re模块有两个相似的函数：re.match(),re.search 。 两个函数的匹配过程完全一致，只是起点不同。UTF-8与unicode
UTF-8 是变长的，1-6个字节，少数是汉字每个占用3个字节，多数占用4个字节，正则式为[x80-xff]{3}，这个都知道了吧。
unicode下，汉字的格式如uXXXX，只要找到对应的字符集的范围，就能匹配相应的字串，方便从多语言文本中挑出所需要的某种语言的文本。不过，对于像日文这样的粘着语，既有中文字符，又有平假名片假名，或许结果会有所偏差。
两种字符类可以并列在一起使用，例如，平假名、片假名、中文的放在一起，u"[u4e00-u9fa5u3040-u309fu30a0-u30ff]+"，来自定义所需要匹配的文本。
匹配中文时，正则表达式和目标字串的格式必须相同。这一点至关重要。或者都用默认的utf8，此时你不用额外做什么；如果是unicode，就需要在正则式之前加上u""格式。
可以这样定义unicode字符串：string=u"我爱正则表达式"。如果字串不是unicode的，可以使用unicode()函数转换之。如果你知道源字串的编码，可以使用newstr=unicode(oldstring,
original_coding_name)的方式转换，
例如 linux 下常用unicode(string,"utf8")，windows 下或许会用cp936吧
示例程序1
[python] view
plain copy
# -*- coding: utf-8 -*-
import sys
import re
reload(sys)
sys.setdefaultencoding('utf8')
s="""
en: Regular expression is a powerful tool for manipulating text.
zh: 汉语是世界上最优美的语言，正则表达式是一个很有用的工具
jp: 正規表現は非常に役に立つツールテキストを操作することです。
jp-char: あアいイうウえエおオ
kr:정규 표현식은 매우 유용한 도구 텍스트를 조작하는 것입니다.
"""
print "原始utf8字符"
#utf8
print "--------"
print repr(s)
print "--------n"
#非ansi
re_words=re.compile(r"[x80-xff]+")
m = re_words.search(s,0)
print "非ansi字符"
print "--------"
print m
print m.group()
print "--------n"
#unicode
s = unicode(s)
print "原始unicode字符"
print "--------"
print repr(s)
print "--------n"
#unicode chinese
re_words = re.compile(u"[u4e00-u9fa5]+")
m = re_words.search(s,0)
print "unicode 中文"
print "--------"
print m
print m.group()
res = re.findall(re_words, s) # 查询出所有的匹配字符串
if res:
print "There are %d parts:n"% len(res)
for r in res:
print "t",r
print "--------n"
#unicode korean
re_words=re.compile(u"[uac00-ud7ff]+")
m = re_words.search(s,0)
print "unicode 韩文"
print "--------"
print m
print m.group()
print "--------n"
#unicode japanese katakana
re_words=re.compile(u"[u30a0-u30ff]+")
m = re_words.search(s,0)
print "unicode 日文 片假名"
print "--------"
print m
print m.group()
print "--------n"
#unicode japanese hiragana
re_words=re.compile(u"[u3040-u309f]+")
m = re_words.search(s,0)
print "unicode 日文 平假名"
print "--------"
print m
print m.group()
print "--------n"
#unicode cjk Punctuation
re_words=re.compile(u"[u3000-u303fufb00-ufffd]+")
m = re_words.search(s,0)
print "unicode 标点符号"
print "--------"
print m
print m.group()
print "--------n"
几种主要非英文字符集的编码范围
下面是Google出现的几种主要非英文字符集的编码范围
主要非英文语系字符范围
范围
编码
说明
2E80~33FFh
中日韩符号区
收容康熙字典部首、中日韩辅助部首、注音符号、日本假名、韩文音符，中日韩的符号、标点、带圈或带括符文数字、月份，以及日本的假名组合、单位、年号、月份、日期、时间等。
3400~4DFFh
中日韩认同文字扩充A区
中日韩认同表意文字扩充A区，总计收容6,582个中日韩汉字。
4E00~9FFFh
中日韩认同表意文字区
中日韩认同表意文字区，总计收容20,902个中日韩汉字。
A000~A4FFh
彝族文字区
收容中国南方彝族文字和字根
AC00~D7FFh
韩文拼音组合字区
收容以韩文音符拼成的文字
F900~FAFFh
中日韩兼容表意文字区
总计收容302个中日韩汉字
FB00~FFFDh
文字表现形式区
收容组合拉丁文字、希伯来文、阿拉伯文、中日韩直式标点、小符号、半角符号、全角符号等。
比如需要匹配所有中日韩非符号字符,那么正则表达式应该是^[u3400-u9FFF]+$
理论上没错,可是我到msn.co.ko随便复制了个韩文下来,发现根本不对,诡异
再到msn.co.jp复制了个’お’,也不得行..
然后把范围扩大到^[u2E80-u9FFF]+$,这样倒是都通过了,这个应该就是匹配中日韩文字的正则表达式了,包括我們臺灣省還在盲目使用的繁體中文
而关于中文的正则表达式,应该是^[u4E00-u9FFF]+$,和论坛里常被人提起的^[u4E00-u9FA5]+$很接近
需要注意的是论坛里说的^[u4E00-u9FA5]+$这是专门用于匹配简体中文的正则表达式,实际上繁体字也在里面,我用测试器测试了下’中華人民共和國’,也通过了,当然,^[u4E00-u9FFF]+$也是一样的结果。
示例程序2
那么我们很多时候如果要匹配的内容如果既有中文也有英文，比如我们要匹配一个可以由中文字母以及一些其他字符组成的标题，该怎么写呢，我么接着看下面的代码
[python] view
plain copy
#!coding:utf-8
import re
import sys
# 测试匹配中文信息
def TestReChinese( ):
source = u" 数据结构模版----单链表SimpleLinkList[带头结点&&面向对象设计思想](C语言实现)"
temp = source.decode('utf8')
print "同时匹配中文英文"
print "--------------------------"
xx = u"([wWu4e00-u9fff]+)"
pattern = re.compile(xx)
results = pattern.findall(temp)
for result in results:
print result
print "--------------------------"
print "只匹配中文"
print "--------------------------"
xx = u"([u4e00-u9fff]+)"
pattern = re.compile(xx)
results = pattern.findall(temp)
for result in results:
print result
print "--------------------------"
if __name__ == "__main__" :
# 测试正则表达式
reload(sys)
sys.setdefaultencoding("utf-8")
TestReChinese( )
