weiliwei 发表于 2018-8-15 06:03:52

Python之encode与decode浅析

  Python之encode与decode浅析
  
  在 python 源代码文件中,如果你有用到非ASCII字符,则需要在文件头部进行字符编码的声明,声明如下:

[*]  # code:UTF-8
  因为python 只检查 #、coding 和编码字符串,为了美观等原因可以如下写法:

[*]  #-*-coding:utf-8-*-
  
  常见编码介绍:


[*]  GB2312编码:适用于汉字处理、汉字通信等系统之间的信息交换。
[*]  GBK编码:是汉字编码标准之一,是在 GB2312-80 标准基础上的内码扩展规范,使用了双字节编码。
[*]  ASCII编码:是对英语字符和二进制之间的关系做的统一规定。
[*]  Unicode编码:这是一种世界上所有字符的编码。当然了它没有规定的存储方式。
[*]  UTF-8编码:是 Unicode Transformation Format - 8 bit 的缩写, UTF-8 是 Unicode 的一种实现方式。它是可变长的编码方式,可以使用 1~4 个字节表示一个字符,可根据不同的符号而变化字节长度。


[*]
  
  本文在这里主要讨论一个报错问题:报错“UnicodeEncodeError:'ascii' codec can't encode characters in position 0-1: ordinal notin range(128)”?
  (1)什么是Unicode编码
  
  字符串在python内部的表示是unicode编码,因此,在做编码转换时,通常需要以unicode作为中间编码,即先将其他编码的字符串解码(decode)成unicode,再从unicode编码(encode)成另一种编码。
  (2)decode与encode的作用
  decode的作用是将其他编码的字符串转换成unicode编码,如str1.decode('gb2312'),表示将gb2312编码的字符串str1转换成unicode编码。
  encode的作用是将unicode编码转换成其他编码的字符串,如str2.encode('gb2312'),表示将unicode编码的字符串str2转换成gb2312编码。
  因此,转码的时候一定要先搞明白,字符串str是什么编码,然后decode成unicode,然后再encode成其他编码!
  注:代码中字符串的默认编码与代码文件本身的编码一致。
  
  (3)举例说明
  第一种情况:s='中文'
  如果是在utf8的文件中,该字符串就是utf8编码,如果是在gb2312的文件中,则其编码为gb2312。这种情况下,要进行编码转换,都需要先用decode方法将其转换成unicode编码,再使用encode方法将其转换成其他编码。通常,在没有指定特定的编码方式时,都是使用的系统默认编码创建的代码文件。
  第二种情况:s=u'中文'
  则该字符串的编码就被指定为unicode了,即python的内部编码,而与代码文件本身的编码无关。因此,对于这种情况做编码转换,只需要直接使用encode方法将其转换成指定编码即可。
  
  注:【1】如果一个字符串已经是unicode了,再进行解码则将出错!
  【2】用非unicode编码形式的str来encode会报错。
  
  (4)扩展
  
  #-*-coding:utf-8-*-
  s='中文'
  print type(s) #查看s的字符类型
  print s
  s.decode('utf-8') #解码utf8,默认的编码方式是unicode
  s.decode('gbk',"ignore") #解码utf8,忽略其中有异常的编码,仅显示有效的编码
  s.decode('gbk',"replace") #替换其中异常的编码
  print type(s)
  print s
  s.encode('gb2312') #编码为gb2312
  print type(s)
  print s
  
  注:
  另外对于一些包含特殊字符的编码,直接解码可能会报错,可以使用对于的参数来设置。如:
  s.decode(“utf-8”, “ignore”) 忽略其中有异常的编码,仅显示有效的编码
  s.decode(“utf-8”, “replace”) 替换其中异常的编码,这个相对来可能一眼就知道那些字符编码出问题了。
  
页: [1]
查看完整版本: Python之encode与decode浅析