详解字符集和编码规则| 手把手教你入门Python之二十八

上一篇:8种字符串常⻅操作| 手把手教你入门Python之二十七
下一篇:介绍2种成员运算符 | 手把手教你入门Python之二十九

本文来自于千锋教育在阿里云开发者社区学习中心上线课程《Python入门2020最新大课》,主讲人姜伟。

字符集

计算机只能处理数字(其实就是数字0和数字1),如果要处理⽂本,就必须先把⽂本转换为数字才能处理。最早的计算机在设计时采⽤8个⽐特(bit)作为⼀个字节(byte),所以,⼀个字节能表示的最⼤的整数就是255(⼆进制11111111=⼗进制255),0 - 255被⽤来表示⼤⼩写英⽂字⺟、数字和⼀些符号,这个编码表被称为ASCII编码。

ASCII码表使⽤7位⼆进制表示⼀个字符,它的区间范围时0~127,⼀共只能表示128个字符,仅能⽀持英语。随着计算机科学的发展,⻄欧语⾔、希腊语、泰语、阿拉伯语、希伯来语等语⾔的字符也被添加到码表中,形成了⼀个新的码表ISO8859-1(⼜被称为Latin1)码表。ISO8859-1使⽤8位⼆进制表示⼀个字符串,完全兼容ASCII码表。

Unicode(统⼀码、万国码、单⼀码)是计算机科学领域⾥的⼀项业界标准,包括字符集、编码⽅案等。
Unicode 是为了解决传统的字符编码⽅案的局限⽽产⽣的,它为每种语⾔中的每个字符设定了统⼀并且唯⼀的⼆进制编码,以满⾜跨语⾔、跨平台进⾏⽂本转换、处理的要求。

字符和编码相互转换

使⽤chr和ord⽅法,可以实现字符和编码之间的相互转换。

print(ord('a')) # 使⽤ord⽅法,可以获取⼀个字符对应的编码
print(chr(100)) # 使⽤chr⽅法,可以获取⼀个编码对应的字符

编码规则

使⽤Unicode为每种语⾔的每个字符都设定了唯⼀的⼆进制编码,但是它还是存在⼀定的问题,不够完美。
例如,汉字 “你” 转换成为⼀个字符结果是 0x4f60 ,转换成为⼆进制就是 01001111 01100000 ,此时
就有两个问题:

  1. 1001111 01100000 到底是⼀个汉字 “你” ,还是两个 Latin1 字符?
  2. 如果Unicode进⾏了规定,每个字符都使⽤n个⼋位来表示,对于Latin1字符来说,⼜会浪费很多存储空
    间。

为了解决这个问题,就出现了⼀些编码规则,按照⼀定的编码规则对Unicode数字进⾏计算,得出新的编
码。在中国常⽤的字符编码有 GBK , Big5 和 utf8 这三种编码规则。

使⽤字符串的encode⽅法,可以将字符串按照指定的编码格式转换称为⼆进制;使⽤decode⽅法,可以将⼀个⼆进制数据按照指定的编码格式转换成为字符串。

s1 = '你'.encode('utf8') # 将字符 你 按照utf8格式编码称为⼆进制
print(type(s1)) # <class 'bytes'>
print(s1) # b'\xe4\xbd\xa0'
s2 = s1.decode('utf8') # 将⼆进制按照utf8格式解码称为字符串
print(s2)
s3 = '你'.encode('gbk') # 将字符 你 按照gbk格式转换称为⼆进制
print(s3) # b'\xc4\xe3'
s4 = s3.decode('gbk') # 将⼆进制按照gbk格式解码称为字符
print(s4)

思考:⽂字产⽣乱码的原因以及解决⽅案。

详解字符集和编码规则| 手把手教你入门Python之二十八

上一篇:Java内存缓存-通过Map定制简单缓存


下一篇:如何在复杂的Simulink模型中,实现不同逻辑块不同周期的调用?