[python] utf-8编码,双斜杠‘\\‘转单斜杠‘\‘

本文探讨了在Python3中处理UTF-8编码过程中遇到的问题,特别是如何将带有双斜杠转义的字符串转换回原始的中文字符。通过对比几种不同的转换方法,指出了使用`literal_eval`和`binascii`库可以有效解决这一问题。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

在编译中文过程, 会使用utf-8进行转码得到byte,例如'测试!'.encode('utf8')

b'\xe6\xb5\x8b\xe8\xaf\x95\xef\xbc\x81'

在Python3中,有时会得到String,而不是byte:

\\xe6\\xb5\\x8b\\xe8\\xaf\\x95\\xef\\xbc\\x81

如果将String重新encode再decode,并不能得到原文:

string.encode('utf8').decode('unicode_escape')
---> \\xe6\\xb5\\x8b\\xe8\\xaf\\x95\\xef\\xbc\\x81

如果直接将byte进行decode,是可以得到原文的:

b'\xe6\xb5\x8b\xe8\xaf\x95\xef\xbc\x81'.decode('utf8')
---> 测试!

因此需要将String中的双斜杠'\\'转单斜杠'\',常见的几个方法:

1)❌直接使用replace():

string.encode().replace(b'\\',b'\')
---> 语法错误
string.encode().replace(b'\\\\',b'\\')
---> \\xe6\\xb5\\x8b\\xe8\\xaf\\x95\\xef\\xbc\\x81

2)❌使用unicode_escape

string.encode('utf8').decode('unicode_escape')
---> æµè¯ï¼

3)✅使用literal_eval:

from ast import literal_eval
literal_eval("b'{}'".format(string)).decode('utf-8')
---> 测试!

4)✅使用binascii

import binascii

binascii.a2b_hex(string.replace('\\x', '').encode()).decode('utf8')
---> 测试!
### Python 中 Unicode 编码与汉字之间的相互换 #### 将 Unicode 编码换为汉字 在 Python 中,可以使用 `encode` 和 `decode` 方法来处理字符串的编码和解码操作。对于给定的 Unicode 编码字符串 `\u4eac\u4e1c\u653e\u517b\u7684\u722c\u866b`,可以通过 `.encode('utf-8').decode('unicode_escape')` 来将其换为对应的中文字符[^2]。 ```python str_unicode = '\\u4eac\\u4e1c\\u653e\\u517b\\u7684\\u722c\\u866b' str_chinese = str_unicode.encode('utf-8').decode('unicode_escape') print(str_chinese) ``` 这段代码会输出:`京都放送的大楼`。 需要注意的是,在某些情况下,原始字符串可能已经包含了反斜义字符,此时应当确保正确地表示这些义序列。如果直接输入带有单个反斜的形式,则可能会遇到解析错误;因此建议使用双反斜作为前缀以避免此类问题的发生。 #### 将汉字换回 Unicode 编码形式 当需要将普通的中文字符串换为其相应的 Unicode 表示时,可以根据具体需求选择不同的方法: - **Python 2**: 可以通过调用内置函数 `repr()` 并配合正则表达式提取出所有的十六进制数值部分完成此过程。 - **Python 3**: 更加简便的方式是利用 `string` 对象自带的方法——即先将字符串编码为字节数组再对其进行 hex() 处理得到完整的 Unicode 序列[^4]。 下面是一个适用于 Python 3 的例子: ```python chinese_str = "京都放送的大楼" encoded_bytes = chinese_str.encode('unicode_escape') hex_representation = encoded_bytes.hex() print(hex_representation) # 如果想要获得更直观的结果,也可以这样: import re pattern = rb'(?:\\u([0-9a-fA-F]{4}))|.' matches = re.findall(pattern, encoded_bytes) unicode_points = ['U+' + match.decode().upper() for match in matches] formatted_output = ' '.join(unicode_points) print(formatted_output) ``` 上述脚本将会打印出两个版本的 Unicode 编码结果,一个是连续的十六进制数串,另一个则是按照标准格式化后的 U+XXXX 形式的列表。
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值