关于爬虫的编码格式问题

Posted zquacm-875180305

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了关于爬虫的编码格式问题相关的知识,希望对你有一定的参考价值。

UnicodeEncodeError: ‘gbk‘ codec can‘t encode character ‘uc0ac‘ in position

爬虫编码想从把构造的字典信息写进文件。

有两种方法:

一、用json
import json
js=json.dumps(a)
fp.writelines(js+‘ ‘)
二、直接强制转换
fp.write(str(a)+‘ ‘)

   利用第一种方法输入网页信息,中文会变成编码。

   采用第二种方法,中文信息进行保留,但是,有时候会提出错误‘UnicodeEncodeError: ‘gbk‘ codec can‘t encode character ‘uc0ac‘ in position‘.

   此时,在文件的目录下面创造一个utf-8编码的txt。并且fp的编码格式改为utf-8

fp=open("top500.txt","at",encoding=utf-8)

技术分享图片






以上是关于关于爬虫的编码格式问题的主要内容,如果未能解决你的问题,请参考以下文章

解决pycharm的爬虫乱码问题(初步了解各种编码格式)

python爬虫把url链接编码成gbk2312格式过程解析

Python爬虫2-检测编码(使用chardet)

python爬虫 url链接编码成gbk2312格式

python爬虫 url链接编码成gbk2312格式

scrapy按顺序启动多个爬虫代码片段(python3)