Python爬虫爬数据写入到文件

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Python爬虫爬数据写入到文件相关的知识,希望对你有一定的参考价值。

#coding=utf-8
import requests
from bs4 import BeautifulSoup
import sys
reload(sys)  
sys.setdefaultencoding(‘utf8‘) 
r=requests.get(‘http://html-color-codes.info/color-names/‘)
html=r.text
#print html
soup=BeautifulSoup(html,‘html.parser‘)
trs=soup.find_all(‘tr‘)
f=open(‘color.txt‘,‘a‘)
index=1
for tr in trs:
	style=tr.get(‘style‘)
	tds=tr.find_all(‘td‘)
	td=[x for x in tds]
	name=td[1].text.strip()
	hex=td[2].text.strip()
	string=str(index)+‘,‘+name+‘,‘+hex+‘,‘+style
	f.write(string)
	f.write(‘\r\n‘)
	#print(‘序号:‘+str(index)+‘颜色:‘+name+‘颜色值:‘+hex+‘背景色样式‘+style)
	index=index+1
f.close()
‘‘‘
for index in range(len(trs)):
	style=trs[index].get(‘style‘)
	tds=trs[index].find_all(‘td‘)
	name=tds[1].text
	hex=tds[2].text
	print(‘颜色:‘+name+‘颜色值:‘+hex+‘背景色样式‘+style)
‘‘‘

直接上代码。本来这次是想抓取数据直接通过mysql相关的包写入到数据库来着,结果在网上找教程的时候发现MySQL那玩意好难安装。。。。。所以就直接放弃了。间接的把数据先写进txt文本,再慢慢导进数据库吧。。。。

以上是关于Python爬虫爬数据写入到文件的主要内容,如果未能解决你的问题,请参考以下文章

如何用Python网络爬虫爬取网易云音乐歌词

如何用Python网络爬虫爬取网易云音乐歌词

简易python爬虫爬取boss直聘职位,并写入excel

python爬虫:如何爬网页数据并将其放在文本

转载Python爬虫框架Scrapy学习笔记

python爬虫怎么爬取webpack打包过页面的