爬虫第一天——add_header()和get_header()

Posted 2020-11-08 高圈圈

 1 import urllib.request
 2 import random
 3 
 4 url = "http://www.baidu.com/"
 5 
 6 # 可以是User-Agent列表，也可以是代理列表
 7 ua_list = [
 8     "Mozilla/5.0 (Macintosh; Intel Mac OS X 10.6; rv2.0.1) Gecko/20100101 Firefox/4.0.1",
 9     "Mozilla/5.0 (Windows NT 6.1; RV2.0.1) Gecko/20100101 Firefox/4.0.1",
10     "Opera/9.80 (Windows NT 6.1; U; en) Presto/2.8.131 Version/11.11"
11     "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (Khtml, like Gecko) Chrome/66.0.3359.181 Safari/537.36"
12 ]
13 
14 # 在User-Agent列表里随机选择一个
15 user_agent = random.choice(ua_list)
16 
17 # 构造一个请求
18 request = urllib.request.Request(url)
19 
20 # 添加/修改 一个HTTP报头
21 request.add_header("User-Agent", user_agent)
22 
23 # 获取一个已有的HTTP报头值，！！只能是第一个字母大写，其他字母小写！！
24 
25 print(request.get_header("User-agent"))

 工具：python3