python怎么抓取豆瓣电影url

Posted 2023-05-07

参考技术A #!/usr/bin/env python2.7# encoding=utf-8"""
爬取豆瓣电影TOP250 - 完整示例代码
"""import codecsimport requestsfrom bs4 import BeautifulSoup

DOWNLOAD_URL = 'httn.com/top250/'def download_page(url):
return requests.get(url, headers= 'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_11_2) AppleWebKit/537.36 (Khtml, like Gecko) Chrome/47.0.2526.80 Safari/537.36'
).contentdef parse_html(html):
soup = BeautifulSoup(html)
movie_list_soup = soup.find('ol', attrs='class': 'grid_view')

movie_name_list = [] for movie_li in movie_list_soup.find_all('li'):
detail = movie_li.find('div', attrs='class': 'hd')
movie_name = detail.find('span', attrs='class': 'title').getText()

movie_name_list.append(movie_name)

next_page = soup.find('span', attrs='class': 'next').find('a') if next_page: return movie_name_list, DOWNLOAD_URL + next_page['href'] return movie_name_list, Nonedef main():
url = DOWNLOAD_URL with codecs.open('movies', 'wb', encoding='utf-8') as fp: while url:
html = download_page(url)
movies, url = parse_html(html)
fp.write(u'movies\n'.format(movies='\n'.join(movies)))if __name__ == '__main__':
main()12345678910111213141516171819202122232425262728293031323334353637383940414243444546474849505152

简单说明下，在目录下会生成一个文档存放电影名。python2

Python正则匹配抓取豆瓣电影链接和评论代码分享

抓取豆瓣各类型电影的链接和评论，按评分排列

使用工具：

Python3+pycharm

抓取请求：

request

代码如下:

import urllib.request
import re
import time
def movie(movieTag):

    tagUrl=urllib.request.urlopen(url)
    tagUrl_read = tagUrl.read().decode('utf-8')
    return tagUrl_read
def subject(tagUrl_read):
    ''' 
        这里还存在问题：
        ①这只针对单独的一页进行排序，而没有对全部页面的电影进行排序
        ②下次更新添加电影链接，考虑添加电影海报
        ③需要追加列表
        ④导入到本地txt或excel中
        ⑤在匹配电影名字时是否可以同时匹配链接与名字、评分、评论组成数组
        ⑥
    '''
#正则表达式匹配电影的名字（链接）、评分与评论    
    nameURL = re.findall(r'(http://movie.douban.com/subject/[0-9.]+)\\/"\\s+title="(.+)"',tagUrl_read)
    scoreURL = re.findall(r'<span\\s+class="rating_nums">([0-9.]+)<\\/span>',tagUrl_read)
    evaluateURL = re.findall(r'<span\\s+class="pl">\\((\\w+)人评价\\)<\\/span>',tagUrl_read)
    movieLists = list(zip(nameURL,scoreURL,evaluateURL))
    newlist.extend(movieLists)
    return newlist
#用quote处理特殊（中文）字符
movie_type = urllib.request.quote(input('请输入电影类型(如剧情、喜剧、悬疑)：'))
page_end=int(input('请输入搜索结束时的页码：'))
num_end=page_end*20
num=0
page_num=1
newlist=[]
while num<num_end:
    url=r'http://movie.douban.com/tag/%s?start=%d'%(movie_type,num)
    movie_url = movie(url)
    subject_url=subject(movie_url)
    num=page_num*20
    page_num+=1
else:
    #使用sorted函数对列表进行排列，reverse参数为True时升序，默认或False时为降序， key=lambda还不是很明白这里的原理
    movieLIST = sorted(newlist, key=lambda movieList : movieList[1],reverse = True)
    for movie in movieLIST:
        print(movie)

time.sleep(3)
print('结束')

小编这边准备了一个既能学习技术也能交流技术的也能接单的qq群聊 ：222020937【代码也准备好了】 欢迎加入《广告勿加，不然你做啥啥不赚钱》最后祝大家技术能力能越来越好收入越来越多