如何使用 Python 从需要登录信息的网站下载文件？

Posted 2023-02-23

【中文标题】如何使用 Python 从需要登录信息的网站下载文件？

【英文标题】：How to download file from website that requires login information using Python?

【发布时间】：2014-05-13 05:13:24

【问题描述】：

我正在尝试使用 Python 从网站下载一些数据。如果您只是复制并粘贴 url，除非您填写登录信息，否则它不会显示任何内容。我有登录名和密码，但是我应该如何将它们包含在 Python 中？

我当前的代码是：

import urllib, urllib2, cookielib

username = my_user_name
password = my_pwd

link = 'www.google.com' # just for instance
cj = cookielib.CookieJar()
opener = urllib2.build_opener(urllib2.HTTPCookieProcessor(cj))
login_data = urllib.urlencode('username' : username, 'j_password' : password)

opener.open(link, login_data)
resp = opener.open(link,login_data)
print resp.read()

没有弹出错误，但是 resp.read() 是一堆 CSS，它只有“你必须登录才能在这里阅读新闻”之类的消息。

那么如何找回登录后的页面呢？

刚刚注意到该网站需要 3 个条目：

Company: 

Username: 

Password:

我拥有所有这些，但是如何将所有三个都放入登录变量中？

如果我在没有登录的情况下运行它，它会返回：

cj = cookielib.CookieJar()
opener = urllib2.build_opener(urllib2.HTTPCookieProcessor(cj))

opener.open(dd)
resp = opener.open(dd)

print resp.read()

这里是打印输出：

<DIV id=header>
<DIV id=strapline><!-- login_display -->
<P><FONT color=#000000>All third party users of this website and/or data produced by the Baltic do so at their own risk. The Baltic owes no duty of care or any other obligation to any party other than the contractual obligations which it owes to its direct contractual partners. </FONT></P><IMG src="images/top-strap.gif"> <!-- template [strapline]--></DIV><!-- end strapline -->
<DIV id=memberNav>
<FORM class=members id=form1 name=form1 action=client_login/client_authorise.asp?action=login method=post onsubmits="return check()">

【问题讨论】：

它不起作用，打印 resp.read() 仍然返回“

只能通过订阅访问此数据。点击这里 a> 免费试用。

"

@André 我注意到该页面需要 3 个登录项，我拥有所有这些项，但我不确定如何将其放入 login_info？

我已对其进行了编辑，但不确定这是否是您要求的。我没有在 print resp.read() 结果中找到

【参考方案1】：

使用 scrapy 来抓取该数据，Scrapy

然后你就可以这样做了

class LoginSpider(Spider):
    name = 'example.com'
    start_urls = ['http://www.example.com/users/login.php']

    def parse(self, response):
        return [FormRequest.from_response(response,
                    formdata='username': 'john', 'password': 'secret',
                    callback=self.after_login)]

    def after_login(self, response):
        # check login succeed before going on
        if "authentication failed" in response.body:
            self.log("Login failed", level=log.ERROR)
            return

【讨论】：

这可能行得通，但我认为他不需要这么大的库来完成像登录这样的琐碎任务......同样可以在 Python-Requests 甚至 urllib 的两行之一中完成.

我现在没有 scrapy，我必须让 IT 为我安装它，因为 Python 在服务器上..

【参考方案2】：

这段代码应该可以工作，使用Python-Requests - 只需将... 替换为实际域，当然还有登录数据。

from requests import Session

s = Session() # this session will hold the cookies

# here we first login and get our session cookie
s.post("http://.../client_login/client_authorise.asp?action=login", "companyName":"some_company", "password":"some_password", "username":"some_user", "status":"")

# now we're logged in and can request any page
resp = s.get("http://.../").text

print(resp)

【讨论】：

谢谢，但在 resp 变量中我仍然拥有 ">