在 Ubuntu 上使用 Scrapy 和 ***
Posted
技术标签:
【中文标题】在 Ubuntu 上使用 Scrapy 和 ***【英文标题】:Using Scrapy with *** on Ubuntu 【发布时间】:2016-09-04 06:51:34 【问题描述】:所以我正在使用 Scrapy 抓取一些网站,并且我想增加我在互联网上的隐私并避免被禁止,所以我读到我可以通过使用高级代理列表来实现这一点,例如 http://www.ninjasproxy.com/ 或 http://hidemyass.com/ 或 ***或 Tor。
据我了解,付费 *** 将是一个不错的选择,就像 http://hidemyass.com/ 提供的那样,但我似乎找不到任何代码可以实际显示 Scrapy 与 hidemyass 之类的 *** 集成。
我只看到了像https://github.com/aivarsk/scrapy-proxies 这样的例子,它展示了如何使用代理列表。
如何让 Scrapy 与 *** 一起工作?如果我不能让代理列表足够好以保持匿名?
【问题讨论】:
【参考方案1】:*** 是在整个系统范围内工作的东西,而不是代理选定流量的东西。您的所有互联网流量、浏览器、种子、聊天等都将通过 *** 进行路由,因此只需连接到 *** 并运行脚本即可。
【讨论】:
嗨@psychok7 你用的是哪个***?以上是关于在 Ubuntu 上使用 Scrapy 和 ***的主要内容,如果未能解决你的问题,请参考以下文章
无法在Win系统上的Ubuntu虚拟机中安装Scrapy(Shell)