python爬虫---实现项目 用BeautifulSoup分析新浪新闻数据

Posted 2021-12-16 cxiaocai

　　这次只演示了，如何在真实项目内用到BeautifulSoup库来解析网页，而新浪的新闻是ajax加载过来的数据，在这里我们只演示解析部分数据（具体反扒机制没做分析）。

代码地址：https://gitee.com/dwyui/BeautifulSoup_xinlang.git。

关于的爬虫的博客已经越来越多，使用到的技术也越来越多，后期我还会持续写下去，大概从几个角度去写，多线程爬取（提高效率），如何更好的做到爬取数据（破解反扒）。

用redis管理多线程和代理IP，后期也会做一段关于非关系型数据库的博客，敬请期待。