scrapy爬虫踩的坑

Posted 2020-10-29 zzzzzhangrui

1.爬取网页时，当我们爬取(table)中的内容时，用xpath解析不到表格中td的值

　　原因:浏览器会在table标签下添加tbody（注：在chrome、火狐测试都有这个情况。出现这种原因是因为浏览器会对html文本进行一定的规范化 ）

　　解决方法：解决方法：使用scrapy 时将分析出的xpath 中的 tbody 去掉即可。

　　参考自：https://blog.csdn.net/lishk314/article/details/44916827