java爬虫问题二: 使用jsoup爬取数据class选择器中空格多选择怎么解决

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了java爬虫问题二: 使用jsoup爬取数据class选择器中空格多选择怎么解决相关的知识,希望对你有一定的参考价值。

问题描述:

在使用jsoup爬取其他网站数据的时候,发现class是带空格的多选择,如果直接使用doc.getElementsByClass(“class的值”),这种方法获取不到想要的数据。

爬取网站页面结构如下:

其中文章列表的div为:<div class="am-cf inner_li inner_li_abtest"></div>

我们可以看到其class的值为:am-cf inner_li inner_li_abtest。带空格的。多值的。

如果我们还是用getElementsByClass()这个方法获取的话,是获取不到的。eclipse中断点如下:

可以看到获取的值的长度size=0。没有获取到数据。

经过各方搜索,发现解决方案:使用的不是getElementsByClass()方法,可以使用其他方法。

先上成功后截图:

我们可以看到数据的长度size=20了。说明获取到数据了。

下面讲解select方法使用:

Elements org.jsoup.nodes.Element.select(String cssQuery)

样式选择器。

查看源码:

我们知道这个可以多个。

在看看我们案例中使用的是:div.am-cf.inner_li.inner_li_abtest。为什么要这么写呢?

查看需要爬取文章的页面结构:

?

这下就明白了为什么这么用了吧。
凯哥微信id:kaigejava

个人网站:www.kaigejava.com
凯哥网站地址:http://kaigejava.com/article/detail/121

以上是关于java爬虫问题二: 使用jsoup爬取数据class选择器中空格多选择怎么解决的主要内容,如果未能解决你的问题,请参考以下文章

java jsoup 爬虫 怎么防止重复爬取

Java爬虫系列之实战:爬取酷狗音乐网 TOP500 的歌曲

Java爬虫实战:Jsoup+WebClient实现音乐爬取~

爬虫实践-基于Jsoup爬取Facebook群组成员信息

爬虫实践-基于Jsoup爬取Facebook群组成员信息

最后得倔强,使用Java进行爬虫