用groovy采集网页数据

Posted 疯吻IT

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了用groovy采集网页数据相关的知识,希望对你有一定的参考价值。

首先,用 http://groovyconsole.appspot.com/ 测试下面的代码,发现引用总是失败.

下载了GGTS: https://spring.io/tools/ggts

测试成功: 

NewImage

 

@Grapes( @Grab(group=\'org.ccil.cowan.tagsoup\', module=\'tagsoup\', version=\'1.2\') )
import org.ccil.cowan.tagsoup.Parser;

class Testhtml {

public static void main(String[] args){
String ENCODING = "UTF-8"
def PARSER = new XmlSlurper(new Parser() )

def url = "http://www.nfl.com/stats/categorystats?archive=false&conference=null&statisticCategory=PASSING&season=2010&seasonType=REG&experience=null&tabSeq=0&qualified=true&Submit=Go"

new URL(url).withReader (ENCODING) { reader ->

def document = PARSER.parse(reader)
def data = document.\'**\'.find {it.@class == \'data-table1\'}.tbody.tr.collect {
[
Rk: it.td[0].text().trim(),
Player: it.td[1].text().trim(),
PlayerUrl: "http://www.nfl.com" + it.td[1].a.@href.text().trim(),
Team: it.td[2].text().trim(),
Pos: it.td[3].text().trim()
]
}

data.each { it -> println it }
}
}
}

以上是关于用groovy采集网页数据的主要内容,如果未能解决你的问题,请参考以下文章

后羿采集器怎么抓取慕课网页评论

利用PHP从淘宝采集评论和成交数据

数据采集器与爬虫相比都有哪些优势?

使用PHP CURL函数采集gzip编码网页报错

爬虫中怎样用扒出来的链接扒网页中的内容?

一大波可视化网页采集完整过程记录 新手也能一看就会