用Perl抓取网页和提交表格

Posted 2021-04-17 C语言程序互动营

这里简单介绍一下用Perl来实现抓取网页的源代码，以及用POST的方法来提交表格，并返回结果。难的讲不来，讲讲简单的。

这里讲到的Perl模块有：

useLWP::Simple;useLWP::UserAgent;用Perldoc查看详细的用法。

1，用Perl抓取网页

如果只是要拿到某个网页，那使用LWP::Simple里的函数是最简单的。通过调用get($url)函数，就可以得到相关网址的内容。

my$url='http://freshair.npr.org/dayFA.cfm?todayDate=current'
useLWP::Simple;
my$content=get$url;
die"Couldn'tget$url"unlessdefined$content;

#$content里是网页内容，下面是对此内容作些分析：

if($content=~m/jazz/i){
print"They'retalkingaboutjazztodayonFreshAir!\n";
}else{
print"FreshAirisapparentlyjazzlesstoday.\n";
}

非常简单易懂。拿网页内容是容易的，难的是用正则过滤需要的内容。

2，通过POST提交表格

部分html表格使用HTMLPOST向服务器提交数据，在这里你可以这样：

$response=$browser->post($url,
[
formkey1=>value1,
formkey2=>value2,
...
],
);

实例分析：例如在http://www.enzim.hu/hmmtop/html/submit.html)提交一段序列并返回结果，用Perl来实现。代码如下：

#!/usr/bin/Perl
useLWP::UserAgent;
my$browser=LWP::UserAgent->new;
$protein="MSSSTPFDPYALSEHDEERPQNVQSKSRTAELQAEIDDTVGIMRDNINKVAERGERLTSI";
my$SUSUI_URL="http://www.enzim.hu/hmmtop/server/hmmtop.cgi";
my$response=$browser->post($SUSUI_URL,['if'=>$protein,]);
if($response->is_success){
 print$response->content;
}else{
 print"Badluckthistime\n";
}

通过分析http://www.enzim.hu/hmmtop/html/submit.html的页面可知，这个要提交的input只有一个，就是name="if"。$protein就是要提交的序列。$response->content就是返回结果。