java通过url抓取网页数据-----正则表达式
Posted
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了java通过url抓取网页数据-----正则表达式相关的知识，希望对你有一定的参考价值。
原文地址https://www.cnblogs.com/xiaoMzjm/p/3894805.html
【本文介绍】
爬取别人网页上的内容，听上似乎很有趣的样子，只要几步，就可以获取到力所不能及的东西，例如呢？例如天气预报，总不能自己拿着仪器去测吧！当然，要获取天气预报还是用webService好。这里只是举个例子。话不多说了，上看看效果吧。
【效果】
我们随便找个天气预报的网站来试试：http://www.weather.com.cn/html/weather/101280101.shtml
从图中可用看出，今天（6日）的天气。我们就以这个为例，获取今天的天气吧！
最终后台打印出：
今天:6日 天气：雷阵雨 温度：26°~34° 风力：微风
【思路】
1、通过url获取输入流————2、获取网页html代码————3、用正则表达式抽取有用的信息————4、拼装成想要的格式
其实最难的一点事第3点，如果正则表示式不熟，基本上在这一步就会挂掉了——例如我T_T。下面为了抽取到正确的数据，我匹配了多次，如果能一次匹配的话，那代码量就少多了！
【代码】
1 package com.zjm.www.test;
2
3 import java.io.BufferedReader;
4 import java.io.IOException;
5 import java.io.InputStream;
6 import java.io.InputStreamReader;
7 import java.net.HttpURLConnection;
8 import java.net.URL;
9 import java.util.regex.Matcher;
10 import java.util.regex.Pattern;
11
12 /**
13 * 描述：趴取网页上的今天的天气
14 * @author zjm
15 * @time 2014/8/6
16 */
17 public class TodayTemperatureService {
18
19 /**
20 * 发起http get请求获取网页源代码
21 * @param requestUrl String 请求地址
22 * @return String 该地址返回的html字符串
23 */
24 private static String httpRequest(String requestUrl) {
25
26 StringBuffer buffer = null;
27 BufferedReader bufferedReader = null;
28 InputStreamReader inputStreamReader = null;
29 InputStream inputStream = null;
30 HttpURLConnection httpUrlConn = null;
31
32 try {
33 // 建立get请求
34 URL url = new URL(requestUrl);
35 httpUrlConn = (HttpURLConnection) url.openConnection();
36 httpUrlConn.setDoInput(true);
37 httpUrlConn.setRequestMethod("GET");
38
39 // 获取输入流
40 inputStream = httpUrlConn.getInputStream();
41 inputStreamReader = new InputStreamReader(inputStream, "utf-8");
42 bufferedReader = new BufferedReader(inputStreamReader);
43
44 // 从输入流读取结果
45 buffer = new StringBuffer();
46 String str = null;
47 while ((str = bufferedReader.readLine()) != null) {
48 buffer.append(str);
49 }
50
51 } catch (Exception e) {
52 e.printStackTrace();
53 } finally {
54 // 释放资源
55 if(bufferedReader != null) {
56 try {
57 bufferedReader.close();
58 } catch (IOException e) {
59 e.printStackTrace();
60 }
61 }
62 if(inputStreamReader != null){
63 try {
64 inputStreamReader.close();
65 } catch (IOException e) {
66 e.printStackTrace();
67 }
68 }
69 if(inputStream != null){
70 try {
71 inputStream.close();
72 } catch (IOException e) {
73 e.printStackTrace();
74 }
75 }
76 if(httpUrlConn != null){
77 httpUrlConn.disconnect();
78 }
79 }
80 return buffer.toString();
81 }
82
83 /**
84 * 过滤掉html字符串中无用的信息
85 * @param html String html字符串
86 * @return String 有用的数据
87 */
88 private static String htmlFiter(String html) {
89
90 StringBuffer buffer = new StringBuffer();
91 String str1 = "";
92 String str2 = "";
93 buffer.append("今天:");
94
95 // 取出有用的范围
96 Pattern p = Pattern.compile("(.*)(<li class=\\\'dn on\\\' data-dn=\\\'7d1\\\'>)(.*?)(</li>)(.*)");
97 Matcher m = p.matcher(html);
98 if (m.matches()) {
99 str1 = m.group(3);
100 // 匹配日期，注：日期被包含在<h2> 和 </h2>中
101 p = Pattern.compile("(.*)(<h2>)(.*?)(</h2>)(.*)");
102 m = p.matcher(str1);
103 if(m.matches()){
104 str2 = m.group(3);
105 buffer.append(str2);
106 buffer.append("\\n天气：");
107 }
108 // 匹配天气，注：天气被包含在<p class="wea" title="..."> 和 </p>中
109 p = Pattern.compile("(.*)(<p class=\\"wea\\" title=)(.*?)(>)(.*?)(</p>)(.*)");
110 m = p.matcher(str1);
111 if(m.matches()){
112 str2 = m.group(5);
113 buffer.append(str2);
114 buffer.append("\\n温度：");
115 }
116 // 匹配温度，注：温度被包含在<p class=\\"tem tem2\\"> <span> 和 </span><i>中
117 p = Pattern.compile("(.*)(<p class=\\"tem tem2\\"> <span>)(.*?)(</span><i>)(.*)");
118 m = p.matcher(str1);
119 if(m.matches()){
120 str2 = m.group(3);
121 buffer.append(str2);
122 buffer.append("°~");
123 }
124 p = Pattern.compile("(.*)(<p class=\\"tem tem1\\"> <span>)(.*?)(</span><i>)(.*)");
125 m = p.matcher(str1);
126 if(m.matches()){
127 str2 = m.group(3);
128 buffer.append(str2);
129 buffer.append("°\\n风力：");
130 }
131 // 匹配风，注：<i> 和 </i> 中
132 p = Pattern.compile("(.*)(<i>)(.*?)(</i>)(.*)");
133 m = p.matcher(str1);
134 if(m.matches()){
135 str2 = m.group(3);
136 buffer.append(str2);
137 }
138 }
139 return buffer.toString();
140 }
141
142 /**
143 * 对以上两个方法进行封装。
144 * @return
145 */
146 public static String getTodayTemperatureInfo() {
147 // 调用第一个方法，获取html字符串
148 String html = httpRequest("http://www.weather.com.cn/html/weather/101280101.shtml");
149 // 调用第二个方法，过滤掉无用的信息
150 String result = htmlFiter(html);
151
152 return result;
153 }
154
155 /**
156 * 测试
157 * @param args
158 */
159 public static void main(String[] args) {
160 String info = getTodayTemperatureInfo();
161 System.out.println(info);
162 }
163 }
【详解】
34-49行：通过url获取网页的源码，没什么好说的。
96行：在网页上按F12，查看"今天"的html代码，发现如下图，所以我们第一步就是要过滤掉除这一段html代码外的东西。
(.*)(<li class=\\\'dn on\\\' data-dn=\\\'7d1\\\'>)(.*?)(</li>)(.*) 这个正则表达式，很容易看出可以分为下面5组：
(.*) ：匹配除换行符外任意东西0-N次
(<li class=\\\'dn on\\\' data-dn=\\\'7d1\\\'>) ：匹配中间那段heml代码一次
(.*?) : .*?为匹配的懒惰模式，意思是匹配除换行符外任意东西尽可能少次
(</li>) ：匹配中间那段html代码一次
(.*) ：匹配除换行符外任意东西0-N次
这样，我们就可用m.group(3)拿到匹配中间（.*?）的那一串代码了。即我们需要的“今天”的天气的代码。
101行：中间那一段代码拿出来后如下图所示、还有很多无用的标签。我们要想办法继续除去。方法同上。
106行：手动拼接上我们需要的字符串。
经过以上的处理，就完成了一个简单的爬取啦。
中间正则表达式部分最不满意，各路网友如果有好的建议麻烦留下宝贵的评论，感激不尽~
以上是关于java通过url抓取网页数据-----正则表达式的主要内容，如果未能解决你的问题，请参考以下文章