零基础http代理http完美代理访问
Posted 技术猿生活高生活
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了零基础http代理http完美代理访问相关的知识,希望对你有一定的参考价值。
如果翻过墙,或者做过渗透啥的,肯定对代理不陌生,说白了,代理服务器就是一个中转站,你对目标网址的请求都会进过代理服务器去请求,类似于一个被你操控的傀儡,别人能知道的也只能是这个代理,从而提升安全性和访问一些受限制的网站。
实现方式
方法一 :使用系统属性来完成代理设置, 这种方法比较简单, 但是不能对单独的连接来设置代理:
方法二 :使用Proxy来对每个连接实现代理, 这种方法只能在jdk 1.5以上的版本使用(包含jdk1.5), 优点是可以单独的设置每个连接的代理, 缺点是设置比较麻烦:
先上结果
发送GET请求出现异常! 113.71.209.222 -> 异常 {ip:‘113.123.118.129‘,address:‘山东省滨州市 电信‘} {ip:‘221.198.63.96‘,address:‘天津市 联通‘} {ip:‘144.255.233.100‘,address:‘山东省 电信‘} {ip:‘221.198.63.96‘,address:‘天津市 联通‘} {ip:‘116.2.97.36‘,address:‘辽宁省沈阳市 联通‘} {ip:‘221.198.63.96‘,address:‘天津市 联通‘} {ip:‘221.198.63.96‘,address:‘天津市 联通‘} {ip:‘221.198.63.96‘,address:‘天津市 联通‘} {ip:‘221.198.63.96‘,address:‘天津市 联通‘} 发送GET请求出现异常! 182.91.66.251 -> 异常 {ip:‘221.198.63.96‘,address:‘天津市 联通‘} {ip:‘42.6.232.245‘,address:‘辽宁省 联通‘} 发送GET请求出现异常! 27.212.106.212 -> 异常 {ip:‘183.158.154.222‘,address:‘浙江省杭州市 电信‘} {ip:‘221.198.63.96‘,address:‘天津市 联通‘} 发送GET请求出现异常! 106.113.122.194 -> 异常 {ip:‘221.198.63.96‘,address:‘天津市 联通‘} {ip:‘221.198.63.96‘,address:‘天津市 联通‘} 发送GET请求出现异常! 121.225.84.216 -> 异常 发送GET请求出现异常! 111.155.116.232 -> 异常 发送GET请求出现异常! 106.44.81.188 -> 异常 发送GET请求出现异常! 60.187.173.190 -> 异常 {ip:‘221.198.63.96‘,address:‘天津市 联通‘} {ip:‘118.80.223.249‘,address:‘山西省阳泉市 联通‘} 发送GET请求出现异常! 119.130.24.74 -> 异常 发送GET请求出现异常! 123.116.57.125 -> 异常 {ip:‘221.198.63.96‘,address:‘天津市 联通‘} {ip:‘221.198.63.96‘,address:‘未知国家 ‘} 发送GET请求出现异常! 171.212.200.237 -> 异常 发送GET请求出现异常! 183.158.154.222 -> 异常 {ip:‘139.208.195.31‘,address:‘吉林省延边州 联通‘} {ip:‘113.140.139.7‘,address:‘陕西省西安市 电信‘} {ip:‘123.131.89.41‘,address:‘山东省潍坊市 联通‘} {ip:‘121.41.82.138‘,address:‘浙江省杭州市 阿里云BGP数据中心‘} 发送GET请求出现异常! 116.54.78.99 -> 异常 {ip:‘116.234.58.218‘,address:‘上海市 电信‘} {ip:‘221.198.63.96‘,address:‘天津市 联通‘} 发送GET请求出现异常! 60.166.89.211 -> 异常 {ip:‘221.198.63.96‘,address:‘天津市 联通‘} {ip:‘175.18.57.147‘,address:‘吉林省辽源市 联通‘} 发送GET请求出现异常! 101.28.93.196 -> 异常 {ip:‘221.215.190.141‘,address:‘山东省青岛市 联通‘} {ip:‘221.198.63.96‘,address:‘天津市 联通‘} {ip:‘221.198.63.96‘,address:‘天津市 联通‘} {ip:‘221.198.63.96‘,address:‘天津市 联通‘} {ip:‘221.198.63.96‘,address:‘天津市 联通‘} {ip:‘171.14.37.251‘,address:‘河南省信阳市 电信‘} {ip:‘221.198.63.96‘,address:‘天津市 联通‘} {ip:‘218.78.213.174‘,address:‘上海市 电信‘} {ip:‘114.235.80.161‘,address:‘江苏省徐州市 电信‘} {ip:‘221.198.63.96‘,address:‘天津市 联通‘} {ip:‘101.86.86.101‘,address:‘上海市 电信‘} {ip:‘221.198.63.96‘,address:‘天津市 联通‘} {ip:‘221.198.63.96‘,address:‘天津市 联通‘} {ip:‘119.187.37.87‘,address:‘山东省 联通‘} {ip:‘221.198.63.96‘,address:‘天津市 联通‘} {ip:‘221.198.63.96‘,address:‘天津市 联通‘} 发送GET请求出现异常! 123.122.150.242 -> 异常 {ip:‘221.198.63.96‘,address:‘天津市 联通‘} 发送GET请求出现异常! 175.165.101.48 -> 异常 发送GET请求出现异常! 122.72.32.74 -> 异常 发送GET请求出现异常! 114.237.155.155 -> 异常 {ip:‘115.234.155.155‘,address:‘浙江省温州市 电信‘} 发送GET请求出现异常! 121.56.190.52 -> 异常 {ip:‘122.236.153.216‘,address:‘浙江省绍兴市 电信‘} 发送GET请求出现异常! 180.173.109.149 -> 异常 {ip:‘221.198.63.96‘,address:‘天津市 联通‘} {ip:‘221.198.63.96‘,address:‘天津市 联通‘} {ip:‘221.198.63.96‘,address:‘天津市 联通‘} 发送GET请求出现异常! 119.182.47.86 -> 异常 {ip:‘221.198.63.96‘,address:‘天津市 联通‘} {ip:‘221.198.63.96‘,address:‘天津市 联通‘} 发送GET请求出现异常! 114.217.243.25 -> 异常 发送GET请求出现异常! 117.78.51.231 -> 异常 {ip:‘122.97.159.144‘,address:‘江苏省 联通‘} {ip:‘123.166.23.42‘,address:‘黑龙江省哈尔滨市 电信‘} 发送GET请求出现异常! 125.71.133.237 -> 异常 {ip:‘114.102.46.16‘,address:‘安徽省马鞍山市 电信‘} {ip:‘1.59.74.243‘,address:‘黑龙江省大庆市 联通‘} 发送GET请求出现异常! 1.61.245.127 -> 异常 {ip:‘221.198.63.96‘,address:‘天津市 联通‘} {ip:‘39.64.193.40‘,address:‘山东省 联通‘} {ip:‘221.198.63.96‘,address:‘天津市 联通‘} {ip:‘221.198.63.96‘,address:‘天津市 联通‘} {ip:‘221.198.63.96‘,address:‘天津市 联通‘} {ip:‘221.198.63.96‘,address:‘天津市 联通‘} {ip:‘221.198.63.96‘,address:‘天津市 联通‘} {ip:‘221.198.63.96‘,address:‘黑龙江省七台河市 联通‘} {ip:‘221.198.63.96‘,address:‘天津市 联通‘} {ip:‘221.198.63.96‘,address:‘天津市 联通‘} {ip:‘221.198.63.96‘,address:‘天津市 联通‘} {ip:‘221.198.63.96‘,address:‘天津市 联通‘} 发送GET请求出现异常! 175.172.216.95 -> 异常 {ip:‘221.198.63.96‘,address:‘天津市 联通‘} 发送GET请求出现异常! 123.120.219.129 -> 异常 {ip:‘111.172.227.239‘,address:‘湖北省武汉市 电信‘} {ip:‘221.198.63.96‘,address:‘天津市 联通‘} {ip:‘221.198.63.96‘,address:‘天津市 联通‘} {ip:‘221.198.63.96‘,address:‘天津市 联通‘} 耗时:232.66
国内免费代理的特点是又慢又卡,没办法,谁让人家免费呢,上面出现GET方式请求异常可能有两个可能
1、超时(我设置了3s超时)
2、代理不能用(这就没办法了)
具体实现
方法一 :使用系统属性来完成代理设置, 这种方法比较简单, 但是不能对单独的连接来设置代理:
public static void main(String[] args) { Properties prop = System.getProperties(); // 设置http访问要使用的代理服务器的地址 prop.setProperty("http.proxyHost", "192.168.0.254"); // 设置http访问要使用的代理服务器的端口 prop.setProperty("http.proxyPort", "8080"); // 设置不需要通过代理服务器访问的主机,可以使用*通配符,多个地址用|分隔 prop.setProperty("http.nonProxyHosts", "localhost|192.168.0.*"); // 设置安全访问使用的代理服务器地址与端口 // 它没有https.nonProxyHosts属性,它按照http.nonProxyHosts 中设置的规则访问 prop.setProperty("https.proxyHost", "192.168.0.254"); prop.setProperty("https.proxyPort", "443"); // 使用ftp代理服务器的主机、端口以及不需要使用ftp代理服务器的主机 prop.setProperty("ftp.proxyHost", "192.168.0.254"); prop.setProperty("ftp.proxyPort", "2121"); prop.setProperty("ftp.nonProxyHosts", "localhost|192.168.0.*"); // socks代理服务器的地址与端口 prop.setProperty("socksProxyHost", "192.168.0.254"); prop.setProperty("socksProxyPort", "8000"); // 设置登陆到代理服务器的用户名和密码 Authenticator.setDefault(new MyAuthenticator("userName", "Password")); } static class MyAuthenticator extends Authenticator { private String user = ""; private String password = ""; public MyAuthenticator(String user, String password) { this.user = user; this.password = password; } protected PasswordAuthentication getPasswordAuthentication() { returnnew PasswordAuthentication(user, password.toCharArray()); } }
别着急,别看到这个就头大,这是API接口说明
方法二 :使用Proxy来对每个连接实现代理, 这种方法只能在jdk 1.5以上的版本使用(包含jdk1.5), 优点是可以单独的设置每个连接的代理, 缺点是设置比较麻烦:
public static void main(String[] args) { try { URL url = new URL("http://www.baidu.com"); // 创建代理服务器 InetSocketAddress addr = new InetSocketAddress("192.168.0.254",8080); Proxy proxy = new Proxy(Proxy.Type.HTTP, addr); // http 代理 // 如果我们知道代理server的名字, 可以直接使用 URLConnection conn = url.openConnection(proxy); InputStream in = conn.getInputStream(); String s = IOUtils.toString(in); System.out.println(s); } catch (Exception e) { e.printStackTrace(); } }
测试
下面的代码分别测试了不使用代理,设置全局代理,为单个连接设置代理3中情况。(测试代码中的代理为网上找的免费代理,比如:http://www.xicidaili.com/,响应速度,稳定性极差),如果代理无响应,java还会自动切换到本地请求。
在上面的结果中有很多的异常,也有很多的本地请求(因为我目前所在地是在天津,切换本地请求就是天津)
注意了:代理服务器ip和端口都不是随便乱填的,是找的网上免费代理服务器
public static void main(String[] args) throws InterruptedException, IOException { // 目标网址,会返回发起请求的ip URL url1 = new URL("http://ip.chinaz.com/getip.aspx"); // 不设置任何代理 String result1 = printInputstream(url1.openStream()); System.out.println(" 不设置任何代理:" + result1); /** * 方式一 */ Properties prop = System.getProperties(); // 设置http访问要使用的代理服务器的地址 prop.setProperty("http.proxyHost", "120.35.30.178"); // 设置http访问要使用的代理服务器的端口 prop.setProperty("http.proxyPort", "80"); System.setProperties(prop); URL url2 = new URL("http://ip.chinaz.com/getip.aspx"); String result2 = printInputstream(url2.openStream()); System.out.println(" 设置全局代理:" + result2); /** * 方法二 */ // 创建代理服务器 InetSocketAddress addr = new InetSocketAddress("220.202.127.78", 8118); // http 代理 Proxy proxy = new Proxy(Proxy.Type.HTTP, addr); URL url3 = new URL("http://ip.chinaz.com/getip.aspx"); URLConnection conn = url3.openConnection(proxy); conn.setReadTimeout(5000); String result3 = printInputstream(conn.getInputStream()); System.out.println(" 为当前请求设置代理:" + result3); } public static String printInputstream(InputStream in) { BufferedReader reader = new BufferedReader(new InputStreamReader(in)); reader = new BufferedReader(new InputStreamReader(in)); String s = null; StringBuffer sb = new StringBuffer(); try { while ((s = reader.readLine()) != null) { sb.append(s); } } catch (IOException e) { e.printStackTrace(); } return sb.toString(); }
测试完就会输出代理服务器的ip和所在地理位置,如果发现不行,那换一个服务器试试,http://www.xicidaili.com/
自动化操作
我们想达到刷访问量,刷票等需求的时候,不可能手动操作,那样会累死的,想刷100个访客或者100张票,那还得等刷到啥时候去了。
我们用http请求访问免费服务器,虽然有很多不能用,不能用的跳过,我们依然可以有很多的机会,更何况有好几千个免费代理服务器,况且还不断刷新,再说了,网上一大堆网站都分享免费服务器,慢归慢,卡归卡,但是免费呀,好了,废话不多说,看代码。
我们访问http请求得到相应的网页信息,但是我们要从中取出ip地址和端口号(得到网页String-->转换XML(dom4j)(更方便取)-->取代理服务器ip和端口)
其中用到了dom4j的jar包,maven贴上,
<dependency> <groupId>dom4j</groupId> <artifactId>dom4j</artifactId> <version>1.6.1</version> </dependency>
Main.java
package com.xjh.xicidaili; import com.xjh.demo.proxy.HttpClient; import com.xjh.utils.HttpUtils; import org.dom4j.Document; import org.dom4j.DocumentException; import org.dom4j.DocumentHelper; import org.dom4j.Element; import java.io.IOException; import java.util.HashMap; import java.util.List; import java.util.Map; /** * Created by DIY on 2017/8/2. */ public class Main { private static final String xicidaili = "http://www.xicidaili.com/nn"; public static void main(String args[]) throws IOException, DocumentException { long startTime = System.currentTimeMillis(); //开始时间 Map<String, String> headProperty = new HashMap<String, String>(); //请求头 // headProperty.put("Accept", "text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,*/*;q=0.8"); // headProperty.put("Accept-Encoding", "gzip, deflate, sdch"); // headProperty.put("Accept-Language", "zh-CN,zh;q=0.8"); // headProperty.put("Connection", "keep-alive"); // headProperty.put("Host", "www.xicidaili.com"); // headProperty.put("If-None-Match", "W/\"971e6035d3280dcccdd49aa5a1e1d043\""); // headProperty.put("Upgrade-Insecure-Requests", "1"); headProperty.put("User-Agent", "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/53.0.2785.101 Safari/537.36"); Map<String, String> requestProperty = new HashMap<String, String>(); //请求参数 HttpUtils httpUtil = new HttpUtils(xicidaili, headProperty, requestProperty); httpUtil.setRequestMethod("GET"); //请求方式 HttpUtils.HttpResult xicidailiResult = httpUtil.request(); //同步请求 String xicidailiString = xicidailiResult.getResponseBodyString("UTF-8"); //开始dom4j解析 String table = xicidailiString.substring(xicidailiString.indexOf("<table"), xicidailiString.indexOf("</table>")+8); table.replaceAll("‹", ""); //去掉非xml字符 Document document = DocumentHelper.parseText(table); //转换成xml //===开始从xml中获得想要的数据=== //获取xml文件的根节点 Element rootElement=document.getRootElement(); List elements = rootElement.elements(); //得到根节点下所有的子节点 //定义一个Element用于遍历 Element fooElement; //遍历所有名叫“VALUE”的节点 for(int e = 1 ; e<elements.size(); e++){ fooElement=(Element) elements.get(e); List list = fooElement.elements(); Element addressElement =(Element) list.get(1); //获得ip地址 Element portElement = (Element)list.get(2); //获得端口号 try { HttpClient.httpRequest(addressElement.getText(), portElement.getText()); } catch (Exception e1) { System.out.println(addressElement.getText() + "\t->\t异常"); } } long endTime = System.currentTimeMillis(); System.out.println("耗时:"+ ((double)endTime - (double)startTime)/1000); } }
HttpUtils.java(这是个好东西啊)
package com.xjh.utils; import java.io.BufferedReader; import java.io.ByteArrayOutputStream; import java.io.IOException; import java.io.InputStream; import java.io.InputStreamReader; import java.io.OutputStream; import java.io.UnsupportedEncodingException; import java.net.HttpURLConnection; import java.net.URL; import java.util.Arrays; import java.util.HashMap; import java.util.List; import java.util.Map; import java.util.Set; /** * Http简单封装类 * <p> * 分为同步和异步请求 * <p> */ public class HttpUtils { private static final String TAG = "HttpUtils"; private static final boolean DEBUG = false; public final static String REQUEST_GET = "GET"; public final static String REQUEST_POST = "POST"; private String mRequestUrl = ""; private String mEncode = "utf-8"; /** * 是否允许自动跳转 返回码为302的时候 */ private boolean mAllowAutoJump = false; /** * 是否取消了异步执行回调 */ private boolean isCancel = false; /** * 请求方式 */ private String mRequestMethod = REQUEST_GET; /** * 响应超时时间 */ private int mTimeout = 1000 * 3; /** * 请求头参数 */ private Map<String, String> mHeadProperty = new HashMap<String, String>(); /** * 请求参数 */ private Map<String, String> mRequestProperty = new HashMap<String, String>(); public HttpUtils(String requestUrl) { this(requestUrl, null); } public HttpUtils(String requestUrl, Map<String, String> requestProperty) { this(requestUrl, null, requestProperty); } public HttpUtils(String requestUrl, Map<String, String> headProperty, Map<String, String> requestProperty) { this.mRequestUrl = requestUrl; this.mHeadProperty = headProperty; this.mRequestProperty = requestProperty; } /** * 设置请求的URL */ public HttpUtils setRequestUrl(String url) { this.mRequestUrl = url; return this; } /** * 设置请求模式 * * @param requestMethod {@link #REQUEST_GET} {{@link #REQUEST_POST}} */ public HttpUtils setRequestMethod(String requestMethod) { this.mRequestMethod = requestMethod; return this; } /** * 设置是否自动跳转,自动响应302等 * * @param allow * @return */ public HttpUtils setAllowAutoJump(boolean allow) { mAllowAutoJump = allow; return this; } /** * 设置请求头 */ public HttpUtils setHeadProperty(Map<String, String> headProperty) { this.mHeadProperty = headProperty; return this; } /** * 添加请求头参数 */ public HttpUtils addHeadProperty(String key, String value) { this.mHeadProperty.put(key, value); return this; } /** * 设置请求参数 */ public HttpUtils setRequestProperty(Map<String, String> requestProperty) { this.mRequestProperty = requestProperty; return this; } /** * 添加请求参数 */ public HttpUtils addRequestProperty(String key, String value) { this.mRequestProperty.put(key, value); return this; } /** * 设置超时时间 */ public HttpUtils setTimeout(int timeout) { this.mTimeout = timeout; return this; } /** * 设置参数编码格式 * * @param encoder 默认编码为utf-8 * @return */ public HttpUtils setRequestEncoder(String encoder) { mEncode = encoder; return this; } /** * 同步请求 */ public HttpResult request() { return doRequest(); } /** * 取消异步请求 */ public void cancelSync() { isCancel = true; } /** * 发出异步请求 */ public void requestSync(final HttpCallBack callBack) { isCancel = false; new Thread(new Runnable() { @Override public void run() { HttpResult httpResult = doRequest(); //如果已经被取消掉了或者回调设置为空,则直接退出 if (isCancel || callBack == null) { return; } if (httpResult.getException() != null) { callBack.onError(httpResult.getException()); } else { callBack.onSuccess(httpResult); } callBack.onComplete(); } }).start(); } /** * 在请求之前允许对请求进行处理 * * @param headProperty 设置的请求头 可能为null * @param requestProperty 设置的参数 可能为null */ protected void perRequest(Map<String, String> headProperty, Map<String, String> requestProperty) { } /** * 允许对响应结果进行处理 */ protected void afterRequest(HttpResult httpResult) { } /** * 真正执行网络请求的位置 */ private HttpResult doRequest() { HttpResult httpResult = new HttpResult(); try { //去掉网址结尾的 /分号 mRequestUrl.replaceAll("/*$", ""); perRequest(mHeadProperty, mRequestProperty); URL url; //请求参数格式化结果 String requestString = formatProperty(mRequestProperty); if (REQUEST_GET.equals(mRequestMethod)) { if ("".equals(requestString)) { url = new URL(mRequestUrl); } else { url = new URL(mRequestUrl + "?" + requestString); } } else { url = new URL(mRequestUrl); } HttpURLConnection conn = (HttpURLConnection) url.openConnection(); conn.setRequestMethod(mRequestMethod); conn.setConnectTimeout(mTimeout); conn.setReadTimeout(mTimeout); conn.setInstanceFollowRedirects(mAllowAutoJump); // conn.setAllowUserInteraction(mAllowAutoJump); //设置请求头 if (mHeadProperty != null) { Set<Map.Entry<String, String>> entries = mHeadProperty.entrySet(); for (Map.Entry<String, String> entry : entries) { String key = entry.getKey(); String value = entry.getValue(); conn.setRequestProperty(key, value); } } //设置参数 if (REQUEST_POST.equals(mRequestMethod)) { conn.setDoOutput(true); OutputStream outputStream = conn.getOutputStream(); outputStream.write(requestString.getBytes(mEncode)); } InputStream in = conn.getInputStream(); byte[] responseBytes = inputStream2Bytes(in); httpResult.setResponseCode(conn.getResponseCode()); httpResult.setResponseHead(conn.getHeaderFields()); httpResult.setResponseBody(responseBytes); } catch (Exception e) { httpResult.setException(e); } afterRequest(httpResult); return httpResult; } /** * 格式化参数 * <p> * 类似于pws=123&uid=123的形式 */ private String formatProperty(Map<String, String> property) { StringBuilder formatResult = new StringBuilder(); if (property == null) { return formatResult.toString(); } Set<Map.Entry<String, String>> entries = property.entrySet(); int begin = 0; //拼接所有参数 for (Map.Entry<String, String> entry : entries) { String key = entry.getKey(); String value = entry.getValue(); if (begin == 0) { begin++; } else { formatResult.append("&"); } formatResult.append(key); formatResult.append("="); formatResult.append(value); } return formatResult.toString(); } /** * 将输出流读取为字符串 * * @param in 输出流 * @param charsetName 读取的编码格式 * @return * @throws IOException */ private String inputStream2String(InputStream in, String charsetName) throws IOException { StringBuffer result = new StringBuffer(); BufferedReader reader = new BufferedReader(new InputStreamReader(in, charsetName)); String temp; while ((temp = reader.readLine()) != null) { result.append(temp); } in.close(); return result.toString(); } /** * 将输入流装换为byte数组 * * @param in 输入流 * @return * @throws IOException */ private byte[] inputStream2Bytes(InputStream in) throws IOException { ByteArrayOutputStream outStream = new ByteArrayOutputStream(); byte[] buffer = new byte[1024]; int len = 0; while ((len = in.read(buffer)) != -1) { outStream.write(buffer, 0, len); } in.close(); return outStream.toByteArray(); } /** * Http请求响应结果包装类 */ public static final class HttpResult { private int mResponseCode; private Map<String, List<String>> mResponseHead; private byte[] mResponseBody; private Exception exception; public int getResponseCode() { return mResponseCode; } public void setResponseCode(int responseCode) { this.mResponseCode = responseCode; } public Map<String, List<String>> getResponseHead() { return mResponseHead; } public void setResponseHead(Map<String, List<String>> responseHead) { this.mResponseHead = responseHead; } public byte[] getResponseBody() { return mResponseBody; } public String getResponseBodyString(String charset) { try { return new String(getResponseBody(), charset); } catch (UnsupportedEncodingException e) { e.printStackTrace(); } return ""; } public void setResponseBody(byte[] responseBody) { this.mResponseBody = responseBody; } public Exception getException() { return exception; } public void setException(Exception exception) { this.exception = exception; } @Override public String toString() { return "HttpResult{" + "mResponseCode=" + mResponseCode + ", mResponseHead=" + mResponseHead + ", mResponseBody=" + Arrays.toString(mResponseBody) + ", exception=" + exception + ‘}‘; } } /** * Http响应回调 */ public interface HttpCallBack { void onError(Exception e); void onSuccess(HttpResult httpResult); void onComplete(); } }
HttpClient.java
package com.xjh.demo.proxy; import java.io.BufferedReader; import java.io.IOException; import java.io.InputStreamReader; import java.io.PrintWriter; import java.net.URL; import java.net.URLConnection; import java.util.List; import java.util.Map; import java.util.Properties; /** * Created by DIY on 2017/8/2. */ public class HttpClient { public static void httpRequest(String address, String port) throws Exception { // 如果不设置,只要代理IP和代理端口正确,此项不设置也可以 // System.getProperties().setProperty("http.proxyHost", "10.22.40.32"); // System.getProperties().setProperty("http.proxyPort", "8080"); Properties prop = System.getProperties(); prop.setProperty("http.proxyHost", address); prop.setProperty("http.proxyPort", port); System.setProperties(prop); // URL url2 = new URL("http://ip.chinaz.com/getip.aspx"); // String result2 = printInputstream(url2.openStream()); // System.out.println(" 设置全局代理:" + result2); // 判断代理是否设置成功 // 发送 GET 请求 System.out.println(sendGet( "http://ip.chinaz.com/getip.aspx", "")); // 发送 POST 请求 } /** * 向指定URL发送GET方法的请求 * * @param url * 发送请求的URL * @param param * 请求参数,请求参数应该是 name1=value1&name2=value2 的形式。 * @return URL 所代表远程资源的响应结果 */ public static String sendGet(String url, String param) { String result = ""; BufferedReader in = null; try { String urlNameString = url + "?" + param; URL realUrl = new URL(urlNameString); // 打开和URL之间的连接 URLConnection connection = realUrl.openConnection(); connection.setConnectTimeout(3000); connection.setReadTimeout(3000); // 设置通用的请求属性 connection.setRequestProperty("accept", "*/*"); connection.setRequestProperty("connection", "Keep-Alive"); connection.setRequestProperty("user-agent", "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1;SV1)"); // 建立实际的连接 connection.connect(); // 获取所有响应头字段 Map<String, List<String>> map = connection.getHeaderFields(); // 遍历所有的响应头字段 for (String key : map.keySet()) { // System.out.println(key + "--->" + map.get(key)); } // 定义 BufferedReader输入流来读取URL的响应 in = new BufferedReader(new InputStreamReader( connection.getInputStream())); String line; while ((line = in.readLine()) != null) { result += line; } } catch (Exception e) { System.out.print("发送GET请求出现异常!\t"); throw new RuntimeException("错误+1"); } // 使用finally块来关闭输入流 finally { try { if (in != null) { in.close(); } } catch (Exception e2) { e2.printStackTrace(); } } return result; } /** * 向指定 URL 发送POST方法的请求 * * @param url * 发送请求的 URL * @param param * 请求参数,请求参数应该是 name1=value1&name2=value2 的形式。 * @return 所代表远程资源的响应结果 */ public static String sendPost(String url, String param) { PrintWriter out = null; BufferedReader in = null; String result = ""; try { URL realUrl = new URL(url); // 打开和URL之间的连接 URLConnection conn = realUrl.openConnection(); // 设置通用的请求属性 conn.setRequestProperty("accept", "*/*"); conn.setRequestProperty("connection", "Keep-Alive"); conn.setRequestProperty("user-agent", "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1;SV1)"); // 发送POST请求必须设置如下两行 conn.setDoOutput(true); conn.setDoInput(true); // 获取URLConnection对象对应的输出流 out = new PrintWriter(conn.getOutputStream()); // 发送请求参数 out.print(param); // flush输出流的缓冲 out.flush(); // 定义BufferedReader输入流来读取URL的响应 in = new BufferedReader( new InputStreamReader(conn.getInputStream())); String line; while ((line = in.readLine()) != null) { result += line; } } catch (Exception e) { System.out.println("发送 POST 请求出现异常!" + e); e.printStackTrace(); } // 使用finally块来关闭输出流、输入流 finally { try { if (out != null) { out.close(); } if (in != null) { in.close(); } } catch (IOException ex) { ex.printStackTrace(); } } return result; } }
通过这样的操作,我们还不够,一个线程的力量是微小的,我们用多线程,分发线程,循环渐渐,我们想要的目的就达到了。
再或者我们可以用定时调度,有以下几种主要技术
1、Java自带的java.util.Timer类,这个类允许你调度一个java.util.TimerTask任务;
2、Quartz;
3、Spring3.0以后自带的task。
在每天定点定时的去访问我们的线程,这样我们可以完全放手让程序自己去跑,我们只需要偶尔看看它完成的好不好就ok的,这样服务器也会稍微轻松一点,这样也比较锻炼我们的技术与能力。
如果想关注spring的定时调度,请关注我的下一篇博文。
积木搭起的房子看似很美,
却会在不经意间轰然倒塌。
以上是关于零基础http代理http完美代理访问的主要内容,如果未能解决你的问题,请参考以下文章