实例练习----电影天堂抓取下载链接

Posted 云中志

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了实例练习----电影天堂抓取下载链接相关的知识,希望对你有一定的参考价值。

废话不多说,直接上代码:
package com.sysker.util;

import java.io.BufferedWriter;
import java.io.FileWriter;
import java.io.IOException;
import java.util.Date;

import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
import org.jsoup.select.Elements;
import org.junit.Test;

public class getVideoUrls {
    private void gethtmlSources() {
        BufferedWriter writerPage = null;
        Document doc = null;
        try {
            writerPage = new BufferedWriter(new FileWriter("ygdy8-"+ System.currentTimeMillis() + ".html"));
            doc = Jsoup.connect(
                    "http://www.ygdy8.net/html/gndy/dyzz/list_23_1.html").get();
            Element list = doc.getElementsByClass("co_content8").first();
            Elements bs = list.getElementsByTag("b");
            String lastPage = list.getElementsByTag("div").first()
                    .getElementsByTag("a").last().attr("href");
            int page = Integer.parseInt(lastPage.substring(
                    lastPage.length() - 8, lastPage.length() - 5));
            writerPage.write("<html><head><title>电影天堂最新电影</title></head><h1>电影天堂最新电影</h1><body>");
            writerPage.write("<p>日期:" + new Date() + "</p><br/>");
            System.out.println(page);
            for (int i = 0; i < 17; i++) {
                doc = Jsoup.connect(
                        "http://www.ygdy8.net/html/gndy/dyzz/list_23_" + (i+1) + ".html").get();
                list = doc.getElementsByClass("co_content8").first();
                bs = list.getElementsByTag("b");
                System.out.println("===============第" + (i + 1)
                        + "页================");
                for (Element element : bs) {

                    String url = element.getElementsByTag("a").first()
                            .attr("abs:href");
                    writerPage.write("<li><a href="+ """ + getDownloadUrls(url) + """ + ">" +element.text() +"</a></li><br/>
");
                    writerPage.flush();

                }
            }
            writerPage.write("</body></html>");
            writerPage.flush();

        } catch (IOException e) {
            e.printStackTrace();
        } finally {
            try {
                if (writerPage != null) {

                    writerPage.close();
                }
            } catch (IOException e) {
                // TODO Auto-generated catch block
                e.printStackTrace();
            }

        }
    }

    private String getDownloadUrls(String url) throws IOException {
        Document doc = Jsoup.connect(url).get();
        Element span = doc.getElementById("Zoom").getElementsByTag("span")
                .first();
        String downloadUrl = span.getElementsByTag("table").last()
                .getElementsByTag("a").first().attr("href");
        return downloadUrl;
    }

    @Test
    public void testName() throws Exception {
        long startTime = System.currentTimeMillis();
        getHtmlSources();
        long endTime = System.currentTimeMillis();
        long useTime = (endTime - startTime) / 1000;
        System.out.println("耗时" + useTime + "s");
    }
}

  • 用到的包:
    技术分享图片

  • 生成页面效果:
    技术分享图片

    • 右键复制链接可以直接复制至百度云或迅雷下载
  • 说明:由于页面结构的问题,目前仅支持抓取前17页;
  • 声明:本教程仅供交流学习参考,切勿用于其他用途!

以上是关于实例练习----电影天堂抓取下载链接的主要内容,如果未能解决你的问题,请参考以下文章

[Java] 用java实现的电影天堂,飘花电影网的电影的下载地址抓取

爬取电影天堂最新电影的名称和下载链接

Python多线程爬虫爬取电影天堂资源

Python抓取电影天堂, 零基础都可以学? 源码&视频教程, 大赞!

python 抓取电影天堂电影信息放入数据库

爬取电影天堂最新电影的名称和下载链接(增量爬取mysql存储版)