java大文件断点续传

Posted songsu

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了java大文件断点续传相关的知识,希望对你有一定的参考价值。

java两台服务器之间,大文件上传(续传),采用了Socket通信机制以及JavaIO流两个技术点,具体思路如下:

 

实现思路:

1、服:利用ServerSocket搭建服务器,开启相应端口,进行长连接操作

2、服:使用ServerSocket.accept()方法进行阻塞,接收客户端请求

3、服:每接收到一个Socket就建立一个新的线程来处理它

4、客:利用Socket进行远程连接,询问已上传进度

5、客:使用FileInputStream.skip(long length)从指定位置读取文件,向服务器发送文件流

6、服:接收客户端输入流,使用RandomAccessFile.seek(long length)随机读取,将游标移动到指定位置进行读写

7、客/服:一个循环输出,一个循环读取写入

8、示例:以下是具体代码,仅供参考

文件介绍:

FileUpLoadServer.java(服务器接收文件类)

FileUpLoadClient.java(客户端发送文件类)

FinalVariables.java(自定义参数类)

SocketServerListener.javaJavaWeb启动Socket操作类)

web.xml(配置文件,跟随项目启动)

断点上传(服务端)

package com.cn.csdn.seesun2012.socket;

 

import java.io.DataInputStream;

import java.io.DataOutputStream;

import java.io.File;

import java.io.FileOutputStream;

import java.io.IOException;

import java.io.RandomAccessFile;

import java.math.RoundingMode;

import java.net.ServerSocket;

import java.net.Socket;

import java.text.DecimalFormat;

 

publicclass FileUpLoadServer extends ServerSocket 

 

 

// 文件大小

privatestatic DecimalFormat df =null;

// 退出标识

privateboolean quit =false;

 

static

// 设置数字格式,保留一位有效小数

df =new DecimalFormat("#0.0");

df.setRoundingMode(RoundingMode.HALF_UP);

df.setMinimumFractionDigits(1);

df.setMaximumFractionDigits(1);

 

 

public FileUpLoadServer(int report)throws IOException 

super(report);

 

 

/**

使用线程处理每个客户端传输的文件

*

@throws Exception

*/

publicvoid load()throws Exception 

System.out.println("【文件上传】服务器:"+this.getInetAddress()+正在运行中...");

while(!quit)

// server尝试接收其他Socket的连接请求,server的accept方法是阻塞式的

Socket socket =this.accept();

/**

我们的服务端处理客户端的连接请求是同步进行的, 每次接收到来自客户端的连接请求后,

都要先跟当前的客户端通信完之后才能再处理下一个连接请求。 这在并发比较多的情况下会严重影响程序的性能,

为此,我们可以把它改为如下这种异步处理与客户端通信的方式

*/

// 收到请求,验证合法性

String ip = socket.getInetAddress().toString();

ip = ip.substring(1, ip.length());

System.out.println("服务器接收到请求,正在开启验证对方合法性IP:"+ ip +"!");

// 每接收到一个Socket就建立一个新的线程来处理它

new Thread(new Task(socket, ip)).start();

 

 

/**

处理客户端传输过来的文件线程类

*/

class Task implements Runnable 

 

private Socket sk;  // 当前连接

private String ips;// 当前连接IP址

 

public Task(Socket socket, String ip)

this.sk = socket;

this.ips = ip;

 

publicvoid run()

 

Socket socket = sk;// 重新定义,请不要移出run()方法外部,否则连接两会被重置

String ip = ips;    // 重新定义,同上IP会变

long serverLength =-1l;// 定义:存放在服务器里的文件长度,默认没有为-1

char pathChar = File.separatorChar;     // 获取:系统路径分隔符

String panFu ="D:";     // 路径:存储文件盘符

 

DataInputStream dis =null;  // 获取:客户端输出流

DataOutputStream dos =null;// 发送:向客户端输入流

FileOutputStream fos =null;// 读取:服务器本地文件流

RandomAccessFile rantmpfile =null;    // 操作类:随机读取

 

try

// 获取

dis =new DataInputStream(socket.getInputStream());

// 发送

dos =new DataOutputStream(socket.getOutputStream());

// 定义客户端传过来的文件名

String fileName ="";

while(fileName =="")

// 读取客户端传来的数据

fileName = dis.readUTF();

System.out.println("服务器获取客户端文件名称:"+ fileName);

File file =new File(panFu+ pathChar +"receive"+ pathChar +""+ ip + pathChar + fileName);

if(file.exists())

serverLength = file.length();

dos.writeLong(serverLength);

System.out.println("向客户端返回文件长度:"+ serverLength +" B");

else

serverLength =0l;

dos.writeLong(serverLength);

System.out.println("文件不存在");

System.out.println("向客户端返回文件长度:"+ serverLength +" B");

System.out.println("服务器建立新线程处理客户端请求,对方IP:"+ ip +",传输正在进行中...");

// 从客户端获取输入流

dis =new DataInputStream(socket.getInputStream());

// 文件名和长度

long fileLength = dis.readLong();

File directory =new File(panFu + pathChar +"receive"+ pathChar +""+ ip + pathChar);

if(!directory.exists())

directory.mkdirs();

int length =0;

byte[] bytes =newbyte[1024];

File file =new File(directory.getAbsolutePath()+ pathChar + fileName);

if(!file.exists())

// 不存在

fos =new FileOutputStream(file);

// 开始接收文件

while((length = dis.read(bytes,0, bytes.length))!=-1)

fos.write(bytes,0, length);

fos.flush();

else

// 存储在服务器中的文件长度

long fileSize = file.length(), pointSize =0;

// 判断是否已下载完成

if(fileLength > fileSize)

// 断点下载

pointSize = fileSize;

else

// 重新下载

file.delete();

file.createNewFile();

 

rantmpfile =new RandomAccessFile(file,"rw");

/*

* java.io.InputStream.skip() 用法:跳过 n 个字节(丢弃) 如果 n

为负,则不跳过任何字节。

*/

// dis.skip(pointSize); (已从客户端读取进度)

/**

资源,文件定位(游标、指针) 将ras的指针设置到8,则读写ras是从第9个字节读写到

*/

rantmpfile.seek(pointSize);

 

while((length = dis.read(bytes,0, bytes.length))!=-1)

rantmpfile.write(bytes,0, length);

 

System.out.println("======== 文件接收成功 [File Name:"+ fileName +"] [ClientIP:"+ ip +"] [Size:"+ getFormatFileSize(file.length())+"] ========");

 

catch(Exception e)

e.printStackTrace();

finally

try

if(fos !=null)

fos.close();

if(dis !=null)

dis.close();

if(rantmpfile !=null)

rantmpfile.close();

socket.close();

catch(Exception e)

e.printStackTrace();

System.out.println("Socket关闭失败!");

/**

文件传输完毕:执行后续操作(略)

*/

//DoSomeThing dst = new DoSomeThing()

//dst.save(filePath);

 

/**

格式化文件大小

*

@param length

@return

*/

public String getFormatFileSize(long length)

double size =((double) length)/(1<<30);

if(size >=1)

return df.format(size)+"GB";

size =((double) length)/(1<<20);

if(size >=1)

return df.format(size)+"MB";

size =((double) length)/(1<<10);

if(size >=1)

return df.format(size)+"KB";

return length +"B";

 

/**

退出

*/

publicvoid quit()

this.quit =true;

try

this.close();

catch(IOException e)

System.out.println("服务器关闭发生异常,原因未知");

 

 

 断点上传(客户端)

package com.cn.csdn.seesun2012.socket;

 

import java.io.DataInputStream;

import java.io.DataOutputStream;

import java.io.File;

import java.io.FileInputStream;

import java.io.FileNotFoundException;

import java.io.IOException;

import java.net.Socket;

import java.net.UnknownHostException;

import java.util.Timer;

import java.util.TimerTask;

 

import org.slf4j.Logger;

import org.slf4j.LoggerFactory;

 

/**

* Client端<br><br>

功能说明:文件上传(断点)传输

*

@author CSDN:seesun2012

* @CreateDate 2017年08月18日 

* @Override    2017年11月07日

@version 1.1

*/

publicclass FileUpLoadClient extends Socket

 

 

private Logger logger = LoggerFactory.getLogger("oaLogger");

 

private Socket client;   // Socket-客户端

privatestaticlong status =0;    // 进度条

privateboolean quit =false;     //退出

 

 

/**

构造器

*

@param ip   服务端IP地址

@param report    服务端开放的端口   

@throws UnknownHostException

@throws IOException

*/

public FileUpLoadClient(String ip, Integer report)throws UnknownHostException, IOException 

super(ip, report);

this.client =this;

if(client.getLocalPort()>0)

System.out.println("Cliect[port:"+ client.getLocalPort()+"] 成功连接服务端");

else

System.out.println("服务器连接失败");

 

 

publicint sendFile(String filePath)

 

DataOutputStream dos =null;// 上传服务器:输出流

DataInputStream dis =null;  // 获取服务器:输入流

Long serverLength =-1l;// 存储在服务器的文件长度,默认-1

FileInputStream fis =null;  // 读取文件:输入流

 

// 获取:上传文件

File file =new File(filePath);

 

// ==================== 节点:文件是否存在 ====================

if(file.exists())

 

//   发送:文件名称、文件长度

try

dos =new DataOutputStream(client.getOutputStream());

catch(IOException e2)

logger.error("Socket客户端:1.读取输出流发生错误");

e2.printStackTrace();

try

dos.writeUTF(file.getName());

dos.flush();

dos.writeLong(file.length());

dos.flush();

catch(IOException e2)

logger.error("Socket客户端:2.向服务器发送文件名、长度发生错误");

e2.printStackTrace();

 

// 获取:已上传文件长度

try

dis =new DataInputStream(client.getInputStream());

catch(IOException e2)

logger.error("Socket客户端:3.向服务器发送文件名、长度发生错误");

e2.printStackTrace();

while(serverLength==-1)

try

serverLength = dis.readLong();

catch(IOException e)

logger.error("Socket客户端:4.读取服务端长度发送错误");

e.printStackTrace();

 

// 读取:需要上传的文件

try

fis =new FileInputStream(file);

catch(FileNotFoundException e2)

logger.error("Socket客户端:5.读取本地需要上传的文件失败,请确认文件是否存在");

e2.printStackTrace();

// 发送:向服务器传输输入流

try

dos =new DataOutputStream(client.getOutputStream());

catch(IOException e2)

logger.error("Socket客户端:6.向服务器传输输入流发生错误");

e2.printStackTrace();

 

 

System.out.println("======== 开始传输文件 ========");

byte[] bytes =newbyte[1024];

int length =1024;

long progress = serverLength;

 

// 设置游标:文件读取的位置

if(serverLength==-1l)

serverLength =0l;

try

fis.skip(serverLength);

catch(IOException e1)

logger.error("Socket客户端:7.设置游标位置发生错误,请确认文件流是否被篡改");

e1.printStackTrace();

 

try

while(((length = fis.read(bytes,0, bytes.length))!=-1)&& quit !=true)

dos.write(bytes,0, length);

dos.flush();

progress += length;

status =(100* progress / file.length());

catch(IOException e)

logger.error("Socket客户端:8.设置游标位置发生错误,请确认文件流是否被篡改");

e.printStackTrace();

finally

if(fis !=null)

try

fis.close();

catch(IOException e1)

logger.error("Socket客户端:9.关闭读取的输入流异常");

e1.printStackTrace();

if(dos !=null)

try

dos.close();

catch(IOException e1)

logger.error("Socket客户端:10.关闭发送的输出流异常");

e1.printStackTrace();

try

client.close();

catch(IOException e)

logger.error("Socket客户端:11.关闭客户端异常");

e.printStackTrace();

System.out.println("======== 文件传输成功 ========");

 

else

logger.error("Socket客户端:0.文件不存在");

return-1;

 

return1;

 

 

/**

进度条

*/

publicvoid statusInfo()

Timer time =new Timer();

time.schedule(new TimerTask()

long num =0;

@Override

publicvoid run()

if(status>num)

System.out.println("当前进度为:"+status+"%");

num = status;

if(status==101)

System.gc();

,0,100);

 

 

/**

退出

*/

publicvoid quit()

this.quit =true;

try

this.close();

catch(IOException e)

System.out.println("服务器关闭发生异常,原因未知");

 

 

断点上传(参数设置)

package com.cn.csdn.seesun2012.socket;

 

publicinterface FinalVariables 

// 服务端IP

publicfinalstatic String SERVER_IP ="192.168.1.10010";

// 服务端端口

publicfinalstaticint SERVER_PORT =10086;

// 开启配置

publicfinalstatic String IS_START_SERVER ="instart";

 

 

 断点上传(JavaWeb启动服务端)

 

package com.cn.csdn.seesun2012.socket;

 

import java.util.Timer;

import java.util.TimerTask;

import javax.servlet.ServletException;

import javax.servlet.http.HttpServlet;

 

/**

* Server端<br><br>

功能说明:服务端监听开启Servlet

*

@author CSDN:seesun2012

* @CreateDate 2017年08月18日 

* @Override    2017年11月07日

* @Override    2017年11月14日

@version 1.3

*/

publicclass SocketServerListener extends HttpServlet

 

privatestaticfinallong serialVersionUID =-999999999999999999L;

 

// 初始化启动Socket服务

@Override

publicvoid init()throws ServletException 

super.init();

for(int i =0; i <3; i++)

if("instart".equals(FinalVariables.IS_START_SERVER ))

open();

break;

 

publicvoid open()

Timer timer =new Timer();

timer.schedule(new TimerTask()

@SuppressWarnings("resource")

@Override

publicvoid run()

try

FileUpLoadServer fileUpLoadServer =new FileUpLoadServer(FinalVariables.SERVER_PORT);

fileUpLoadServer.load();

catch(Exception e)

e.printStackTrace();

,3000);

 

web.xml配置(跟随项目启动)

<?xmlversion="1.0"encoding="UTF-8"?>

 

<web-app>

 

<welcome-file-list>

<welcome-file>index.html</welcome-file>

<welcome-file>index.jsp</welcome-file>

</welcome-file-list>

 

<servlet>

<servlet-name>SocketServerListener</servlet-name>

<servlet-class>com.cn.csdn.seesun2012.socket.SocketServerListener</servlet-class>

<load-on-startup>10</load-on-startup>

</servlet>

 

<display-name>seesun2012</display-name>

 

</web-app>

 

目前能够支持mysql,Oracle,SQL。在使用前需要配置一下数据库,可以参考我写的这篇文章:http://blog.ncmem.com/wordpress/2019/08/12/java-http%E5%A4%A7%E6%96%87%E4%BB%B6%E6%96%AD%E7%82%B9%E7%BB%AD%E4%BC%A0%E4%B8%8A%E4%BC%A0/

以上是关于java大文件断点续传的主要内容,如果未能解决你的问题,请参考以下文章

用java向hdfs上传文件时,如何实现断点续传

java实现文件的断点续传和断点下载,有知道的交流下。

java使用WebUploader做大文件的分块和断点续传

java大文件断点续传

java大文件断点续传

PHP 大文件上传,支持断点续传,求具体方案、源码或者文件上传插件