java 上传大文件以及文件夹
Posted 潜水的章鱼
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了java 上传大文件以及文件夹相关的知识，希望对你有一定的参考价值。
需求：
支持大文件批量上传（20G）和下载，同时需要保证上传期间用户电脑不出现卡死等体验；
内网百兆网络上传速度为12MB/S
服务器内存占用低
支持文件夹上传，文件夹中的文件数量达到1万个以上，且包含层级结构。
支持PC端全平台操作系统，Windows,Linux,Mac
支持文件和文件夹的批量下载，断点续传。刷新页面后继续传输。关闭浏览器后保留进度信息。
支持文件夹批量上传下载，服务器端保留文件夹层级结构，服务器端文件夹层级结构与本地相同。
支持断点续传，关闭浏览器或刷新浏览器后仍然能够保留进度。
支持文件夹结构管理，支持新建文件夹，支持文件夹目录导航
交互友好，能够及时反馈上传的进度；
服务端的安全性，不因上传文件功能导致JVM内存溢出影响其他功能使用；
最大限度利用网络上行带宽，提高上传速度；
分析：
对于大文件的处理，无论是用户端还是服务端，如果一次性进行读取发送、接收都是不可取，很容易导致内存问题。所以对于大文件上传，采用切块分段上传
从上传的效率来看，利用多线程并发上传能够达到最大效率。
解决方案：
文件上传页面的前端可以选择使用一些比较好用的上传组件，例如百度的开源组件WebUploader，泽优软件的up6，这些组件基本能满足文件上传的一些日常所需功能，如异步上传文件，文件夹，拖拽式上传，黏贴上传，上传进度监控，文件缩略图，甚至是大文件断点续传，大文件秒传。
第一步：
数据库配置
项目中数据库配置是在DBConfig.java文件中，只需要在此文件中进行数据库配置即可。
在DBConfig.java文件提供了mysql,SQL Server,Oracle的配置信息，只需要填写对应的数据库配置即可。如果使用的MYSQL就填MySQL数据库的连接信息，如果使用的是Oracle就填写Oracle数据库的连接信息
upload:{uploadLimit:5,fileSizeLimit:31744,removeTimeout:0.8}
以上三个变量代表的含义是：
uploadLimit：表示上传文件个数的限制，5表示文件上传个数限制是5个
fileSizeLimit：表示上传文件大小的限制，31744单位是KB，也就是表示31M
removeTimeout：表示移除文件的时间限制
继续查找使用到这些变量的地方，看到了文件大小超出限制等
文件大小配置，如果需要限制用户选择的文件大小，则在up6.js中对FileSizeLimit进行配置即可，单位是字节。
了解了BJUI前端框架对于上传大文件的限制，可以这样使用，增大文件上传大小和数量，可以按照如下进行修改，我们在bjui-all.js文件看到uploadLimit属性和fileSizeLimit属性的限制，我们在jsp文件中可以这样进行替换，这里使用的是覆盖原则，重新定义uploadLimit属性和fileSizeLimit属性，覆盖bjui-all.js文件的默认值设置。
bjui-all.js文件的uploadLimit属性和fileSizeLimit属性对应到jsp文件中的属性就应该这样写，data-upload-limit属性和data-file-size-limit属性，只需要在后面改写为data-upload-limit=“800”和data-file-size-limit=“5131264”即可，一定要注意这里的单位是KB，以上数字表示501M。
关于Uploadify控件属性可以参考这篇文章也可以直接看官网文档：
|
属性名称 |
默认值 |
说明 |
|
auto |
true |
设置为true当选择文件后就直接上传了，为false需要点击上传按钮才上传 。 |
|
buttonClass |
” |
按钮样式 |
|
buttonCursor |
‘hand’ |
鼠标指针悬停在按钮上的样子 |
|
buttonImage |
null |
浏览按钮的图片的路径 。 |
|
buttonText |
‘SELECT FILES’ |
浏览按钮的文本。 |
|
checkExisting |
false |
文件上传重复性检查程序，检查即将上传的文件在服务器端是否已存在，存在返回1，不存在返回0 |
|
debug |
false |
如果设置为true则表示启用SWFUpload的调试模式 |
|
fileObjName |
‘Filedata’ |
文件上传对象的名称，如果命名为’the_files’，php程序可以用$_FILES[\'the_files\']来处理上传的文件对象。 |
|
fileSizeLimit |
0 |
上传文件的大小限制 ，如果为整数型则表示以KB为单位的大小，如果是字符串，则可以使用(B, KB, MB, or GB)为单位，比如’2MB’； 如果设置为0则表示无限制 |
|
fileTypeDesc |
‘All Files’ |
这个属性值必须设置fileTypeExts属性后才有效，用来设置选择文件对话框中的提示文本，如设置fileTypeDesc为“请选择rar doc pdf文件” |
|
fileTypeExts |
‘*.*’ |
设置可以选择的文件的类型，格式如：’*.doc;*.pdf;*.rar’ 。 |
|
formData |
JSON格式上传每个文件的同时提交到服务器的额外数据，可在’onUploadStart’事件中使用’settings’方法动态设置。 |
|
|
height |
30 |
设置浏览按钮的高度 ，默认值 |
|
itemTemplate |
false |
用于设置上传队列的html模版，可以使用以下标签： |
|
method |
Post |
提交方式Post或Get |
|
multi |
true |
设置为true时可以上传多个文件。 |
|
overrideEvents |
设置哪些事件可以被重写，JSON格式，如：’overrideEvents’ : [\'onUploadProgress\'] |
|
|
preventCaching |
true |
如果为true，则每次上传文件时自动加上一串随机字符串参数，防止URL缓存影响上传结果 |
|
progressData |
‘percentage’ |
设置上传进度显示方式，percentage显示上传百分比，speed显示上传速度 |
|
queueID |
false |
设置上传队列容器DOM元素的ID，如果为false则自动生成一个队列容器。 |
|
queueSizeLimit |
999 |
队列最多显示的任务数量，如果选择的文件数量超出此限制，将会出发onSelectError事件。 |
|
removeCompleted |
true |
是否自动将已完成任务从队列中删除，如果设置为false则会一直保留此任务显示。 |
|
removeTimeout |
3 |
如果设置了任务完成后自动从队列中移除，则可以规定从完成到被移除的时间间隔。 |
|
requeueErrors |
false |
如果设置为true，则单个任务上传失败后将返回错误，并重新加入任务队列上传。 |
|
successTimeout |
30 |
文件上传成功后服务端应返回成功标志，此项设置返回结果的超时时间 |
|
swf |
‘uploadify.swf’ |
uploadify.swf 文件的相对路径。 |
|
uploader |
uploadify.php |
后台处理程序的相对路径。 |
|
uploadLimit |
999 |
最大上传文件数量，如果达到或超出此限制将会触发onUploadError事件。 |
|
width |
120 |
设置文件浏览按钮的宽度。 |
第二步：
后端修改
项目采用的最简单的jsp文件，修改起来非常简单。现在提供的DEMO基本上不需要进行其它的修改。只需要对地址进行简单配置就可以立即使用。
项目的依赖包全部都放在项目的lib目录中，可以直接导入。相关的IDE都能够自动导入，也是非常的简单。
由于项目后端使用的Spring Boot，本身也就是使用的Spring MVC文件上传部分，Spring MVC使用的是已经对Servlet文件上传封装了的MultipartResolver接口及其相关实现类和一些相关的类，具体的可以看Spring MVC文件上传源码部分，认为Spring源码还是需要读的，我们只要在Spring Boot启动类中注入这个Bean，或者自行写一个WebConfig配置类，注入一些Web相关的Bean即可，这样Spring Boot启动就会加载配置类，也需要自己写拦截器和全局AOP切面，去捕捉文件上传大小超过限制的异常处理等
基于Spring MVC文件上传组件MultipartResolver接口（核心），使用其中的CommonsMultipartResolver（实现了MultipartResolver接口）这个实现类，CommonsMultipartResolver中的maxUploadSize属性是它继承的抽象父类CommonsFileUploadSupport，这个抽象类其中的一个属性是FileUpload类，而这个类又继承自FileUploadBase这个抽象类，其中它的private long sizeMax = -1;就是maxUploadSize属性的最终设置地方。-1表示文件上传大小没有限制，但是我们一般都会设置一个限制值，这里设置的是210763776，这个值的单位是字节，我们将它设置为525336576字节，也就是501M的大小限制。
修改完以上前端和后端，提交修改的代码到git上即可。
第三步：
nginx配置
进入到项目部署发布所在的Linux下，进入nginx服务器所安装的目录，
进入到nginx服务器所安装的目录
进入到nginx服务器目录下的conf目录
查看nginx.conf配置文件内容中的client_max_body_size配置的大小，这里设置的是300M。
使用vi或者vim打开nginx.conf配置文件，修改client_max_body_size的大小为501M，保存即可
进入到nginx服务器下的sbin目录下，我们使用./nginx -t查看配置文件是否成功使用，然后使用./nginx -s reload重启Nginx服务器即可。
第四步：
Tomcat配置
由于项目使用的是Spring Cloud，自然使用Spring Boot，我们这个项目还是使用外置的Tomcat作为他的服务器，便于我们对Tomcat服务器进行优化和设置。
进入到项目使用的Tomcat服务器的目录
进入到指定项目使用的Tomcat服务器的目录
进入到Tomcat服务器下的conf配置目录中
看到server.xml配置文件后
先行查看Tomcat服务器的配置，其中两个属性对于这次是比较重要的一个是connectionTimeout这个连接超时时间设置以及默认的maxPostSize属性的设置
使用vi或者vim打开server.xml配置文件，修改connectionTimeout的大小为2000000，这个属性的单位是毫秒，换算之后大概是半个小时，我们配置缺省的maxPostSize属性的值，默认情况下它的值是2097152，它的单位是字节，也就是2M的大小，修改完保存即可
修改完服务器之后，使用发布工具重新从git上拉取最新的代码和部署发布，重新启动脚本即可完成修改，再次尝试大文件上传，功能基本实现。
以上需要注意的是maxPostSize属性在各个Tomcat版本中的不同，可以参考我写的这篇文章：
欢迎入群一起讨论：374992201
java大文件断点续传
java两台服务器之间，大文件上传（续传），采用了Socket通信机制以及JavaIO流两个技术点，具体思路如下：
实现思路：
1、服：利用ServerSocket搭建服务器，开启相应端口，进行长连接操作
2、服：使用ServerSocket.accept()方法进行阻塞，接收客户端请求
3、服：每接收到一个Socket就建立一个新的线程来处理它
4、客：利用Socket进行远程连接，询问已上传进度
5、客：使用FileInputStream.skip(long length)从指定位置读取文件，向服务器发送文件流
6、服：接收客户端输入流，使用RandomAccessFile.seek(long length)随机读取，将游标移动到指定位置进行读写
7、客/服：一个循环输出，一个循环读取写入
8、示例：以下是具体代码，仅供参考
文件介绍：
FileUpLoadServer.java（服务器接收文件类）
FileUpLoadClient.java（客户端发送文件类）
FinalVariables.java（自定义参数类）
SocketServerListener.java（JavaWeb启动Socket操作类）
web.xml（配置文件，跟随项目启动）
断点上传（服务端）
package com.cn.csdn.seesun2012.socket;
import java.io.DataInputStream;
import java.io.DataOutputStream;
import java.io.File;
import java.io.FileOutputStream;
import java.io.IOException;
import java.io.RandomAccessFile;
import java.math.RoundingMode;
import java.net.ServerSocket;
import java.net.Socket;
import java.text.DecimalFormat;
publicclass FileUpLoadServer extends ServerSocket
// 文件大小
privatestatic DecimalFormat df =null;
// 退出标识
privateboolean quit =false;
static
// 设置数字格式，保留一位有效小数
df =new DecimalFormat("#0.0");
df.setRoundingMode(RoundingMode.HALF_UP);
df.setMinimumFractionDigits(1);
df.setMaximumFractionDigits(1);
public FileUpLoadServer(int report)throws IOException
super(report);
/**
* 使用线程处理每个客户端传输的文件
*
* @throws Exception
*/
publicvoid load()throws Exception
System.out.println("【文件上传】服务器："+this.getInetAddress()+" 正在运行中...");
while(!quit)
// server尝试接收其他Socket的连接请求，server的accept方法是阻塞式的
Socket socket =this.accept();
/**
* 我们的服务端处理客户端的连接请求是同步进行的， 每次接收到来自客户端的连接请求后，
* 都要先跟当前的客户端通信完之后才能再处理下一个连接请求。 这在并发比较多的情况下会严重影响程序的性能，
* 为此，我们可以把它改为如下这种异步处理与客户端通信的方式
*/
// 收到请求，验证合法性
String ip = socket.getInetAddress().toString();
ip = ip.substring(1, ip.length());
System.out.println("服务器接收到请求，正在开启验证对方合法性IP："+ ip +"！");
// 每接收到一个Socket就建立一个新的线程来处理它
new Thread(new Task(socket, ip)).start();
/**
* 处理客户端传输过来的文件线程类
*/
class Task implements Runnable
private Socket sk; // 当前连接
private String ips;// 当前连接IP址
public Task(Socket socket, String ip)
this.sk = socket;
this.ips = ip;
publicvoid run()
Socket socket = sk;// 重新定义，请不要移出run()方法外部，否则连接两会被重置
String ip = ips; // 重新定义，同上IP会变
long serverLength =-1l;// 定义：存放在服务器里的文件长度，默认没有为-1
char pathChar = File.separatorChar; // 获取：系统路径分隔符
String panFu ="D:"; // 路径：存储文件盘符
DataInputStream dis =null; // 获取：客户端输出流
DataOutputStream dos =null;// 发送：向客户端输入流
FileOutputStream fos =null;// 读取：服务器本地文件流
RandomAccessFile rantmpfile =null; // 操作类：随机读取
try
// 获取
dis =new DataInputStream(socket.getInputStream());
// 发送
dos =new DataOutputStream(socket.getOutputStream());
// 定义客户端传过来的文件名
String fileName ="";
while(fileName =="")
// 读取客户端传来的数据
fileName = dis.readUTF();
System.out.println("服务器获取客户端文件名称："+ fileName);
File file =new File(panFu+ pathChar +"receive"+ pathChar +""+ ip + pathChar + fileName);
if(file.exists())
serverLength = file.length();
dos.writeLong(serverLength);
System.out.println("向客户端返回文件长度："+ serverLength +" B");
else
serverLength =0l;
dos.writeLong(serverLength);
System.out.println("文件不存在");
System.out.println("向客户端返回文件长度："+ serverLength +" B");
System.out.println("服务器建立新线程处理客户端请求，对方IP："+ ip +"，传输正在进行中...");
// 从客户端获取输入流
dis =new DataInputStream(socket.getInputStream());
// 文件名和长度
long fileLength = dis.readLong();
File directory =new File(panFu + pathChar +"receive"+ pathChar +""+ ip + pathChar);
if(!directory.exists())
directory.mkdirs();
int length =0;
byte[] bytes =newbyte[1024];
File file =new File(directory.getAbsolutePath()+ pathChar + fileName);
if(!file.exists())
// 不存在
fos =new FileOutputStream(file);
// 开始接收文件
while((length = dis.read(bytes,0, bytes.length))!=-1)
fos.write(bytes,0, length);
fos.flush();
else
// 存储在服务器中的文件长度
long fileSize = file.length(), pointSize =0;
// 判断是否已下载完成
if(fileLength > fileSize)
// 断点下载
pointSize = fileSize;
else
// 重新下载
file.delete();
file.createNewFile();
rantmpfile =new RandomAccessFile(file,"rw");
/*
* java.io.InputStream.skip() 用法：跳过 n 个字节（丢弃） 如果 n
* 为负，则不跳过任何字节。
*/
// dis.skip(pointSize); （已从客户端读取进度）
/**
* 资源，文件定位（游标、指针） 将ras的指针设置到8，则读写ras是从第9个字节读写到
*/
rantmpfile.seek(pointSize);
while((length = dis.read(bytes,0, bytes.length))!=-1)
rantmpfile.write(bytes,0, length);
System.out.println("======== 文件接收成功 [File Name："+ fileName +"] [ClientIP:"+ ip +"] [Size："+ getFormatFileSize(file.length())+"] ========");
catch(Exception e)
e.printStackTrace();
finally
try
if(fos !=null)
fos.close();
if(dis !=null)
dis.close();
if(rantmpfile !=null)
rantmpfile.close();
socket.close();
catch(Exception e)
e.printStackTrace();
System.out.println("Socket关闭失败！");
/**
* 文件传输完毕：执行后续操作（略）
*/
//DoSomeThing dst = new DoSomeThing()
//dst.save(filePath);
/**
* 格式化文件大小
*
* @param length
* @return
*/
public String getFormatFileSize(long length)
double size =((double) length)/(1<<30);
if(size >=1)
return df.format(size)+"GB";
size =((double) length)/(1<<20);
if(size >=1)
return df.format(size)+"MB";
size =((double) length)/(1<<10);
if(size >=1)
return df.format(size)+"KB";
return length +"B";
/**
* 退出
*/
publicvoid quit()
this.quit =true;
try
this.close();
catch(IOException e)
System.out.println("服务器关闭发生异常，原因未知");
断点上传（客户端）
package com.cn.csdn.seesun2012.socket;
import java.io.DataInputStream;
import java.io.DataOutputStream;
import java.io.File;
import java.io.FileInputStream;
import java.io.FileNotFoundException;
import java.io.IOException;
import java.net.Socket;
import java.net.UnknownHostException;
import java.util.Timer;
import java.util.TimerTask;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
/**
* Client端<br><br>
* 功能说明：文件上传（断点）传输
*
* @author CSDN:seesun2012
* @CreateDate 2017年08月18日
* @Override 2017年11月07日
* @version 1.1
*/
publicclass FileUpLoadClient extends Socket
private Logger logger = LoggerFactory.getLogger("oaLogger");
private Socket client; // Socket-客户端
privatestaticlong status =0; // 进度条
privateboolean quit =false; //退出
/**
* 构造器
*
* @param ip 服务端IP地址
* @param report 服务端开放的端口
* @throws UnknownHostException
* @throws IOException
*/
public FileUpLoadClient(String ip, Integer report)throws UnknownHostException, IOException
super(ip, report);
this.client =this;
if(client.getLocalPort()>0)
System.out.println("Cliect[port:"+ client.getLocalPort()+"] 成功连接服务端");
else
System.out.println("服务器连接失败");
publicint sendFile(String filePath)
DataOutputStream dos =null;// 上传服务器：输出流
DataInputStream dis =null; // 获取服务器：输入流
Long serverLength =-1l;// 存储在服务器的文件长度，默认-1
FileInputStream fis =null; // 读取文件：输入流
// 获取：上传文件
File file =new File(filePath);
// ==================== 节点：文件是否存在 ====================
if(file.exists())
// 发送：文件名称、文件长度
try
dos =new DataOutputStream(client.getOutputStream());
catch(IOException e2)
logger.error("Socket客户端：1.读取输出流发生错误");
e2.printStackTrace();
try
dos.writeUTF(file.getName());
dos.flush();
dos.writeLong(file.length());
dos.flush();
catch(IOException e2)
logger.error("Socket客户端：2.向服务器发送文件名、长度发生错误");
e2.printStackTrace();
// 获取：已上传文件长度
try
dis =new DataInputStream(client.getInputStream());
catch(IOException e2)
logger.error("Socket客户端：3.向服务器发送文件名、长度发生错误");
e2.printStackTrace();
while(serverLength==-1)
try
serverLength = dis.readLong();
catch(IOException e)
logger.error("Socket客户端：4.读取服务端长度发送错误");
e.printStackTrace();
// 读取：需要上传的文件
try
fis =new FileInputStream(file);
catch(FileNotFoundException e2)
logger.error("Socket客户端：5.读取本地需要上传的文件失败，请确认文件是否存在");
e2.printStackTrace();
// 发送：向服务器传输输入流
try
dos =new DataOutputStream(client.getOutputStream());
catch(IOException e2)
logger.error("Socket客户端：6.向服务器传输输入流发生错误");
e2.printStackTrace();
System.out.println("======== 开始传输文件 ========");
byte[] bytes =newbyte[1024];
int length =1024;
long progress = serverLength;
// 设置游标：文件读取的位置
if(serverLength==-1l)
serverLength =0l;
try
fis.skip(serverLength);
catch(IOException e1)
logger.error("Socket客户端：7.设置游标位置发生错误，请确认文件流是否被篡改");
e1.printStackTrace();
try
while(((length = fis.read(bytes,0, bytes.length))!=-1)&& quit !=true)
dos.write(bytes,0, length);
dos.flush();
progress += length;
status =(100* progress / file.length());
catch(IOException e)
logger.error("Socket客户端：8.设置游标位置发生错误，请确认文件流是否被篡改");
e.printStackTrace();
finally
if(fis !=null)
try
fis.close();
catch(IOException e1)
logger.error("Socket客户端：9.关闭读取的输入流异常");
e1.printStackTrace();
if(dos !=null)
try
dos.close();
catch(IOException e1)
logger.error("Socket客户端：10.关闭发送的输出流异常");
e1.printStackTrace();
try
client.close();
catch(IOException e)
logger.error("Socket客户端：11.关闭客户端异常");
e.printStackTrace();
System.out.println("======== 文件传输成功 ========");
else
logger.error("Socket客户端：0.文件不存在");
return-1;
return1;
/**
* 进度条
*/
publicvoid statusInfo()
Timer time =new Timer();
time.schedule(new TimerTask()
long num =0;
@Override
publicvoid run()
if(status>num)
System.out.println("当前进度为："+status+"%");
num = status;
if(status==101)
System.gc();
,0,100);
/**
* 退出
*/
publicvoid quit()
this.quit =true;
try
this.close();
catch(IOException e)
System.out.println("服务器关闭发生异常，原因未知");
断点上传（参数设置）
package com.cn.csdn.seesun2012.socket;
publicinterface FinalVariables
// 服务端IP
publicfinalstatic String SERVER_IP ="192.168.1.10010";
// 服务端端口
publicfinalstaticint SERVER_PORT =10086;
// 开启配置
publicfinalstatic String IS_START_SERVER ="instart";
断点上传（JavaWeb启动服务端）
package com.cn.csdn.seesun2012.socket;
import java.util.Timer;
import java.util.TimerTask;
import javax.servlet.ServletException;
import javax.servlet.http.HttpServlet;
/**
* Server端<br><br>
* 功能说明：服务端监听开启Servlet
*
* @author CSDN:seesun2012
* @CreateDate 2017年08月18日
* @Override 2017年11月07日
* @Override 2017年11月14日
* @version 1.3
*/
publicclass SocketServerListener extends HttpServlet
privatestaticfinallong serialVersionUID =-999999999999999999L;
// 初始化启动Socket服务
@Override
publicvoid init()throws ServletException
super.init();
for(int i =0; i <3; i++)
if("instart".equals(FinalVariables.IS_START_SERVER ))
open();
break;
publicvoid open()
Timer timer =new Timer();
timer.schedule(new TimerTask()
@SuppressWarnings("resource")
@Override
publicvoid run()
try
FileUpLoadServer fileUpLoadServer =new FileUpLoadServer(FinalVariables.SERVER_PORT);
fileUpLoadServer.load();
catch(Exception e)
e.printStackTrace();
,3000);
web.xml配置（跟随项目启动）
<?xmlversion="1.0"encoding="UTF-8"?>
<web-app>
<welcome-file-list>
<welcome-file>index.html</welcome-file>
<welcome-file>index.jsp</welcome-file>
</welcome-file-list>
<servlet>
<servlet-name>SocketServerListener</servlet-name>
<servlet-class>com.cn.csdn.seesun2012.socket.SocketServerListener</servlet-class>
<load-on-startup>10</load-on-startup>
</servlet>
<display-name>seesun2012</display-name>
</web-app>
目前能够支持MySQL,Oracle,SQL。在使用前需要配置一下数据库，可以参考我写的这篇文章：http://blog.ncmem.com/wordpress/2019/08/12/java-http%E5%A4%A7%E6%96%87%E4%BB%B6%E6%96%AD%E7%82%B9%E7%BB%AD%E4%BC%A0%E4%B8%8A%E4%BC%A0/
以上是关于java 上传大文件以及文件夹的主要内容，如果未能解决你的问题，请参考以下文章