SpringBoot:使用 Apache Commons FileUpload 上传大型流文件

Posted

技术标签:

【中文标题】SpringBoot:使用 Apache Commons FileUpload 上传大型流文件【英文标题】:SpringBoot: Large Streaming File Upload Using Apache Commons FileUpload 【发布时间】:2015-12-23 06:39:00 【问题描述】:

我正在尝试使用“流式”Apache Commons File Upload API 上传一个大文件。

我使用 Apache Commons File Uploader 而不是默认的 Spring Multipart 上传器的原因是当我们上传非常大的文件大小 (~2GB) 时它会失败。我正在开发一个 GIS 应用程序,这种文件上传很常见。

我的文件上传控制器的完整代码如下:

@Controller
public class FileUploadController 

    @RequestMapping(value="/upload", method=RequestMethod.POST)
    public void upload(HttpServletRequest request) 
        boolean isMultipart = ServletFileUpload.isMultipartContent(request);
        if (!isMultipart) 
            // Inform user about invalid request
            return;
        

        //String filename = request.getParameter("name");

        // Create a new file upload handler
        ServletFileUpload upload = new ServletFileUpload();

        // Parse the request
        try 
            FileItemIterator iter = upload.getItemIterator(request);
            while (iter.hasNext()) 
                FileItemStream item = iter.next();
                String name = item.getFieldName();
                InputStream stream = item.openStream();
                if (item.isFormField()) 
                    System.out.println("Form field " + name + " with value " + Streams.asString(stream) + " detected.");
                 else 
                    System.out.println("File field " + name + " with file name " + item.getName() + " detected.");
                    // Process the input stream
                    OutputStream out = new FileOutputStream("incoming.gz");
                    IOUtils.copy(stream, out);
                    stream.close();
                    out.close();

                
            
        catch (FileUploadException e)
            e.printStackTrace();
        catch (IOException e)
            e.printStackTrace();
        
    

    @RequestMapping(value = "/uploader", method = RequestMethod.GET)
    public ModelAndView uploaderPage() 
        ModelAndView model = new ModelAndView();
        model.setViewName("uploader");
        return model;
    


问题在于 getItemIterator(request) 总是返回一个没有任何项目的迭代器(即 iter.hasNext() )总是返回 false

我的application.properties文件如下:

spring.datasource.driverClassName=org.postgresql.Driver
spring.datasource.url=jdbc:postgresql://localhost:19095/authdb
spring.datasource.username=georbis
spring.datasource.password=asdf123

logging.level.org.springframework.web=DEBUG

spring.jpa.hibernate.ddl-auto=update

multipart.maxFileSize: 128000MB
multipart.maxRequestSize: 128000MB

server.port=19091

/uploader 的 JSP 视图如下:

<html>
<body>
<form method="POST" enctype="multipart/form-data" action="/upload">
    File to upload: <input type="file" name="file"><br />
    Name: <input type="text" name="name"><br /> <br />
    Press here to upload the file!<input type="submit" value="Upload">
    <input type="hidden" name="$_csrf.parameterName" value="$_csrf.token" />
</form>
</body>
</html>

我可能做错了什么?

【问题讨论】:

您是否禁用了 springs 多部分支持,否则您的解决方案将无法正常工作,并且 Spring 已经解析了请求。将所有 multipart 属性替换为单个 multipart.enabled=false 以禁用默认处理。 我没有为禁用 spring 多部分支持做任何具体的事情。我尝试在我的application.properties 文件中添加multipart.enabled=false。但是,一旦我这样做了,我每次上传时都会收到 405: Request method 'POST' not supported 错误。 这将表明错误的映射或发布到错误的 url... 启用调试日志记录并查看您发布到哪个 URL 以及您的控制器方法与哪个 URL 匹配。 这绝对不是发布到错误 URL 的情况,因为当我删除 multipart.enabled=false 时,我的控制器确实被调用(我再次遇到上面帖子中描述的问题)。跨度> 不,您不想要任何MultipartResolver,因为它会解析传入的请求并将文件放入内存中。您想自己处理它,因此您不希望其他任何事情弄乱您的多部分请求。 【参考方案1】:

您可以简单地添加弹簧属性:

spring.servlet.multipart.max-file-size=20000KB
spring.servlet.multipart.max-request-size=20000KB

这里我的最大文件大小是 20000KB,如果需要,您可以更改。

【讨论】:

【参考方案2】:

我使用 kindeditor + springboot。当我使用 (MultipartHttpServletRequest) 请求时。我可以得到文件,但我使用 appeche-common-io:upload.parse(request) 返回值为 null。

public BaseResult uploadImg(HttpServletRequest request,String type)
                MultipartHttpServletRequest multipartRequest = (MultipartHttpServletRequest) request;
                MultiValueMap<String, MultipartFile> multiFileMap = multipartRequest.getMultiFileMap();

【讨论】:

【参考方案3】:

如果您使用的是最新版本的 spring boot(我使用的是 2.0.0.M7),则属性名称已更改。 Spring 开始使用特定于技术的名称

spring.servlet.multipart.maxFileSize=-1

spring.servlet.multipart.maxRequestSize=-1

spring.servlet.multipart.enabled=false

如果由于多个实现处于活动状态而导致 StreamClosed 异常,则最后一个选项允许您禁用默认的 spring 实现

【讨论】:

【参考方案4】:

请尝试在application.properties文件中添加spring.http.multipart.enabled=false

【讨论】:

【参考方案5】:

感谢 M.Deinum 提供的一些非常有用的 cmets,我设法解决了这个问题。我已经清理了一些原始帖子,并将其发布为完整的答案以供将来参考。

我犯的第一个错误是没有禁用 Spring 提供的默认 MultipartResolver。这最终在解析器处理HttpServeletRequest 并因此在我的控制器可以对其采取行动之前消耗它。

感谢M. Deinum,禁用它的方法如下:

multipart.enabled=false

然而,在这之后还有另一个隐藏的陷阱在等着我。一旦我禁用了默认的多部分解析器,我在尝试上传时就开始收到以下错误:

Fri Sep 25 20:23:47 IST 2015
There was an unexpected error (type=Method Not Allowed, status=405).
Request method 'POST' not supported

在我的安全配置中,我启用了 CSRF 保护。这需要我以以下方式发送我的 POST 请求:

<html>
<body>
<form method="POST" enctype="multipart/form-data" action="/upload?$_csrf.parameterName=$_csrf.token">
    <input type="file" name="file"><br>
    <input type="submit" value="Upload">
</form>
</body>
</html>

我还稍微修改了我的控制器:

@Controller
public class FileUploadController 
    @RequestMapping(value="/upload", method=RequestMethod.POST)
    public @ResponseBody Response<String> upload(HttpServletRequest request) 
        try 
            boolean isMultipart = ServletFileUpload.isMultipartContent(request);
            if (!isMultipart) 
                // Inform user about invalid request
                Response<String> responseObject = new Response<String>(false, "Not a multipart request.", "");
                return responseObject;
            

            // Create a new file upload handler
            ServletFileUpload upload = new ServletFileUpload();

            // Parse the request
            FileItemIterator iter = upload.getItemIterator(request);
            while (iter.hasNext()) 
                FileItemStream item = iter.next();
                String name = item.getFieldName();
                InputStream stream = item.openStream();
                if (!item.isFormField()) 
                    String filename = item.getName();
                    // Process the input stream
                    OutputStream out = new FileOutputStream(filename);
                    IOUtils.copy(stream, out);
                    stream.close();
                    out.close();
                
            
         catch (FileUploadException e) 
            return new Response<String>(false, "File upload error", e.toString());
         catch (IOException e) 
            return new Response<String>(false, "Internal server IO error", e.toString());
        

        return new Response<String>(true, "Success", "");
    

    @RequestMapping(value = "/uploader", method = RequestMethod.GET)
    public ModelAndView uploaderPage() 
        ModelAndView model = new ModelAndView();
        model.setViewName("uploader");
        return model;
    

其中 Response 只是我使用的一个简单的通用响应类型:

public class Response<T> 
    /** Boolean indicating if request succeeded **/
    private boolean status;

    /** Message indicating error if any **/
    private String message;

    /** Additional data that is part of this response **/
    private T data;

    public Response(boolean status, String message, T data) 
        this.status = status;
        this.message = message;
        this.data = data;
    

    // Setters and getters
    ...

【讨论】:

当multipart.enabled=false 时,MockMultipartFile 在单元测试用例中不起作用。有没有使用MockMvc 上传文件的单元测试用例示例 我尝试设置 spring.servlet.multipart.enabled=false,但迭代器仍然没有返回任何值。为什么会这样?

以上是关于SpringBoot:使用 Apache Commons FileUpload 上传大型流文件的主要内容,如果未能解决你的问题,请参考以下文章

SpringBoot:使用 Apache Commons FileUpload 上传大型流文件

SpringBoot:使用jpa实现对Apache Geode的基本操作

SpringBoot:使用jpa实现对Apache Geode的基本操作

SpringBoot:使用jpa实现对Apache Geode的基本操作

SpringBoot图文教程9—SpringBoot 导入导出 Excel 「Apache Poi」

如何使用 Apache Kafka 使用 SpringBoot 将数据从一个微服务发送到另一个微服务?