SpringBoot集成分布式对象存储(分布式文件)MinIO

Posted 2021-09-07 守夜人爱吃兔子

一、什么是MinIO？

一句话：MinIO是高性能、可扩展、云原生支持、操作简单、开源的分布式对象存储产品。

你可以把它和FastDFS、HDFS作为类比，但它比其它都更简单，极简是MinIO的设计初衷之一，而且他的性能很好。

当然也有很多商用的对象存储服务，如阿里的OSS、腾讯的COS，无需自己维护，但需要付费。自建对象存储还是香。

官网上的一句话：在中国：阿里巴巴、腾讯、百度、中国联通、华为、中国移动等等9000多家企业也都在使用MinIO产品

二、如何安装部署？

下载地址：w w w.minio.org.cn/download.sh…

启动命令

# windows
minio.exe server http://127.0.0.1/E:/person/article-tools/minio/data0 http://127.0.0.1/E:/person/article-tools/minio/data1 http://127.0.0.1/E:/person/article-tools/minio/data2 http://127.0.0.1/E:/person/article-tools/minio/data3

• 这里面指定了4个分区(至少4个)，具体可以根据您的实际情况进行配置。可以四台主机各一个数据存放位置，也可以两台主机各两个存放位置。我这边是四个存放位置都在一台主机上。
• 格式是 ip + 存放位置，如 http://127.0.0.1/E:/person/article-tools/minio/data0中http://127.0.0.1/为ip地址，E:/person/article-tools/minio/data0为存放位置。

启动成功后 默认访问地址ht t p://127.0.0.1:9000/ ，默认账号和密码都是：minioadmin,创建一个test的桶(bucket)。

三、SpringBoot 集成 MinIO

pom.xml如下

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 https://maven.apache.org/xsd/maven-4.0.0.xsd">
    <parent>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-parent</artifactId>
        <version>2.3.2.RELEASE</version>
        <relativePath/>
    </parent>

    <modelVersion>4.0.0</modelVersion>
    <groupId>com.llh.minio</groupId>
    <artifactId>minio-demo</artifactId>
    <version>1.0.0</version>
    <name>minio-demo</name>
    <description>minio-demo</description>

    <properties>
        <java.version>1.8</java.version>
        <project.build.sourceEncoding>UTF-8</project.build.sourceEncoding>
        <project.reporting.outputEncoding>UTF-8</project.reporting.outputEncoding>
        <spring-boot.version>2.3.7.RELEASE</spring-boot.version>
    </properties>

    <dependencies>
        <dependency>
            <groupId>io.minio</groupId>
            <artifactId>minio</artifactId>
            <version>8.2.2</version>
        </dependency>

        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-web</artifactId>
        </dependency>

        <dependency>
            <groupId>org.projectlombok</groupId>
            <artifactId>lombok</artifactId>
            <version>1.18.20</version>
            <scope>provided</scope>
        </dependency>

    </dependencies>

</project>

---

MinioConfiguration类

package com.llh.minio.config;

import io.minio.MinioClient;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;

@Configuration
public class MinioConfiguration {

    private static final String END_POINT = "http://localhost:9000";

    private static final String USERNAME = "minioadmin";

    private static final String PASSWORD = "minioadmin";

    @Bean
    public MinioClient minioClient() {
        return new MinioClient.Builder()
                .endpoint(END_POINT)
                .credentials(USERNAME, PASSWORD)
                .build();
    }
}

• 这里就是配置端口、用户名、密码，注入MinioClient

---

TestController类

package com.llh.minio.controller;

import io.minio.GetPresignedObjectUrlArgs;
import io.minio.MinioClient;
import io.minio.PutObjectArgs;
import io.minio.http.Method;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PostMapping;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.multipart.MultipartFile;

import javax.annotation.Resource;
import java.util.Objects;
import java.util.UUID;
import java.util.concurrent.TimeUnit;

@RestController
public class TestController {
    @Resource
    private MinioClient minioClient;

    // 和后台桶名对应
    private static final String TEST_BUCKET = "test";

    @PostMapping("upload")
    public String upload(@RequestParam(name = "file") MultipartFile file) {
        try {
            int idx = Objects.requireNonNull(file.getOriginalFilename()).lastIndexOf(".");
            String suffix = file.getOriginalFilename().substring(idx + 1);
            String fileName = UUID.randomUUID() + "." + suffix;

            // 保存文件
            minioClient.putObject(PutObjectArgs.builder()
                    .stream(file.getInputStream(), file.getSize(), PutObjectArgs.MIN_MULTIPART_SIZE)
                    .object(fileName)
                    .contentType(file.getContentType())
                    .bucket(TEST_BUCKET)
                    .build());
            return fileName;
        } catch (Exception e) {
            e.printStackTrace();
            return "";
        }
    }

    @GetMapping("getUrl")
    public String getUrl(@RequestParam(name = "path") String path) {
        try {
            // 获取文件访问地址 7天失效
            String url = minioClient.getPresignedObjectUrl(GetPresignedObjectUrlArgs.builder()
                    .bucket(TEST_BUCKET)
                    .object(path).
                    method(Method.GET)
                    .expiry(7, TimeUnit.DAYS).build());
            return url;
        } catch (Exception e) {
            e.printStackTrace();
            return "";
        }
    }
}

• 这里是上传文件接口 和 根据path返回访问地址接口
• 一般我们数据库存放的是文件名，需要访问的时候调用getUrl方法获取全路径访问地址。

---

MinioDemoApplication启动类

package com.llh.minio;

import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.boot.web.servlet.MultipartConfigFactory;
import org.springframework.context.annotation.Bean;
import org.springframework.util.unit.DataSize;

import javax.servlet.MultipartConfigElement;

/**
 * @author 小虎哥的技术博客
 */
@SpringBootApplication
public class MinioDemoApplication {

    public static void main(String[] args) {
        SpringApplication.run(MinioDemoApplication.class, args);
    }

    @Bean
    public MultipartConfigElement multipartConfigElement() {
        MultipartConfigFactory factory = new MultipartConfigFactory();
        factory.setMaxFileSize(DataSize.ofMegabytes(1024));
        factory.setMaxRequestSize(DataSize.ofMegabytes(1024));
        return factory.createMultipartConfig();
    }
}

• 这里配置单文件上传文件大小为1G，否则文件太大上传会失败。

---

四、Postman测试

上传文件

•  h t tp://localhost:8080/upload

• 请求头加上Content-Type:multipart/form-data

---

• Body 类型选择为File
• 上传成功返回文件路径

---

获取访问/下载地址

• h t tp://localhost:8080/getUrl?path=xxxpath

• 请求返回可以直接访问的地址

五、MinIO文件格式

• 四个存放位置

• 可以测试删除其中一半的存放位置，它过一会儿就自动恢复了，比如删除data0和data1,几分钟它就自动重新创建了文件，并且里面的内容也恢复了。

---

• 有意思的是上传的单个文件变成了文件夹

• 点击到里面发现单个文件被拆分成了许多个小块

那么要下载文件只能通过官方的工具或者接口。

六、nginx代理

生产环境中您是在多台物理机部署MinIO，每台物理机都有单独的IP，但是入口只能有一个,所以需要代理。下面是Nginx代理的配置。

# http
upstream miniopass { 
    server localhost:9000; 
}

# server
location / {
    proxy_set_header Host $http_host;
    proxy_pass http://miniopass;
    client_max_body_size 1000m;
}

 最后

一直想整理出一份完美的面试宝典，但是时间上一直腾不开，这套一千多道面试题宝典，结合今年金三银四各种大厂面试题，以及 GitHub 上 star 数超 30K+ 的文档整理出来的，我上传以后，毫无意外的短短半个小时点赞量就达到了 13k，说实话还是有点不可思议的。

需要完整版的小伙伴，可以一键三连后，点击这里！

一千道互联网 Java 工程师面试题

内容涵盖：Java、MyBatis、ZooKeeper、Dubbo、Elasticsearch、Memcached、Redis、mysql、Spring、SpringBoot、SpringCloud、RabbitMQ、Kafka、Linux等技术栈（485页）

《Java核心知识点合集（283页）》

内容涵盖：Java基础、JVM、高并发、多线程、分布式、设计模式、Spring全家桶、Java、MyBatis、ZooKeeper、Dubbo、Elasticsearch、Memcached、MongoDB、Redis、MySQL、RabbitMQ、Kafka、Linux、Netty、Tomcat、数据库、云计算等

《Java中高级核心知识点合集（524页）》

《Java高级架构知识点整理》

 

 由于篇幅限制，详解资料太全面，细节内容太多，所以只把部分知识点截图出来粗略的介绍，每个小节点里面都有更细化的内容!

需要完整版的小伙伴，可以一键三连后，点击这里！