Java Debug 笔记:Spring如何在运行期动态注册新的数据源?

Posted Javachichi

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Java Debug 笔记:Spring如何在运行期动态注册新的数据源?相关的知识,希望对你有一定的参考价值。

最近在翻底稿的时候找到了一个之前跟后端交流群的群友讨论的话题,感觉这个主题还不错,所以本篇文章,我们就来研究一下本文标题所述的这个话题:SpringFramework 如何在运行期动态注册新的数据源?

Spring动态注册数据源封面.png

需求来源

这个需求的起源是来自一个 SpringBoot 自动装配的数据源注册,因为一个项目中需要注册的数据源不确定,所以需要在启动时根据配置文件的内容动态注册多个数据源。后来聊着聊着,就演变成运行时动态注册新的数据源了。虽然看上去这两个事情好像差不多,但实际上两件事差了很多哈。

  • 启动时动态初始化数据源:在基于 SpringFramework / SpringBoot 的应用初始化,也即 IOC 容器初始化时,读取并解析配置文件,构造多个数据源,并注册到 IOC 容器中
    • 此时通常情况下 IOC 容器还没有刷新完毕,项目还没有启动完成
  • 运行期动态注册新的数据源:在项目的运行期间,动态的构造数据源,并注册到 Spring 的 IOC 容器中
    • 此时项目已经在正常运行中了

前者的处理方式相对比较简单,通过声明一个标注了 @ConfigurationProperties 的类,并用 Map 接收数据源的参数就可以把数据源的定义信息都获取到了:

@ConfigurationProperties(prefix = "spring.datasource.dynamic")
public class DynamicDataSourceProperties {
    
    private Map<String, DataSource> dataSourceMap = new HashMap<>();
    
    // ......
} 

然后,再编写一个 ImportBeanDefinitionRegistrar ,读取这个 DynamicDataSourceProperties 的内容,就可以把这些数据源都注册到 IOC 容器中。

但是后者就麻烦了,运行期动态注册新的数据源应该如何实现才行呢?下面我们来通过几个方案,讲解该需求的实现。

编码环境搭建

首先,我们先来搭建一下编码环境。

数据库准备

首先,我们先来创建 3 个不同的数据库(当然也可以只创建一个数据库,这里我们搞的更真实一点吧):

CREATE DATABASE db1;
CREATE DATABASE db2;
CREATE DATABASE db3; 

接下来给每一个数据库中都初始化一张相同的表:

CREATE TABLE tbl_user  (
  id int(11) NOT NULL AUTO_INCREMENT,
  name varchar(32) NOT NULL,
  tel varchar(16) NULL,
  PRIMARY KEY (id)
); 

OK 就这么简单的准备一下就可以了。

初始代码编写

为了快速编码,我们仍然采用 SpringBoot 构建项目,直接使用 SpringInitializer 就挺好,当然也可以通过 Maven 构建项目,这里我们就省去那些麻烦的构建步骤了,只把代码贴一下哈。

项目名称:dynamic-register-datasource

pom.xml

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
         xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <modelVersion>4.0.0</modelVersion>
    <parent>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-parent</artifactId>
        <version>2.2.8.RELEASE</version>
        <relativePath/>
    </parent>
    <groupId>com.linkedbear.spring</groupId>
    <artifactId>dynamic-register-datasource</artifactId>
    <version>1.0-SNAPSHOT</version>

    <properties>
        <java.version>1.8</java.version>
    </properties>

    <dependencies>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-web</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-jdbc</artifactId>
        </dependency>
        <dependency>
            <groupId>mysql</groupId>
            <artifactId>mysql-connector-java</artifactId>
            <version>5.1.47</version>
        </dependency>
    </dependencies>

    <build>
        <plugins>
            <plugin>
                <groupId>org.springframework.boot</groupId>
                <artifactId>spring-boot-maven-plugin</artifactId>
            </plugin>
        </plugins>
    </build>
</project> 

application.yml

spring:
  datasource:
    db1:
      driver-class-name: com.mysql.jdbc.Driver
      jdbc-url: jdbc:mysql://localhost:3306/db1?characterEncoding=utf8 # 注意这里是jdbc-url而不是url
      username: root
      password: 123456
    db2:
      driver-class-name: com.mysql.jdbc.Driver
      jdbc-url: jdbc:mysql://localhost:3306/db2?characterEncoding=utf8
      username: root
      password: 123456 

DataSourceConfiguration

@Configuration
public class DataSourceConfiguration {
    
    @Bean
    @Primary
    @ConfigurationProperties("spring.datasource.db1")
    public DataSource db1() {
        return DataSourceBuilder.create().build();
    }
    
    @Bean
    @ConfigurationProperties("spring.datasource.db2")
    public DataSource db2() {
        return DataSourceBuilder.create().build();
    }
} 

以上的代码,是我们最常见到的 SpringBoot 中定义多个数据源的方法了是吧。

如果你觉得自己学习效率低,缺乏正确的指导,可以加入资源丰富,学习氛围浓厚的技术圈一起学习交流吧!
[Java架构群]
群内有许多来自一线的技术大牛,也有在小厂或外包公司奋斗的码农,我们致力打造一个平等,高质量的JAVA交流圈子,不一定能短期就让每个人的技术突飞猛进,但从长远来说,眼光,格局,长远发展的方向才是最重要的。

测试运行一下

最后编写 SpringBoot 主启动类,在这里我们将启动完成后的 IOC 容器拿到,并从中取出所有的 DataSource ,取一下它们其中的数据库连接 Connection

@SpringBootApplication
public class DynamicRegisterDataSourceApplication {
    
    public static void main(String[] args) throws Exception {
        ConfigurableApplicationContext ctx = SpringApplication.run(DynamicRegisterDataSourceApplication.class, args);
        Map<String, DataSource> dataSourceMap = ctx.getBeansOfType(DataSource.class);
        for (Map.Entry<String, DataSource> entry : dataSourceMap.entrySet()) {
            String name = entry.getKey();
            DataSource dataSource = entry.getValue();
            System.out.println(name);
            System.out.println(dataSource.getConnection()); // 这里会抛出异常,直接throws走了
        }
    }
} 

运行主启动类,可以在控制台中发现我们已经注册好的两个 DataSource ,以及它们对应的 Connection

db1
2021-01-15 20:43:14.299  INFO 7624 --- [           main] com.zaxxer.hikari.HikariDataSource       : HikariPool-1 - Starting...
2021-01-15 20:43:14.412  INFO 7624 --- [           main] com.zaxxer.hikari.HikariDataSource       : HikariPool-1 - Start completed.
HikariProxyConnection@65982709 wrapping com.mysql.jdbc.JDBC4Connection@64030b91
db2
2021-01-15 20:43:14.414  INFO 7624 --- [           main] com.zaxxer.hikari.HikariDataSource       : HikariPool-2 - Starting...
2021-01-15 20:43:14.418  INFO 7624 --- [           main] com.zaxxer.hikari.HikariDataSource       : HikariPool-2 - Start completed.
HikariProxyConnection@652007616 wrapping com.mysql.jdbc.JDBC4Connection@66e889df 

到这里,基本的环境和代码都就准备好了。


下面,我们来讲解两种程序运行期动态注册数据源的解决方案。

解决方案1:基于BeanDefinition

如果各位小伙伴有学习过我 Spring 小册的 IOC 高级部分,应该都知道 bean 的创建来源是 BeanDefinition 吧!通常情况下,我们通过 <bean> 标签、@Bean 注解,或者 @Component 配合 @ComponentScan 注解完成的 bean 注册,都是先封装为一个个的 BeanDefinition ,然后才是根据 BeanDefinition 创建 bean 对象!

使用 SpringFramework 的 BeanDefinition 元编程,我们可以手动构造一个 BeanDefinition ,并注册到 DefaultListableBeanFactoryBeanDefinitionRegistry )中:

@RestController
public class RegisterDataSourceController implements BeanFactoryAware, ApplicationContextAware {
    
    private DefaultListableBeanFactory beanFactory;

    @GetMapping("/register1")
    public String register1() {
        BeanDefinitionBuilder builder = BeanDefinitionBuilder.rootBeanDefinition(HikariDataSource.class);
        builder.addPropertyReference("driverClassName", "com.mysql.jdbc.Driver");
        builder.addPropertyReference("jdbcUrl", "jdbc:mysql://localhost:3306/db3?characterEncoding=utf8");
        builder.addPropertyReference("username", "root");
        builder.addPropertyReference("password", "123456");
        // builder.setScope(ConfigurableListableBeanFactory.SCOPE_SINGLETON);
        beanFactory.registerBeanDefinition("db3", builder.getBeanDefinition());
        return "success";
    }
    
    @GetMapping("/getDataSources")
    public String getDataSources() {
        Map<String, DataSource> dataSourceMap = beanFactory.getBeansOfType(DataSource.class);
        dataSourceMap.forEach((s, dataSource) -> {
            System.out.println(s + " ======== " + dataSource);
        });
        return "success";
    }
    
    // ......
} 

如果构造的 DataSource 需要指定作用域等额外的配置,可以操纵 BeanDefinitionBuilder 的 API 进行设置。

以此法编写好之后,我们可以重启项目测试一下。重启之后先访问 /getDataSources ,可以发现控制台只有两个 DataSource 的打印:

db1 ======== HikariDataSource (HikariPool-1)
db2 ======== HikariDataSource (HikariPool-2) 

然后访问 /register1 路径,之后再访问 /getDataSources ,控制台就可以打印三个 DataSource 了:

db1 ======== HikariDataSource (HikariPool-1)
db2 ======== HikariDataSource (HikariPool-2)
db3 ======== HikariDataSource (HikariPool-3) 

这种方法比较简单,比较具有通用性,关键的点是抓住核心知识点:BeanFactory 中的 bean 绝大多数都是通过 BeanDefinition 创建而来

解决方案2:基于SingletonBeanRegistry

如果需要注册的 bean 都是单实例 bean ,而且不需要经过 AOP 处理的话,则也可以使用接下来要讲的这种方式,相较于上一种而言,采用这种方法相对会更友好。

如果小伙伴有看过我的 Spring 小册第 14 章 BeanFactory 章节,应该不会忘记 BeanFactoryApplicationContext 中唯一现役的最终实现是 DefaultListableBeanFactory 吧。那这个实现类,最终是继承了 AbstractBeanFactory ,而它又继承了一个叫 DefaultSingletonBeanRegistry 的类,这个类我们在 Spring 小册的正篇中没有提及,现已经补充到小册的加餐内容中了,小伙伴们可以戳链接去学习呀。

简单示例代码

我们简单的来说哈,DefaultSingletonBeanRegistry 这个类实现了一个 SingletonBeanRegistry 接口,这个接口中定义了一个方法:registerSingleton ,它可以直接向 IOC 容器注册一个已经完完全全存在的对象,使其成为 IOC 容器中的一个 bean

void registerSingleton(String beanName, Object singletonObject); 

又因为 DefaultListableBeanFactory 继承自 DefaultSingletonBeanRegistry ,所以借助这个原理之后,实现这个需求就简单的很了。我们只需要拿到 DefaultListableBeanFactory ,之后调用它的 registerSingleton 方法即可:

@RestController
public class RegisterDataSourceController implements BeanFactoryAware {
    
    private DefaultListableBeanFactory beanFactory;
    
    @GetMapping("/getDataSources")
    public String getDataSources() {
        Map<String, DataSource> dataSourceMap = beanFactory.getBeansOfType(DataSource.class);
        dataSourceMap.forEach((s, dataSource) -> {
            System.out.println(s + " ======== " + dataSource);
        });
        return "success";
    }

    @GetMapping("/register2")
    public String register2() throws SQLException {
        HikariDataSource dataSource = new HikariDataSource();
        dataSource.setDriverClassName("com.mysql.jdbc.Driver");
        dataSource.setJdbcUrl("jdbc:mysql://localhost:3306/db3?characterEncoding=utf8");
        dataSource.setUsername("root");
        dataSource.setPassword("123456");
        dataSource.getConnection();
        System.out.println("db3 创建完成!");
        beanFactory.registerSingleton("db3", dataSource);
        return "success";
    }
    
    @Override
    public void setBeanFactory(BeanFactory beanFactory) throws BeansException {
        this.beanFactory = (DefaultListableBeanFactory) beanFactory;
    }
} 

这样注册好了,IOC 容器中就有这个 db3 的数据源了,我们可以再测试一下。

测试注册效果

重启工程,先访问 /getDataSources ,控制台依然是只有两个 DataSource 的打印:

db1 ======== HikariDataSource (HikariPool-1)
db2 ======== HikariDataSource (HikariPool-2) 

然后访问 /register2 路径,控制台可以打印成功 db3 创建完成! ,此时再访问 /getDataSources 路径,控制台也可以打印三个 DataSource 了:

db1 ======== HikariDataSource (HikariPool-1)
db2 ======== HikariDataSource (HikariPool-2)
db3 ======== HikariDataSource (HikariPool-3) 

依赖注入?

上面我们看到的生效,那仅仅是我们拿到 BeanFactory ,或者 ApplicationContext 后主动调用 getBean 系列方法,去获取 IOC 容器的 bean 。但对于那些依赖了 DataSource 的 bean ,这种情况就不好办了:因为依赖注入的时机是 bean 的初始化阶段,当 bean 创建完成后,没有其他代码的干涉,bean 依赖的那些 bean 就不会变化

听起来有点绕,我们来写一个 Service 类来解释一下。

@Service
public class DataSourceService {
    
    @Autowired
    Map<String, DataSource> dataSourceMap;
    
    public void printDataSources() {
        dataSourceMap.forEach((s, dataSource) -> {
            System.out.println(s + " ======== " + dataSource);
        });
    }
} 

这里我们造了一个 DataSourceService ,并通过注入一整个 Map 的方式,将 IOC 容器中的 DataSource 连带着 bean 的 name 都注入进来。

然后我们修改一下 Controller ,让它取容器中的 DataSourceService ,打印它里面的 DataSource

 @GetMapping("/getDataSources")
    public String getDataSources() {
        DataSourceService dataSourceService = beanFactory.getBean(DataSourceService.class);
        dataSourceService.printDataSources();
        return "success";
    } 

重启工程,并重复上面的测试效果,这次发现两次打印的结果是一样的:

db1 ======== HikariDataSource (HikariPool-1)
db2 ======== HikariDataSource (HikariPool-2)
db3 创建完成!
db1 ======== HikariDataSource (HikariPool-1)
db2 ======== HikariDataSource (HikariPool-2) 

这个现象就是上面提到的:bean 中依赖注入的属性没有被主动干预,则不会发生变化

怎么解决这个问题呢?哎,还是靠 BeanFactory

Spring 小册第 14 章 BeanFactory 的 1.4.2 节中我们讲到了有关 AutowireCapableBeanFactory 的一个作用是框架集成,它提供了一个 autowireBean 方法,用于给现有的对象进行依赖注入:

void autowireBean(Object existingBean) throws BeansException; 

所以我们可以借助这个特性,在动态注册完 DataSource 后,把 IOC 容器中的 DataSourceService 取出来,让它重新执行一次依赖注入即可:

 @GetMapping("/register2")
    public String register2() throws SQLException {
        HikariDataSource dataSource = new HikariDataSource();
        dataSource.setDriverClassName("com.mysql.jdbc.Driver");
        dataSource.setJdbcUrl("jdbc:mysql://localhost:3306/db3?characterEncoding=utf8");
        dataSource.setUsername("root");
        dataSource.setPassword("123456");
        dataSource.getConnection();
        System.out.println("db3 创建完成!");
        beanFactory.registerSingleton("db3", dataSource);
        // 重新执行依赖注入
        beanFactory.autowireBean(beanFactory.getBean(DataSourceService.class));
        return "success";
    } 

就这么简单,添加这样一行代码即可。

再测试

OK ,重新测试一下效果怎样,重启工程,按照上面的测试过程,先访问 /getDataSources ,再访问 /register2 ,然后重新访问 /getDataSources ,这次控制台打印了 DataSourceService 中的 3 个 DataSource 了:

db1 ======== HikariDataSource (HikariPool-1)
db2 ======== HikariDataSource (HikariPool-2)
db3 创建完成!
db1 ======== HikariDataSource (HikariPool-1)
db2 ======== HikariDataSource (HikariPool-2)
db3 ======== HikariDataSource (HikariPool-3) 

这样依赖注入的问题也就解决了。

不足?

虽然上面这样的写法没啥问题,但如果依赖 DataSource 的 bean 太多,那我们一个一个的重新依赖注入,那岂不是太费劲了?有没有更好的方案,能针对某一种特定的 bean 的类型,当 BeanFactory 动态注册该类型的 bean 时,自动刷新 IOC 容器中依赖了该类型 bean 的 bean 。这个想法是否能实现呢?

优化方案:自定义注解+事件监听

比较可惜,使用普通的套路我们无法比较容易的获取到 IOC 容器中哪些 bean 依赖这些 DataSource ,所以我们可以换一个思路:既然依赖这些 DataSource 的 bean 通常都是我们自己编写的(我们自己的业务场景需要呀),所以我们完全可以给这些 bean 上面添加一个自定义的注解。

自定义注解

譬如说,我们给上面的代码中,DataSourceService 的上面添加一个 @RefreshDependency 注解:

@Documented
@Retention(RetentionPolicy.RUNTIME)
@Target(ElementType.TYPE)
public @interface RefreshDependency {
    
} 
@Service
@RefreshDependency
public class DataSourceService {
    
    @Autowired
    Map<String, DataSource> dataSourceMap;
    
    // ......
} 

这个注解的作用,就是标识那些需要 BeanFactory 去执行依赖重注入动作的 bean 。

接下来,就是每次动态注册完 bean 后,让 BeanFactory 去寻找这些标有 @RefreshDependency 注解的 bean ,并执行依赖重注入:

 @GetMapping("/register3")
    public String register3() throws SQLException {
        HikariDataSource dataSource = new HikariDataSource();
        dataSource.setDriverClassName("com.mysql.jdbc.Driver");
        dataSource.setJdbcUrl("jdbc:mysql://localhost:3306/db3?characterEncoding=utf8");
        dataSource.setUsername("root");
        dataSource.setPassword("123456");
        dataSource.getConnectionJava框架spring Boot学习笔记(十四):log4j介绍

初入Spring-boot

JAVA中的Debug如何使用

SpringBoot的运行原理

[原创]java WEB学习笔记98:Spring学习---Spring Bean配置及相关细节:如何在配置bean,Spring容器(BeanFactory,ApplicationContext),

Python中如何Debug