简单的Spring Batch示例

Posted 二刀

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了简单的Spring Batch示例相关的知识,希望对你有一定的参考价值。

使用Spring Batch做为批处理框架,可以完成常规的数据量不是特别大的离线计算。

现在写一个简单的入门版示例。

这里默认大家已经掌握了Spring Batch的基本知识,示例只是为了快速上手实践

目标1:程序随机生成字符串,经过Spring Batch后,统一在字符串后加入“----PROCESSED”,并输出

目标2:程序读取txt文件,经过Spring Batch后,统一加入如上字段,并输出

Spring Batch的流程

  1. 读取数据----itemReader
  2. 处理数据----itemProcess
  3. 数据写入----itemWrite

分析目标可知,两个目标的输入数据源不同,处理方式基本一致,数据完成后的写入规则一致

由此可以分段完成代码

itemReader

目标一

这里没有使用Spring Batch自带的集中reader,所以自定义了随机生成字符串的reader

这里代码并不完善,reader会无线循环生成随机字符串,但不影响本次学习的目的

 
public class MyItemReader implements ItemReader<String> {
    @Override
    public String read() throws Exception, UnexpectedInputException, ParseException, NonTransientResourceException {
        return RandomStringUtils.randomAlphabetic(10);
    }
}

目标二

由于是读取文件中的内容,所以不用自定义reader实现,可直接使用FlatFileItemReader,在Batch的config中配置即可

    @Bean
    public ItemReader<String> textReader(){
 
        FlatFileItemReader<String> reader=new FlatFileItemReader<>();
        File file = new File("D:\FTP\ttest.txt");
        reader.setResource(new FileSystemResource(file));
        reader.setLineMapper(new LineMapper<String>() {
            @Override
            public String mapLine(String line, int lineNumber) throws Exception {
                return line;
            }
        });
        return reader;
 
    }

itemProcess

这里采用同一种处理方式即可

public class MyItemProcessor implements ItemProcessor<String,String> {
 
    @Override
    public String process(String s) throws Exception {
        return s+"---------PROCESSED";
    }
}

itemWriter

也采用同一种即可

public class MyItemWriter implements ItemWriter<String> {
    @Override
    public void write(List<? extends String> items) throws Exception {
        for (String item : items) {
            System.out.println(item);
        }
    }
}

配置完成Batch Config

@Configuration
@EnableBatchProcessing
public class BatchConfiguration extends DefaultBatchConfigurer {
 
    @Autowired
    public StepBuilderFactory stepBuilderFactory;
    @Autowired
    public JobBuilderFactory jobBuilderFactory;
 
    @Bean
    public MyItemProcessor processor(){
        return new MyItemProcessor();
    }
 
    @Bean
    public ItemWriter<String> writer(){
        return new MyItemWriter();
    }
 
    @Bean
    public ItemReader<String> textReader(){
        FlatFileItemReader<String> reader=new FlatFileItemReader<>();
        File file = new File("D:\FTP\ttest.txt");
        reader.setResource(new FileSystemResource(file));
        reader.setLineMapper(new LineMapper<String>() {
            @Override
            public String mapLine(String line, int lineNumber) throws Exception {
                return line;
            }
        });
        return reader;
    }
 
    @Bean
    public ItemReader<String> stringReader(){
        return new MyItemReader();
    }
 
    @Override
    public void setDataSource(DataSource dataSource) {
        super.setDataSource(dataSource);
    }
 
    @Bean
    public Step myStep(){
        return stepBuilderFactory
                .get("step1")
                //这个chunk size是最后调用写入的时候,一次性写入多少条已处理的数据
                .<String,String>chunk(10)
//                .reader(textReader())
                .reader(stringReader())
                .processor(processor())
                .writer(writer())
                .build();
 
    }
 
    @Bean
    public Job MyJob(){
        return jobBuilderFactory
                .get("MyJOB")
                .listener(new JobExecutionListenerSupport(){
                    //所有处理结束后调用
                    @Override
                    public void afterJob(JobExecution jobExecution) {
                        if(jobExecution.getStatus() == BatchStatus.COMPLETED){
                            System.out.println("OK");
                        }
                    }
                })
                .flow(myStep())
                .end()
                .build();
    }
}

结束

最后直接运行spring boot程序即可

以上是关于简单的Spring Batch示例的主要内容,如果未能解决你的问题,请参考以下文章

spring batch(二):核心部分:配置Spring batch

Spring Batch 项目读取监听器

Spring Batch 分区处理程序错误

在 Spring Batch 中对字段进行处理时读取新文件

陪你解读Spring Batch带你入手Spring Batch

陪你解读Spring BatchSpring Batch介绍