限制 JdbcPagingItemReader 在 Spring Batch 项目中可以读取的总记录数

Posted

技术标签:

【中文标题】限制 JdbcPagingItemReader 在 Spring Batch 项目中可以读取的总记录数【英文标题】:Limit number of total records that a JdbcPagingItemReader can read in a Spring Batch project 【发布时间】:2019-06-19 16:05:43 【问题描述】:

我正在尝试读取具有数百万条记录的数据库表,因此我正在使用 JdbcPagingItemReader。

但是,我目前处于测试阶段,我正在尝试限制使用 JdbcPagingItemReader 可以读取的总记录数。 我知道这应该很简单,它只是隐藏在某个地方。

这就是我的读者的样子:

   @Bean (name = "metadataItemReader")
   public ItemReader<DocumentMetadata> itemReader( @Value( "$count" ) int count ) 

      JdbcPagingItemReader<DocumentMetadata> reader = new JdbcPagingItemReader<>();
      final SqlPagingQueryProviderFactoryBean sqlPagingQueryProviderFactoryBean = new SqlPagingQueryProviderFactoryBean();
      sqlPagingQueryProviderFactoryBean.setDataSource(dataSource);
      sqlPagingQueryProviderFactoryBean.setSelectClause("select id, file_path, file_name, extension, created_by, TO_CHAR(create_date, 'yyyy-mm-dd hh24:mi:ss') as create_date");
      sqlPagingQueryProviderFactoryBean.setFromClause("from document_metadata");
      //sqlPagingQueryProviderFactoryBean.l
      sqlPagingQueryProviderFactoryBean.setSortKey("id");
      try 
         reader.setQueryProvider(sqlPagingQueryProviderFactoryBean.getObject());
       catch (Exception e) 
         log.error(e.getMessage());
      
      reader.setDataSource(dataSource);
      reader.setPageSize(10);
      reader.setRowMapper( new MetadataRowMapper() );
      return reader;
   

【问题讨论】:

【参考方案1】:

JdbcPagingItemReader 是一个 AbstractItemCountingItemStreamItemReader bean,它有一个 maxItemCount 属性,您可以设置它以实现您想要的。

【讨论】:

谢谢!这正是我所需要的。

以上是关于限制 JdbcPagingItemReader 在 Spring Batch 项目中可以读取的总记录数的主要内容,如果未能解决你的问题,请参考以下文章

无效的列名异常 - 使用别名的 JdbcPagingItemReader 查询

Spring批处理JdbcPagingItemReader无法读取所有事件

OpenShift 中的 Spring 批处理 JDBCPagingItemReader、ThreadPoolTask​​Executor 和多个 pod

Spring Batch 事务管理 - 多线程步骤

带有 sortKeys 和参数值的 Spring Batch Paging

Spring Batch:用于高容量和低延迟的 ItemReader 实现