循环分批从数据库获取数据

Posted 爱锅巴

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了循环分批从数据库获取数据相关的知识,希望对你有一定的参考价值。

模拟根据查询出的总数循环分批从数据库获取数据
很多时候我们并不能在jvm存住一个多达一两万元素的List,如果单个元素过大不加以控制,有可能会造成内存溢出,所以需要分批查询数据
public static void main(String[] args) 
    //事先查出的总数
    int totalNum = 13031;
    //每次拿取数量
    int preNum = 1000;
    //循环过的数量
    int passNum = 0;
    do 
        System.out.println("select * from a limit " + passNum + "," + preNum);
        passNum += preNum;
     while (passNum < totalNum);

打印结果,每次只拿取1000条数据,保证程序中不会出现太大的数组导致内存溢出
select * from a limit 0,1000;
select * from a limit 1000,1000;
select * from a limit 2000,1000;
select * from a limit 3000,1000;
select * from a limit 4000,1000;
select * from a limit 5000,1000;
select * from a limit 6000,1000;
select * from a limit 7000,1000;
select * from a limit 8000,1000;
select * from a limit 9000,1000;
select * from a limit 10000,1000;
select * from a limit 11000,1000;
select * from a limit 12000,1000;
select * from a limit 13000,1000;

以上是关于循环分批从数据库获取数据的主要内容,如果未能解决你的问题,请参考以下文章

循环分批从数据库获取数据

如何从 pytorch 数据加载器中获取批迭代的总数?

如何使用主干分批获取数据以进行“无限滚动”?

从数据库中分批取数据进行处理

从数据库中分批取数据进行处理

git 分批后的数据