Laravel中chunk组块结果集处理

Posted 佚小名

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Laravel中chunk组块结果集处理相关的知识,希望对你有一定的参考价值。

如果你需要处理成千上万个 Eloquent 结果,可以使用 chunk 命令。chunk 方法会获取一个“组块”的 Eloquent 模型,并将其填充到给定闭包进行处理。使用 chunk 方法能够在处理大量数据集合时能够有效减少内存消耗:

Flight::chunk(200, function ($flights) {
    foreach ($flights as $flight) {
        //
    }
});
        $all_ark=Arkvolume::chunk(50000, function ($flights) {
            foreach ($flights as $flight) {
               $GLOBALS[‘something‘][] = $flight[‘id‘];
            }
        });

        var_dump($GLOBALS[‘something‘] );exit;

  这段代码是执行一个100条的数据进行更新,当执行完成后继续后面的另一百条数据……
也就是说他每次操作的是一个数据块而不是整个数据库。

需要注意的是:当使用带筛选的条件的chunk时,如果是自更新,那么你会漏掉一些数据,接着看代码:

User::where(‘approved‘, 0)->chunk(100, function ($users) {
  foreach ($users as $user) {
    $user->update([‘approved‘ => 1]);
  }
});

  

如果要运行上面的代码,并不会有报错,但是where条件是筛选approved0user然后将approved的值跟新为1
在这个过程中,档第一数据库的数据被修改后,下一个数据块的数据将是在被修改后的数据中选出来的,这个时候数据变了,而page也加了1。所以执行结束后,只对数据中一半的数据进行了更新操作。

如果没有明白的话,我们来看一下chunk的底层实现。还以上面的代码为例,假如一共有400条数据,数据被按照100条进行分块处理。
page = 1: 最开始的时候page为1,选取1-100条数据进行处理;
page = 2: 这时候前一百数据的approved值全部为1,那么在次筛选的时候数据将从第101条开始,而这个时候的page=2,那么处理的数据将是第200-300之前的数据
之后依旧。

public function chunk($count, callable $callback)
{
    $results = $this->forPage($page = 1, $count)->get();

    while (count($results) > 0) {
        // On each chunk result set, we will pass them to the callback and then let the
        // developer take care of everything within the callback, which allows us to
        // keep the memory low for spinning through large result sets for working.
        if (call_user_func($callback, $results) === false) {
            return false;
        }

        $page++;

        $results = $this->forPage($page, $count)->get();
    }

    return true;
}

  










以上是关于Laravel中chunk组块结果集处理的主要内容,如果未能解决你的问题,请参考以下文章

Laravel Get() Cursor() Chunk() Offset()

构造器

PapaParse Chunk 加载所有数据

从 Laravel 4 中的 MSSQL 存储过程读取多个结果集

FCC JS基础算法题:Chunky Monkey(分割数组)

在 Laravel 5.3 中从 SQL Server 获取多个结果集