交错形状不匹配的 NumPy 数组

Posted 2023-02-16

【中文标题】交错形状不匹配的 NumPy 数组

【英文标题】：Interleaving NumPy arrays with mismatching shapes

【发布时间】：2019-10-20 21:15:39

【问题描述】：

我想沿特定轴交错具有不同维度的多个 numpy 数组。特别是，我有一个形状为(_, *dims) 的数组列表，沿第一个轴变化，我想将其交错以获得另一个形状为(_, *dims) 的数组。例如，给定输入

a1 = np.array([[11,12], [41,42]])
a2 = np.array([[21,22], [51,52], [71,72], [91,92], [101,102]])
a3 = np.array([[31,32], [61,62], [81,82]])

interweave(a1,a2,a3)

想要的输出是

np.array([[11,12], [21,22], [31,32], [41,42], [51,52], [61,62], [71,72], [81,82], [91,92], [101,102]]

在以前的帖子（例如Numpy concatenate arrays with interleaving）的帮助下，当数组沿第一个维度匹配时，我已经完成了这项工作：

import numpy as np

def interweave(*arrays, stack_axis=0, weave_axis=1):
    final_shape = list(arrays[0].shape)
    final_shape[stack_axis] = -1

    # stack up arrays along the "weave axis", then reshape back to desired shape
    return np.concatenate(arrays, axis=weave_axis).reshape(final_shape)

不幸的是，如果输入的形状在第一个维度上不匹配，上面会引发异常，因为我们必须沿着与不匹配的轴不同的轴连接。实际上，我看不到任何有效地使用连接的方法，因为沿着不匹配的轴连接会破坏我们产生所需输出所需的信息。

我的另一个想法是用空条目填充输入数组，直到它们的形状沿第一个维度匹配，然后在一天结束时删除空条目。虽然这可行，但我不确定如何最好地实施它，而且似乎一开始就没有必要。

【参考方案1】：

这是一种主要基于 NumPy 的方法，也使用 zip_longest 以填充值交错数组：

def interleave(*a):
    # zip_longest filling values with as many NaNs as
    # values in second axis
    l = *zip_longest(*a, fillvalue=[np.nan]*a[0].shape[1]),
    # build a 2d array from the list
    out = np.concatenate(l)
    # return non-NaN values
    return out[~np.isnan(out[:,0])]

---

a1 = np.array([[11,12], [41,42]])
a2 = np.array([[21,22], [51,52], [71,72], [91,92], [101,102]])
a3 = np.array([[31,32], [61,62], [81,82]])

interleave(a1,a2,a3)

array([[ 11.,  12.],
       [ 21.,  22.],
       [ 31.,  32.],
       [ 41.,  42.],
       [ 51.,  52.],
       [ 61.,  62.],
       [ 71.,  72.],
       [ 81.,  82.],
       [ 91.,  92.],
       [101., 102.]])

【参考方案2】：

您可能正在寻找np.choose。使用正确构建的索引，您可以一次调用结果：

def interweave(*arrays, axis=0):
    arrays = [np.moveaxis(a, axis, 0) for a in arrays]
    m = len(arrays)
    n = max(map(len, arrays))
    index = [k for i, k in (divmod(x, m) for x in range(m * n)) if i < len(arrays[k])]
    return np.moveaxis(np.choose(index, arrays), 0, axis)

range(m * n) 是所有数组大小相同时的输出空间大小。 divmod 计算交错的元素和从中选择它的数组。由于数组太短而丢失的元素将被跳过，因此结果仅从数组中选择有效元素。

可能有更好的方法来制作索引，但这只是一个例子。您必须将move 堆栈轴移动到第一个位置，因为choose 沿着第一个轴。

【讨论】：

在我看来，np.choose 的行为并不完全符合这里的预期。对于索引列表 [a_i]，它将选择第 (a_i) 个数组的第 i 行，但我们想要的是它从第 (a_i) 个数组中选择 下一个未选择的行 .

是的，确实没有。我试图找出一种通过步幅技巧人为地增加尺寸的方法。快到了。

【参考方案3】：

我继续概括了 yatu 对我在实践中面临的情况的回答，其中维度的数量是任意的。这是我所拥有的：

import numpy as np
from itertools import zip_longest

def interleave(*a):
    #creating padding array of NaNs
    fill_shape = a[0].shape[1:]
    fill_array = np.full(fill_shape,np.nan)

    l = *zip_longest(*a, fillvalue=fill_array),
    # build a 2d array from the list
    out = np.concatenate(l)
    # return non-NaN values
    tup = (0,)*(len(out.shape)-1)
    return out[~np.isnan(out[(...,)+tup])]

测试一下：

b1 = np.array(
        [
                [[111,112,113],[121,122,123]],
                [[411,412,413],[421,422,423]]
        ])
b2=np.array(
        [
                [[211,212,213],[221,222,223]],
                [[511,512,513],[521,522,523]],
                [[711,712,713],[721,722,712]],
                [[911,912,913],[921,922,923]],
                [[1011,1012,1013],[1021,1022,1023]]
        ])
b3=np.array(
        [
                [[311,312,313],[321,322,323]],
                [[611,612,613],[621,622,623]],
                [[811,812,813],[821,822,823]]
        ])

In [1]: interleave(b1,b2,b3)
Out [1]: [[[ 111.  112.  113.]
  [ 121.  122.  123.]]

 [[ 211.  212.  213.]
  [ 221.  222.  223.]]

 [[ 311.  312.  313.]
  [ 321.  322.  323.]]

 [[ 411.  412.  413.]
  [ 421.  422.  423.]]

 [[ 511.  512.  513.]
  [ 521.  522.  523.]]

 [[ 611.  612.  613.]
  [ 621.  622.  623.]]

 [[ 711.  712.  713.]
  [ 721.  722.  712.]]

 [[ 811.  812.  813.]
  [ 821.  822.  823.]]

 [[ 911.  912.  913.]
  [ 921.  922.  923.]]

 [[1011. 1012. 1013.]
  [1021. 1022. 1023.]]]

欢迎提出任何建议！特别是，在我的应用程序中，空间而非时间是限制因素，所以我想知道是否有一种方法可以使用更少的内存（数据集沿合并轴很大）。