使用 Tensorflow 数据集解码 RLE(运行长度编码)掩码

Posted

技术标签:

【中文标题】使用 Tensorflow 数据集解码 RLE(运行长度编码)掩码【英文标题】:Decoding RLE (run-length encoding) mask with Tensorflow Datasets 【发布时间】:2019-11-04 12:13:46 【问题描述】:

我一直在尝试使用 tensorflow 数据集,但我不知道如何有效地创建 RLE 掩码。 仅供参考,我正在使用来自 Kaggle 的空中客车船舶检测挑战赛的数据:https://www.kaggle.com/c/airbus-ship-detection/data

我知道我的 RLE 解码功能从其中一个内核中工作(借用):

def rle_decode(mask_rle, shape=(768, 768)):
'''
mask_rle: run-length as string formated (start length)
shape: (height,width) of array to return
Returns numpy array, 1 - mask, 0 - background
'''
if not isinstance(mask_rle, str):
    img = np.zeros(shape[0]*shape[1], dtype=np.uint8)
    return img.reshape(shape).T

s = mask_rle.split()
starts, lengths = [np.asarray(x, dtype=int) for x in (s[0:][::2], s[1:][::2])]
starts -= 1
ends = starts + lengths
img = np.zeros(shape[0]*shape[1], dtype=np.uint8)
for lo, hi in zip(starts, ends):
    img[lo:hi] = 1
return img.reshape(shape).T

....但它似乎与管道不兼容:

list_ds = tf.data.Dataset.list_files(train_paths_abs)
ds = list_ds.map(parse_img)

使用以下解析函数,一切正常:

def parse_img(file_path,new_size=[128,128]):    
    img_content = tf.io.read_file(file_path)
    img = tf.image.decode_jpeg(img_content)
    img = tf.image.convert_image_dtype(img, tf.float32)    
    img = tf.image.resize(img,new_size)
    return img

但如果我加上面具,事情就会变得很糟糕:

def parse_img(file_path,new_size=[128,128]):
    
    # Image
    img_content = tf.io.read_file(file_path)
    img = tf.image.decode_jpeg(img_content)
    img = tf.image.convert_image_dtype(img, tf.float32)    
    img = tf.image.resize(img,new_size)
    
    # Mask
    file_id = tf.strings.split(file_path,'/')[-1]
    objects = [rle_decode(m) for m in df2[df.ImageId==file_id]]
    mask = np.sum(objects,axis=0)
    mask = np.expand_dims(mask,3)   # Force mask to have 3 channels, necessary for resize step
    mask = tf.image.convert_image_dtype(mask, tf.int8)
    mask = tf.clip_by_value(mask,0,1)
    mask = tf.image.resize(mask,new_size)
    mask = tf.squeeze(mask)     # squeeze back
    mask = tf.image.convert_image_dtype(mask, tf.int8)
    
    return img, mask

虽然我的parse_img 函数工作正常(我已经在样本上检查过,每次运行需要 271 µs ± 67.9 µs); list_ds.map 步骤在挂起之前需要永远(> 5 分钟)。 我不知道出了什么问题,这让我发疯! 有什么想法吗?

【问题讨论】:

【参考方案1】:

你可以像这样用tensorflow重写函数rle_decode(这里我不做最后的转置以保持它更通用,但你可以稍后再做):

import tensorflow as tf

def rle_decode_tf(mask_rle, shape):
    shape = tf.convert_to_tensor(shape, tf.int64)
    size = tf.math.reduce_prod(shape)
    # Split string
    s = tf.strings.split(mask_rle)
    s = tf.strings.to_number(s, tf.int64)
    # Get starts and lengths
    starts = s[::2] - 1
    lens = s[1::2]
    # Make ones to be scattered
    total_ones = tf.reduce_sum(lens)
    ones = tf.ones([total_ones], tf.uint8)
    # Make scattering indices
    r = tf.range(total_ones)
    lens_cum = tf.math.cumsum(lens)
    s = tf.searchsorted(lens_cum, r, 'right')
    idx = r + tf.gather(starts - tf.pad(lens_cum[:-1], [(1, 0)]), s)
    # Scatter ones into flattened mask
    mask_flat = tf.scatter_nd(tf.expand_dims(idx, 1), ones, [size])
    # Reshape into mask
    return tf.reshape(mask_flat, shape)

一个小测试(TensorFlow 2.0):

mask_rle = '1 2 4 3 9 4 15 5'
shape = [4, 6]
# Original NumPy function
print(rle_decode(mask_rle, shape))
# [[1 0 0 1]
#  [1 0 0 0]
#  [0 1 1 0]
#  [1 1 1 0]
#  [1 1 1 0]
#  [1 1 1 0]]
# TensorFlow function (transposing is done out of the function)
tf.print(tf.transpose(rle_decode_tf(mask_rle, shape)))
# [[1 0 0 1]
#  [1 0 0 0]
#  [0 1 1 0]
#  [1 1 1 0]
#  [1 1 1 0]
#  [1 1 1 0]]

【讨论】:

以上是关于使用 Tensorflow 数据集解码 RLE(运行长度编码)掩码的主要内容,如果未能解决你的问题,请参考以下文章

Tensorflow学习第1课——从本地加载MNIST以及FashionMNIST数据

使用 RLE 删除每行的连续重复项并检查 R 中的序列逻辑

C中的RunLength解码[重复]

tensorflow怎么训练tfrecords 数据集

你如何在 Tensorflow 中解码 one-hot 标签?

Tensorflow:使用不同长度的多维输入数据创建 TensorFlow 数据集。 (视频数据)