初识YUV,实战NV21格式数据转换为Bitmap

Posted 乐翁龙

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了初识YUV,实战NV21格式数据转换为Bitmap相关的知识,希望对你有一定的参考价值。

一、初识YUV

说到YUV我们就必须先从RGB说起了,如下图所示,请各位把每个色块当成一个像素点,也就是说请各位把下图当成一个宽度4像素,高度2像素的图片。通常一个像素点由RGB(Alpha我们先不考虑)三个分量混合而成。

如下图中第一个像素点,其RGB值分别为(236,102,93),而这三个值混合就组成了我们看到的 红色 。

在这里插入图片描述

然而上图中除了RGB值外,我还标出了每个像素点的YUV的值,YUV的值是怎么来的呢?直接给公式 :
请不要使用其他博客中的浮点数类型的公式,会严重影响精度

y = (( 66 * r + 129 * g + 25  * b + 128) >> 8) + 16  ;
u = ((-38 * r - 74  * g + 112 * b + 128) >> 8) + 128 ;
v = ((112 * r - 94  * g - 18  * b + 128) >> 8) + 128 ;

这时大家可能就有疑问了,我们明明已经有了RGB可以表示这个像素点了,为什么还需要再使用YUV来进行表示。

说白一点就是RGB三个分量一个都不可少才能表示出一个像素点。而YUV可以通过不同的采样方式来减少一些U、V分量,从而减小所需的存储空间。而恢复为RGB的时候可以几个Y分量共用U、V分量来恢复为RGB(具体也是跟人眼对颜色的识别有关联的,请参考YUV相关理论知识)。

上图中我们YUV分量下都加了下划线,表示需要都需要采样。这样全采样的YUV其实跟RGB所需存储空间一样了,而这种采样方式就是 YUV 4:4:4

二、采样方式

由于采样都是 4 : x : x,所以我们以每行四个像素为例,请记住每个色块代表一个像素!!!

采样的意思就是我们需要采集到的这些YUV分量的值,然后接下来我们需要存储下来这个值。所以根据采样、存储方式的不同,YUV才有那么多的格式。

2.1、YUV 4:4:4

这种方式也就是上文所说的,YUV分量全部进行采样,请看第一张图片即可;

2.2、YUV 4:2:2

在所有像素上,Y分量全部采样。
在同行的像素上, UV 分量分别 交替 进行采样;
其他行同理;

采样方式如下图U、V的下划线所示:

在这里插入图片描述

2.2、YUV 4:2:0【重点】

在所有像素上,Y分量全部采样。
在第0行(偶数行), U 分量 间隔 进行采样,而不采样V分量。
在第1行(奇数行), V 分量 间隔 进行采样,而不采样U分量。
以此类推。

采样方式如下图U、V的下划线所示:

在这里插入图片描述
以上采样的概念我们已经理清了,在采样时,我们可以临时使用 三个byte[]数组分别存储 采集到的Y、U、V的值。

以上面的8个像素为例,那么我们采集到的数组长度则分别为:

  • YUV 4:4:4
    8 + 8 + 8 长度为24
  • YUV 4:2:2
    8 + 4 + 4 长度为16,是第一种的 三分之二
  • YUV 4:2:0
    8 + 2 + 2 长度为12,是第一种的 二分之一

所以使用420的采样方式,所需的存储空间会大大减小。

三、存储方式

上面的YUV分量分别使用了一个数组来进行存储,但是这里的存储我们要说的是将上述三个数组合并为一个数组

三个数组合并为一个数组,这就有的说了,排列组合嘛,但是呢,也没那么随意,一起来学习下,我们把上面使用 YUV420 方式采样好的y、u、v分量数组分别命名为 arrayY,arrayU,arrayV 。因为我们示例的图片是宽度4像素,高度2像素,一个像素一个Y值,所以Y的最大采样数就是8个值,arrayY数组的长度就是8,其他数组长度就是它的 1/4。

byte[] arrayY = new byte[8];
byte[] arrayU = new byte[8/4];
byte[] arrayV = new byte[8/4];

那么采样完毕后,数组中的数据分别为:

Y数组: [-119, -126, -113, -69, -69, -113, -126, -119]
U数组: [104, -76]
V数组: [-93, 69]

嗯???

不对劲,为什么上面图中展示的都是正值,而这里的数组中却是负值呢?首先请注意下,我们开始的时候使用int类型来存储所有的rgb,yuv的值的,因为我们从Color中获取到RGB的值是int类型的,或者下文示例的时候我们从bitmap中获取到的像素点数据中的RGB值也是int类型的,所以上文就是用int值来示例了,也符合我们的认知习惯。

而前辈们在存储的时候采用的是byte数组,为什么呢,因为RGB的取值范围也就是0 - 255,而一个byte就可以存储从 [-128,127] 的值,也就是可以存储256个值,所以这其中的利害关系大家能体会的到吧。

看第一个像素Y的int值是137,存储中的byte值是 -119 ,你尝试用 256-119 计算下,结果是多少呢?(所以在做恢复为RGB值的时候也是要先处理为正值的,只不过恢复为RGB的过程目前我们先不用处理)

OK,上面是一个小插曲,接下来进入正题了,我们先将数组的值都抹去,这样示例更清晰些,如下示例:

Y数组: [Y, Y, Y, Y, Y, Y, Y, Y]
U数组: [U, U]
V数组: [V, V]

一般YUV的打包模式也就分为如下两种:

3.1、planar(平面方式)

这种方式就是将数组arrayY、arrayU、arrayV中的数据 按顺序 组合起来。那么这种顺序可以是 先存Y,再存U,最后存V。也可以是先存Y,再存V,再存U。我们这里把前者称为 YU的存储方式,把后者称为 YV的存储方式,所以:


  • 420采样方式 + YU存储方式 = YU12(又叫 I420
Y数组: [Y, Y, Y, Y, Y, Y, Y, Y]
U数组: [U, U]
V数组: [V, V]

//为了更清晰的展示数据格式,做了改动
新数组:[YYYYYYYY   UU   VV]
  • 420采样方式 + YV存储方式 = YV12
Y数组: [Y, Y, Y, Y, Y, Y, Y, Y]
U数组: [U, U]
V数组: [V, V]

//为了更清晰的展示数据格式,做了改动
新数组:[YYYYYYYY   VV   UU]

这两种存储格式呢,又统称为 YUV420P 格式。


上面两种是清晰易懂的平面方式,接下来的这种有点特殊,Y分量同样是先全部存储进去,然后需要将U、V分量先按照 UV 或者 VU 这样的方式先组合起来,然后再拼接到Y分量之后,如下数组示例:

Y数组: [Y, Y, Y, Y, Y, Y, Y, Y]
U数组: [U, U]
V数组: [V, V]

//先将UV混合,为了让大家理解这还是 平面模式,之前是Y、U、V做平面,现在是Y、UV来做平面
Y数组: [Y, Y, Y, Y, Y, Y, Y, Y]
UV数组: [U, V, U, V]

//为了更清晰的展示数据格式,做了改动
新数组:[YYYYYYYY   UVUV]

这下大家应该明了了,所以呢,除了这种 UV交替存储的,还有VU交替存储的,那么我们就把前者称为UV存储,把后者称为VU存储,那么总结来了:

  • 420采样方式 + UV存储方式 = NV12
  • 420采样方式 + VU存储方式 = NV21

上面这两种特殊的平面方式呢,又叫 Semi-Splanar ,所以以上两种格式又称为 YUV420SP 格式。


好了,到这里其实我们已经搞定了 420采样方式 的 4种 YUV的格式了,有YU12,YV12,NV12,NV21。我们还可以发现一个小小的规律,Y开头的表示正常平面存储方式,N开头的表示特殊平面存储方式。12或者21则表示前面两个分量的排列顺序。

比如YU12:平面存储方式,Y第一个存,U第二个存,那么当然的V就是第三个存了。
那么NV12怎么理解呢?特殊平面存储方式,其中UV是交错存储的,所以NV12理解为UV12,这就通了。同理NV21理解为UV21。至于怎么方便理解和记忆大家自行斟酌。

3.2、packed(打包方式)

一般我们使用422采样方式的时候会采用这种存储方式,这种方式就不像上面那种那么直白了,先用数组表示吧,注意是422采样模式,所以U、V数组长度也变化了,如下:

Y数组: [Y, Y, Y, Y, Y, Y, Y, Y]
U数组: [U, U, U, U]
V数组: [V, V, V, V]

//为了更清晰的展示数据格式,做了改动
新数组:[YUYV    YUYV    YUYV    YUYV]

如上所示,因为YUV的比例是2:1:1 ,所以取两个Y元素就需要分别取一个U和V元素,后面同理。所以根据上面这种格式:

  • 422采样方式 + YUYV打包存储方式 = YUYV
  • 422采样方式 + UYVY打包存储方式 = UYVY

422采样的主流存储方式就是以上几种了,当然,还有各种衍生版本,这里也不多做介绍了。


然而422采样也可以使用平面存储的方式,如下:

Y数组: [Y, Y, Y, Y, Y, Y, Y, Y]
U数组: [U, U, U, U]
V数组: [V, V, V, V]

//为了更清晰的展示数据格式,做了改动
新数组:[YYYYYYYY   UUUU    VVVV]
  • 422采样方式 + 平面存储方式 = YUV422P(属于YUV422)

至此主流的存储方式我们已经了解完毕了,各种衍生的类似存储方式大家则需学习好了,接下来进行实战吧!

四、NV21数据转Bitmap

为什么使用NV21数据来做示例呢,因为我们android有现成的类可以直接处理nv21的数据。

先说下整体流程吧,准备一张800*400像素的图片,如下,然后我将其放到了drawable-xxhdpi目录下,因为这个目录下我的设备读取出来后是1:1的,不用做过多的转换,大家在这里一定要处理好了(宽、高需要为偶数哦)。

在这里插入图片描述
然后按照如下步骤:

  • 1、BitmapFactory读取到这张图片;
  • 2、bitmap.getPixels()获取图片所有像素点数据,可以得到rgb数据的数组;
  • 3、根据rgb数组采样分别获取y,u,v数组;
  • 4、将分别得到的y、u、v数组存储为nv21格式的数组;
  • 5、nv21数据转换为Bitmap;
    这里可以分两种方式:使用 YuvImage 或者 ScriptIntrinsicYuvToRGB

按照如上步骤,我们先读取drawable目录下的图片并获取像素点,代码如下:

//1、获取bitmap图片
Bitmap bitmap = BitmapFactory.decodeResource(getResources(), R.mipmap.demo800_400);

int width = bitmap.getWidth();
int height = bitmap.getHeight();

//2、获取像素点数据
int length = width * height;
int[] pixels = new int[length];
bitmap.getPixels(pixels, 0, width, 0, 0, width, height);

然后我们需要根据420的采样方式,分别获取到y,u,v的数组:

//3、采样分别获取y、u、v
byte[] arrayY = new byte[length];
byte[] arrayU = new byte[length / 4];
byte[] arrayV = new byte[length / 4];

int indexU = 0;
int indexV = 0;
for (int i = 0; i < length; i++) {
    int pixel = pixels[i];
    int r = (pixel >> 16) & 0xff;
    int g = (pixel >> 8) & 0xff;
    int b = pixel & 0xff;

    arrayY[i] = (byte) (((66 * r + 129 * g + 25 * b + 128) >> 8) + 16);

    int row = i / width;         //第n行,从0开始
    int column = i % width;      //第n列,从0开始

    //偶数行取U,基数行取V
    if (row % 2 == 0) {
        //偶数行取U
        if (column % 2 == 0) {
            arrayU[indexU] = (byte) (((-38 * r - 74 * g + 112 * b + 128) >> 8) + 128);
            indexU++;
        }
    } else {
        if (column % 2 == 0) {
            arrayV[indexV] = (byte) (((112 * r - 94 * g - 18 * b + 128) >> 8) + 128);
            indexV++;
        }
    }
}

接下来是重头戏了,重新存储为NV21格式的数组,千万别存储错了哦:

//4、交叉存储VU数据
int lengthY = arrayY.length;
int lengthU = arrayU.length;
int lengthV = arrayV.length;

int newLength = lengthY + lengthU + lengthV;
byte[] arrayNV21 = new byte[newLength];

//先将所有的Y数据存储进去
System.arraycopy(arrayY, 0, arrayNV21, 0, lengthY);

//然后交替存储VU数据(注意U,V数据的长度应该是相等的,记住顺序是VU VU)
for (int i = 0; i < lengthV; i++) {
    int index = lengthY + i * 2;
    arrayNV21[index] = arrayV[i];
}

for (int i = 0; i < lengthU; i++) {
    int index = lengthY + i * 2 + 1;
    arrayNV21[index] = arrayU[i];
}

NV21格式的数据封装好后我们可以先使用YuvImage+BitmapFactory来得到Bitmap图片,然后直接显示在ImageView中查看效果,如下:

YuvImage image = new YuvImage(arrayNV21, ImageFormat.NV21, width, height, null);
ByteArrayOutputStream stream = new ByteArrayOutputStream();
image.compressToJpeg(new Rect(0, 0, width, height), 80, stream);
Bitmap newBitmap = BitmapFactory.decodeByteArray(stream.toByteArray(), 0, stream.size());
stream.close();

ImageView imageView = findViewById(R.id.img);
imageView.setImageBitmap(newBitmap);

OK,不出意外的话,你应该可以看到上面的示例图片了。然而使用上述代码的话,你肉眼能观察的到:图片亮度会降低,而且画质也不清楚。

还有一种转换方法,如下:

RenderScript rs = RenderScript.create(this);
ScriptIntrinsicYuvToRGB yuvToRgbIntrinsic = ScriptIntrinsicYuvToRGB.create(rs, Element.U8_4(rs));
Type.Builder yuvType = (new Type.Builder(rs, Element.U8(rs))).setX(newLength);
Allocation in = Allocation.createTyped(rs, yuvType.create(), 1);
Type.Builder rgbaType = (new Type.Builder(rs, Element.RGBA_8888(rs))).setX(width).setY(height);
Allocation out = Allocation.createTyped(rs, rgbaType.create(), 1);
in.copyFrom(arrayNV21);
yuvToRgbIntrinsic.setInput(in);
yuvToRgbIntrinsic.forEach(out);
Bitmap newBitmap = Bitmap.createBitmap(width, height, Bitmap.Config.ARGB_8888);
out.copyTo(newBitmap);

ImageView imageView = findViewById(R.id.img);
imageView.setImageBitmap(newBitmap);

使用该方法的话显示出来的图像和源图像就没有肉眼上的区别了,而且效率也更高,推荐使用!!!

如果你显示出来异常图像的话,建议查看YVU的数据是否存储错误了:

  • VU数据存储相反的话,使用该示例图片,你会看到蓝色调调的图片。
  • 没有存储U数据的话,使用该示例图片,你会看到黄色调调的图片。
  • 没有存储V数据的话,使用该示例图片,你会看到绿色调调的图片。
  • U、V数据都没有存储的话,使用该示例图片,你会看到更绿色的图片。

好了,真的没有那么多如果,赶快检查代码去吧。

五、总结

至此我们学习到了YUV在420采样格式下的存储及使用,使用NV21讲解主要是因为Android上采集的数据一般是NV21格式的,而且Android也有现成的工具来处理相应的数据,方便演示。

至于其他采样、存储方式,以及存储格式之间的转换,我们都可以触类旁通了,实在记不住可以临时面向网络编程嘛。

以上代码只是作为最基础、最直观的示例展示,性能实在不敢恭维,所以继续学习的话我们可以参考Google libyuv 的仓库,C++代码,从native层加速。

其实从去年就开始打算学习这一块儿了,然而由于种种原因偷懒,也因为网上看到的很多讲解YUV的文章都千篇一律,都从理论上讲了怎么采样,怎么交替存储,可是实在没有找到一篇能清楚的表示在代码中,存储在数组中是什么样子的。也是我理解能力太差了,所以还没入门就放弃了。这次继续拾起来是因为集成声网最新工程版SDK时遇到了问题,以前SDK每帧给出来的数据都是NV21格式的,所以我们使用项目中封装的工具就可以直接处理了。然而这次给出来的是y、u、v分量的三个数组数据,所以这就要求我们自己组装成NV21格式的数据了。然后硬着头皮认真钻研了下YUV相关的基础知识,总算是迈出了一只脚了吧。

参考

感谢这些作者,我从中借鉴并学习到了很多。

  • https://blog.csdn.net/leixiaohua1020/article/details/50534150
  • https://www.cnblogs.com/azraelly/archive/2013/01/01/2841269.html
  • https://blog.csdn.net/iva_brother/article/details/84036877
  • https://www.cnblogs.com/sddai/p/10302979.html
    该作者的示例图让我真正明白了采样是如何进行的
  • https://www.cnblogs.com/zebra-bin/p/12882117.html
  • https://blog.csdn.net/qq1137830424/article/details/81980673
  • https://blog.csdn.net/bluegodisplay/article/details/53431798
    nv21数据转bitmap更高效的方式
  • https://blog.csdn.net/zhying719/article/details/96421405
    该作者的文章纠正了我对存储模式的错误理解

以上是关于初识YUV,实战NV21格式数据转换为Bitmap的主要内容,如果未能解决你的问题,请参考以下文章

YUV NV21 转换为 RGB 的困惑

将 Android camera2 api YUV_420_888 转换为 RGB

C语言实现RGB packet格式转YUV(NV21)格式

C++ YUV420文件读取与显示,绘制矩形框,绘制线段(绘制直线),绘制多边形(常用YUV数据格式——YUV420P中的YU12与YUV420SP中的NV21)

C++ YUV420文件读取与显示,绘制矩形框,绘制线段(绘制直线),绘制多边形(常用YUV数据格式——YUV420P中的YU12与YUV420SP中的NV21)

Android ,base64转bitmap