x264 亮度信号8x8帧内预测模式

Posted 2020-08-09 老人慢慢飞

1 该模式的8个预测方向与4x4帧内预测模式一样。

2 该模式只有High profile及更高的Profile的才有可能使用，Baseline、Main Profile、Preset为ultrafast时不支持，命令行参数为--8x8dct与--no-8x8dct控制是否使用，x264内部参数结构x264_param_t的成员b_transform_8x8的值控制是否使用。

　　1 x264_param_default函数中将b_transform_8x8设为1,即默认为使用亮度信号8x8帧内预测模式。

　　2 Baseline profile时不使用，x264_param_apply_profile中部分代码如下:　　

    if( p == PROFILE_BASELINE )
    {
        param->analyse.b_transform_8x8 = 0;
        param->b_cabac = 0;
        param->i_cqm_preset = X264_CQM_FLAT;
        param->psz_cqm_file = NULL;
        param->i_bframe = 0;
        param->analyse.i_weighted_pred = X264_WEIGHTP_NONE;
        if( param->b_interlaced )
        {
            x264_log( NULL, X264_LOG_ERROR, "baseline profile doesn‘t support interlacing\n" );
            return -1;
        }
        if( param->b_fake_interlaced )
        {
            x264_log( NULL, X264_LOG_ERROR, "baseline profile doesn‘t support fake interlacing\n" );
            return -1;
        }
    }

 

　　3 Main profile时不使用，x264_param_apply_profile中部分代码如下:

　　

    else if( p == PROFILE_MAIN )
    {
        param->analyse.b_transform_8x8 = 0;
        param->i_cqm_preset = X264_CQM_FLAT;
        param->psz_cqm_file = NULL;
    }

 

　　4 preset为ultrafast时不使用，代码如下:    

    if( !strcasecmp( preset, "ultrafast" ) )
    {
        param->i_frame_reference = 1;
        param->i_scenecut_threshold = 0;
        param->b_deblocking_filter = 0;
        param->b_cabac = 0;
        param->i_bframe = 0;
        param->analyse.intra = 0;
        param->analyse.inter = 0;
        param->analyse.b_transform_8x8 = 0;
        param->analyse.i_me_method = X264_ME_DIA;
        param->analyse.i_subpel_refine = 0;
        param->rc.i_aq_mode = 0;
        param->analyse.b_mixed_references = 0;
        param->analyse.i_trellis = 0;
        param->i_bframe_adaptive = X264_B_ADAPT_NONE;
        param->rc.b_mb_tree = 0;
        param->analyse.i_weighted_pred = X264_WEIGHTP_NONE;
        param->analyse.b_weighted_bipred = 0;
        param->rc.i_lookahead = 0;
    }

 

3 在x264_validate_parameters函数中如果b_transform_8x8为0，从宏块分析标志变量取消8x8模式标志位，代码如下：

    if( !h->param.analyse.b_transform_8x8 )
    {
        h->param.analyse.inter &= ~X264_ANALYSE_I8x8;
        h->param.analyse.intra &= ~X264_ANALYSE_I8x8;
    }

4 在x264_mb_analyse_intra函数中，只有宏块分析标志变量的8x8模式标志置位，才会执行8x8模式相关逻辑，代码如下：

  

    /* 8x8 prediction selection */
    if( flags & X264_ANALYSE_I8x8 )
    {
        ALIGNED_ARRAY_32( pixel, edge,[36] );
        x264_pixel_cmp_t sa8d = (h->pixf.mbcmp[0] == h->pixf.satd[0]) ? h->pixf.sa8d[PIXEL_8x8] : h->pixf.mbcmp[PIXEL_8x8];
        int i_satd_thresh = a->i_mbrd ? COST_MAX : X264_MIN( i_satd_inter, a->i_satd_i16x16 );

//***************************

 

5 x264参数设置函数调用顺序

　　1 x264_param_default

　　2 x264_param_apply_preset

　　3 x264_param_apply_tune

　　4 用户通过直接操作x264_param_t设置用户参数

　　5 x264_param_apply_fastfirstpass

      6 x264_param_apply_profile

      7 x264_encoder_open中调用x264_validate_parameters，并且该函数修正部分参数。

 由于 x264_param_default是第一个调用的函数，所以由其设定b_transform_8x8的默认值为1，在其后调用x264_param_apply_profile时如果为profile为Main或Baseline时会修改为0，这样就不会使用帧内亮度8x8模式了。另外在两趟编码时的头一趟为慢速模式或preset为placebo之外的情况下都会将该变量的值置为1，在High及之后的profile时也可 以通过命令行参数--8x8dct与--no-8x8dct或内部结构参数控制是否置位该变量。

6 总结

   亮度信号8x8帧内预测模式在High profile之后的profile才有可能使用，Baseline、Main、Extend(x264新版不再支持该profile)不使用，