md_highloss.c
上传用户:hjq518
上传日期:2021-12-09
资源大小:5084k
文件大小:15k
源码类别:

Audio

开发平台:

Visual C++

  1. /*!
  2.  ***************************************************************************
  3.  * file md_highloss.c
  4.  *
  5.  * brief
  6.  *    Main macroblock mode decision functions and helpers
  7.  *
  8.  **************************************************************************
  9.  */
  10. #include <math.h>
  11. #include <limits.h>
  12. #include <float.h>
  13. #include "global.h"
  14. #include "rdopt_coding_state.h"
  15. #include "mb_access.h"
  16. #include "intrarefresh.h"
  17. #include "image.h"
  18. #include "transform8x8.h"
  19. #include "ratectl.h"
  20. #include "mode_decision.h"
  21. #include "fmo.h"
  22. #include "me_umhex.h"
  23. #include "me_umhexsmp.h"
  24. #include "macroblock.h"
  25. /*!
  26. *************************************************************************************
  27. * brief
  28. *    Mode Decision for a macroblock with error resilience
  29. *************************************************************************************
  30. */
  31. void encode_one_macroblock_highloss (Macroblock *currMB)
  32. {
  33.   int         max_index = 9;
  34.   int         rerun, block, index, mode, i, j, ctr16x16;
  35.   char        best_pdir;
  36.   RD_PARAMS   enc_mb;
  37.   double      min_rdcost = 1e30;
  38.   double      min_dcost = 1e30;
  39.   char        best_ref[2] = {0, -1};
  40.   int         bmcost[5] = {INT_MAX};
  41.   int         cost=0;
  42.   int         min_cost = INT_MAX, cost_direct=0, have_direct=0, i16mode=0;
  43.   int         intra1 = 0;
  44.   int         cost8x8_direct = 0;
  45.   int         mb_available_up;
  46.   int         mb_available_left;
  47.   int         mb_available_up_left;
  48.   int         best8x8l0ref, best8x8l1ref; 
  49.   int         is_cavlc = (img->currentSlice->symbol_mode == CAVLC);
  50.   short       islice      = (short) (img->type==I_SLICE);
  51.   short       bslice      = (short) (img->type==B_SLICE);
  52.   short       pslice      = (short) ((img->type==P_SLICE) || (img->type==SP_SLICE));
  53.   short       intra       = (short) (islice || (pslice && img->mb_y==img->mb_y_upd && img->mb_y_upd!=img->mb_y_intra));
  54.   int         lambda_mf[3];
  55.   short       runs        = (short) (params->RestrictRef==1 && (pslice  || (bslice && img->nal_reference_idc>0)) ? 2 : 1);
  56.   int         prev_mb_nr  = FmoGetPreviousMBNr(img->current_mb_nr);
  57.   Macroblock* prevMB      = (prev_mb_nr >= 0) ? &img->mb_data[prev_mb_nr]:NULL ;
  58.   imgpel  (*mb_pred)[16] = img->mb_pred[0];
  59.   Block8x8Info *b8x8info   = img->b8x8info;
  60.   short   min_chroma_pred_mode, max_chroma_pred_mode;
  61.   short   inter_skip = 0;
  62.   short   bipred_me = 0;
  63.   double  min_rate = 0;
  64.   if(params->SearchMode == UM_HEX)
  65.   {
  66.     UMHEX_decide_intrabk_SAD();
  67.   }
  68.   else if (params->SearchMode == UM_HEX_SIMPLE)
  69.   {
  70.     smpUMHEX_decide_intrabk_SAD();
  71.   }
  72.   intra |= RandomIntra (img->current_mb_nr);    // Forced Pseudo-Random Intra
  73.   //===== Setup Macroblock encoding parameters =====
  74.   init_enc_mb_params(currMB, &enc_mb, intra, bslice);
  75.   // Perform multiple encodings if rdopt with losses is enabled
  76.   for (rerun=0; rerun<runs; rerun++)
  77.   {
  78.     if (runs==2)
  79.       params->rdopt= (rerun==0) ? 1 : 3;
  80.     // reset chroma intra predictor to default
  81.     currMB->c_ipred_mode = DC_PRED_8;
  82.     //=====   S T O R E   C O D I N G   S T A T E   =====
  83.     //---------------------------------------------------
  84.     store_coding_state (currMB, cs_cm);
  85.     if (!intra)
  86.     {
  87.       //===== set direct motion vectors =====
  88.       best_mode = 1;
  89.       if (bslice)
  90.       {
  91.         Get_Direct_Motion_Vectors (currMB);
  92.       }
  93.       if (params->CtxAdptLagrangeMult == 1)
  94.       {
  95.         get_initial_mb16x16_cost(currMB);
  96.       }
  97.       //===== MOTION ESTIMATION FOR 16x16, 16x8, 8x16 BLOCKS =====
  98.       for (min_cost=INT_MAX, mode=1; mode<4; mode++)
  99.       {
  100.         bipred_me = 0;
  101.         b8x8info->bipred8x8me[mode][0] = 0;
  102.         if (enc_mb.valid[mode])
  103.         {
  104.           for (cost=0, block=0; block<(mode==1?1:2); block++)
  105.           {
  106.             update_lambda_costs(&enc_mb, lambda_mf);
  107.             PartitionMotionSearch (currMB, mode, block, lambda_mf);
  108.             //--- set 4x4 block indizes (for getting MV) ---
  109.             j = (block==1 && mode==2 ? 2 : 0);
  110.             i = (block==1 && mode==3 ? 2 : 0);
  111.             //--- get cost and reference frame for List 0 prediction ---
  112.             bmcost[LIST_0] = INT_MAX;
  113.             list_prediction_cost(currMB, LIST_0, block, mode, &enc_mb, bmcost, best_ref);
  114.             if (bslice)
  115.             {
  116.               //--- get cost and reference frame for List 1 prediction ---
  117.               bmcost[LIST_1] = INT_MAX;
  118.               list_prediction_cost(currMB, LIST_1, block, mode, &enc_mb, bmcost, best_ref);
  119.               // Compute bipredictive cost between best list 0 and best list 1 references
  120.               list_prediction_cost(currMB, BI_PRED, block, mode, &enc_mb, bmcost, best_ref);
  121.               // currently Bi prediction ME is only supported for modes 1, 2, 3
  122.               if (is_bipred_enabled(mode))
  123.               {
  124.                 list_prediction_cost(currMB, BI_PRED_L0, block, mode, &enc_mb, bmcost, 0);
  125.                 list_prediction_cost(currMB, BI_PRED_L1, block, mode, &enc_mb, bmcost, 0);
  126.               }
  127.               else
  128.               {
  129.                 bmcost[BI_PRED_L0] = INT_MAX;
  130.                 bmcost[BI_PRED_L1] = INT_MAX;
  131.               }
  132.               // Determine prediction list based on mode cost
  133.               determine_prediction_list(mode, bmcost, best_ref, &best_pdir, &cost, &bipred_me);
  134.             }
  135.             else // if (bslice)
  136.             {
  137.               best_pdir  = 0;
  138.               cost      += bmcost[LIST_0];
  139.             }
  140.             assign_enc_picture_params(mode, best_pdir, block, enc_mb.list_offset[LIST_0], best_ref[LIST_0], best_ref[LIST_1], bslice, bipred_me);
  141.             //----- set reference frame and direction parameters -----
  142.             set_block8x8_info(b8x8info, mode, block, best_ref, best_pdir, bipred_me);
  143.             
  144.             
  145.             //--- set reference frames and motion vectors ---
  146.             if (mode>1 && block==0)
  147.               SetRefAndMotionVectors (currMB, block, mode, best_pdir, best_ref[LIST_0], best_ref[LIST_1], bipred_me);
  148.           } // for (block=0; block<(mode==1?1:2); block++)
  149.           if (cost < min_cost)
  150.           {
  151.             best_mode = (short) mode;
  152.             min_cost  = cost;
  153.             if (params->CtxAdptLagrangeMult == 1)
  154.             {
  155.               adjust_mb16x16_cost(cost);
  156.             }
  157.           }
  158.         } // if (enc_mb.valid[mode])
  159.       } // for (mode=1; mode<4; mode++)
  160.     if (enc_mb.valid[P8x8])
  161.       {
  162.         giRDOpt_B8OnlyFlag = 1;
  163.         tr8x8.mb_p8x8_cost = INT_MAX;
  164.         tr4x4.mb_p8x8_cost = INT_MAX;
  165.         //===== store coding state of macroblock =====
  166.         store_coding_state (currMB, cs_mb);
  167.         currMB->all_blk_8x8 = -1;
  168.         if (params->Transform8x8Mode)
  169.         {
  170.           tr8x8.mb_p8x8_cost = 0;
  171.           //===========================================================
  172.           // Check 8x8 partition with transform size 8x8
  173.           //===========================================================
  174.           //=====  LOOP OVER 8x8 SUB-PARTITIONS  (Motion Estimation & Mode Decision) =====
  175.           for (cost_direct=cbp8x8=cbp_blk8x8=cnt_nonz_8x8=0, block=0; block<4; block++)
  176.           {
  177.             submacroblock_mode_decision(&enc_mb, &tr8x8, currMB, cofAC8x8ts[0][block], cofAC8x8ts[1][block], cofAC8x8ts[2][block],
  178.               &have_direct, bslice, block, &cost_direct, &cost, &cost8x8_direct, 1, is_cavlc);
  179.             set_subblock8x8_info(b8x8info, P8x8, block, &tr8x8);
  180.           }
  181.           // following params could be added in RD_8x8DATA structure
  182.           cbp8_8x8ts      = cbp8x8;
  183.           cbp_blk8_8x8ts  = cbp_blk8x8;
  184.           cnt_nonz8_8x8ts = cnt_nonz_8x8;
  185.           currMB->luma_transform_size_8x8_flag = 0; //switch to 4x4 transform size
  186.           //--- re-set coding state (as it was before 8x8 block coding) ---
  187.           //reset_coding_state (currMB, cs_mb);
  188.         }// if (params->Transform8x8Mode)
  189.         if (params->Transform8x8Mode != 2)
  190.         {
  191.           tr4x4.mb_p8x8_cost = 0;
  192.           //=================================================================
  193.           // Check 8x8, 8x4, 4x8 and 4x4 partitions with transform size 4x4
  194.           //=================================================================
  195.           //=====  LOOP OVER 8x8 SUB-PARTITIONS  (Motion Estimation & Mode Decision) =====
  196.           for (cost_direct=cbp8x8=cbp_blk8x8=cnt_nonz_8x8=0, block=0; block<4; block++)
  197.           {
  198.             submacroblock_mode_decision(&enc_mb, &tr4x4, currMB, cofAC8x8[block], cofAC8x8CbCr[0][block], cofAC8x8CbCr[1][block],
  199.               &have_direct, bslice, block, &cost_direct, &cost, &cost8x8_direct, 0, is_cavlc);
  200.             set_subblock8x8_info(b8x8info, P8x8, block, &tr4x4);
  201.           }
  202.           //--- re-set coding state (as it was before 8x8 block coding) ---
  203.           // reset_coding_state (currMB, cs_mb);
  204.         }// if (params->Transform8x8Mode != 2)
  205.         //--- re-set coding state (as it was before 8x8 block coding) ---
  206.         reset_coding_state (currMB, cs_mb);
  207.         // This is not enabled yet since mpr has reverse order.
  208.         if (params->RCEnable)
  209.           rc_store_diff(img->opix_x, img->opix_y, mb_pred);
  210.         //check cost for P8x8 for non-rdopt mode
  211.         giRDOpt_B8OnlyFlag = 0;
  212.       }
  213.       else // if (enc_mb.valid[P8x8])
  214.       {
  215.         tr4x4.mb_p8x8_cost = INT_MAX;
  216.       }
  217.       // Find a motion vector for the Skip mode
  218.     if(pslice)
  219.         FindSkipModeMotionVector (currMB);
  220.     }
  221.     else // if (!intra)
  222.     {
  223.       min_cost = INT_MAX;
  224.     }
  225.     //========= C H O O S E   B E S T   M A C R O B L O C K   M O D E =========
  226.     //-------------------------------------------------------------------------
  227.    {
  228.      if ((img->yuv_format != YUV400) && !IS_INDEPENDENT(params))
  229.      {
  230.        // precompute all new chroma intra prediction modes
  231.        IntraChromaPrediction(currMB, &mb_available_up, &mb_available_left, &mb_available_up_left);
  232.        if (params->FastCrIntraDecision )
  233.        {
  234.          IntraChromaRDDecision(currMB, enc_mb);
  235.          min_chroma_pred_mode = (short) currMB->c_ipred_mode;
  236.          max_chroma_pred_mode = (short) currMB->c_ipred_mode;
  237.        }
  238.        else
  239.        {
  240.          min_chroma_pred_mode = DC_PRED_8;
  241.          max_chroma_pred_mode = PLANE_8;
  242.        }
  243.      }
  244.      else
  245.      {
  246.        min_chroma_pred_mode = DC_PRED_8;
  247.        max_chroma_pred_mode = DC_PRED_8;
  248.      }
  249.      for (currMB->c_ipred_mode=min_chroma_pred_mode; currMB->c_ipred_mode<=max_chroma_pred_mode; currMB->c_ipred_mode++)
  250.      {
  251.        // bypass if c_ipred_mode is not allowed
  252.        if ( (img->yuv_format != YUV400) &&
  253.          (  ((!intra || !params->IntraDisableInterOnly) && params->ChromaIntraDisable == 1 && currMB->c_ipred_mode!=DC_PRED_8)
  254.          || (currMB->c_ipred_mode == VERT_PRED_8 && !mb_available_up)
  255.          || (currMB->c_ipred_mode == HOR_PRED_8  && !mb_available_left)
  256.          || (currMB->c_ipred_mode == PLANE_8     && (!mb_available_left || !mb_available_up || !mb_available_up_left))))
  257.          continue;
  258.        //===== GET BEST MACROBLOCK MODE =====
  259.        for (ctr16x16=0, index=0; index < max_index; index++)
  260.        {
  261.          mode = mb_mode_table[index];
  262.          if (img->yuv_format != YUV400)
  263.          {
  264.            i16mode = 0;
  265.          }
  266.          //--- for INTER16x16 check all prediction directions ---
  267.          if (mode==1 && bslice)
  268.          {
  269.            update_prediction_for_mode16x16(b8x8info, ctr16x16, &index);
  270.            ctr16x16++;
  271.          }
  272.          // Skip intra modes in inter slices if best mode is inter <P8x8 with cbp equal to 0
  273.          if (params->SkipIntraInInterSlices && !intra && mode >= I4MB && best_mode <=3 && currMB->cbp == 0)
  274.            continue;
  275.       // check if weights are in valid range for biprediction.
  276.          if (bslice && active_pps->weighted_bipred_idc == 1 && mode < P8x8)
  277.          {
  278.            int cur_blk, cur_comp;
  279.            int weight_sum;
  280.            Boolean invalid_mode = FALSE;
  281.            for (cur_blk = 0; cur_blk < 4; cur_blk ++)
  282.            {
  283.              if (b8x8info->best8x8pdir[mode][cur_blk] == 2)
  284.              {
  285.                for (cur_comp = 0; cur_comp < (active_sps->chroma_format_idc == YUV400 ? 1 : 3) ; cur_comp ++)
  286.                {
  287.                  best8x8l0ref = (int) b8x8info->best8x8l0ref[mode][cur_blk];
  288.                  best8x8l1ref = (int) b8x8info->best8x8l1ref[mode][cur_blk];
  289.                  weight_sum = wbp_weight[0][best8x8l0ref][best8x8l1ref][cur_comp] + wbp_weight[1][best8x8l0ref][best8x8l1ref][cur_comp];
  290.                  if (weight_sum < -128 ||  weight_sum > 127)
  291.                  {
  292.                    invalid_mode = TRUE;
  293.                    break;
  294.                  }
  295.                }
  296.                if (invalid_mode == TRUE)
  297.                  break;
  298.              }
  299.            }
  300.            if (invalid_mode == TRUE)
  301.              continue;
  302.          }
  303.          if (enc_mb.valid[mode])
  304.            compute_mode_RD_cost(mode, currMB, &enc_mb, &min_rdcost, &min_dcost, &min_rate, i16mode, bslice, &inter_skip, is_cavlc);
  305.        }// for (ctr16x16=0, index=0; index<max_index; index++)
  306.      }// for (currMB->c_ipred_mode=DC_PRED_8; currMB->c_ipred_mode<=max_chroma_pred_mode; currMB->c_ipred_mode++)
  307. #ifdef BEST_NZ_COEFF
  308.      for (j=0;j<4;j++)
  309.        for (i=0; i<(4+img->num_blk8x8_uv); i++)
  310.          img->nz_coeff[img->current_mb_nr][j][i] = gaaiMBAFF_NZCoeff[j][i];
  311. #endif
  312.    }
  313.    if (rerun==0)
  314.      intra1 = IS_INTRA(currMB);
  315.   } // for (rerun=0; rerun<runs; rerun++)
  316.   //=====  S E T   F I N A L   M A C R O B L O C K   P A R A M E T E R S ======
  317.   //---------------------------------------------------------------------------
  318.   update_qp_cbp_tmp(currMB, cbp, best_mode);
  319.   set_stored_macroblock_parameters (currMB);
  320.   // Rate control
  321.   if(params->RCEnable && params->RCUpdateMode <= MAX_RC_MODE)
  322.     rc_store_mad(currMB);
  323.   update_qp_cbp(currMB, best_mode);
  324.   rdopt->min_rdcost = min_rdcost;
  325.   rdopt->min_dcost = min_dcost;
  326.   if ( (img->MbaffFrameFlag)
  327.     && (img->current_mb_nr%2)
  328.     && (currMB->mb_type ? 0:((bslice) ? !currMB->cbp:1))  // bottom is skip
  329.     && (prevMB->mb_type ? 0:((bslice) ? !prevMB->cbp:1))
  330.     && !(field_flag_inference(currMB) == enc_mb.curr_mb_field)) // top is skip
  331.   {
  332.     rdopt->min_rdcost = 1e30;  // don't allow coding of a MB pair as skip if wrong inference
  333.   }
  334.   //===== Decide if this MB will restrict the reference frames =====
  335.   if (params->RestrictRef)
  336.     update_refresh_map(intra, intra1, currMB);
  337.   if(params->SearchMode == UM_HEX)
  338.   {
  339.     UMHEX_skip_intrabk_SAD(best_mode, listXsize[enc_mb.list_offset[LIST_0]]);
  340.   }
  341.   else if(params->SearchMode == UM_HEX_SIMPLE)
  342.   {
  343.     smpUMHEX_skip_intrabk_SAD(best_mode, listXsize[enc_mb.list_offset[LIST_0]]);
  344.   }
  345.   //--- constrain intra prediction ---
  346.   if(params->UseConstrainedIntraPred && (img->type==P_SLICE || img->type==B_SLICE))
  347.   {
  348.     img->intra_block[img->current_mb_nr] = IS_INTRA(currMB);
  349.   }
  350. }