monopred.c
上传用户:sun1608
上传日期:2007-02-02
资源大小:6116k
文件大小:14k
源码类别:

流媒体/Mpeg4/MP4

开发平台:

Visual C++

  1. /************************* MPEG-2 NBC Audio Decoder **************************
  2.  *                                                                           *
  3. "This software module was originally developed by
  4. Bernd Edler and Hendrik Fuchs, University of Hannover in the course of
  5. development of the MPEG-2 NBC/MPEG-4 Audio standard ISO/IEC 13818-7,
  6. 14496-1,2 and 3. This software module is an implementation of a part of one or more
  7. MPEG-2 NBC/MPEG-4 Audio tools as specified by the MPEG-2 NBC/MPEG-4
  8. Audio standard. ISO/IEC  gives users of the MPEG-2 NBC/MPEG-4 Audio
  9. standards free license to this software module or modifications thereof for use in
  10. hardware or software products claiming conformance to the MPEG-2 NBC/MPEG-4
  11. Audio  standards. Those intending to use this software module in hardware or
  12. software products are advised that this use may infringe existing patents.
  13. The original developer of this software module and his/her company, the subsequent
  14. editors and their companies, and ISO/IEC have no liability for use of this software
  15. module or modifications thereof in an implementation. Copyright is not released for
  16. non MPEG-2 NBC/MPEG-4 Audio conforming products.The original developer
  17. retains full right to use the code for his/her  own purpose, assign or donate the
  18. code to a third party and to inhibit third party from using the code for non
  19. MPEG-2 NBC/MPEG-4 Audio conforming products. This copyright notice must
  20. be included in all copies or derivative works."
  21. Copyright(c)1996.
  22.  *                                                                           *
  23.  ****************************************************************************/
  24. /*
  25.  * $Id: monopred.c,v 1.5 2002/01/09 22:25:41 wmay Exp $
  26.  */
  27. /***********************************************************************************
  28.  * MONOPRED                                    *
  29.  *                                         *
  30.  *  Contains the core functions for an intra channel (or mono) predictor       *
  31.  *  using a backward adaptive lattice predictor.                   *
  32.  *                                         *
  33.  *  init_pred_stat():   initialisation of all predictor parameters     *
  34.  *  monopred():     calculation of a predicted value from          *
  35.  *              preceeding (quantised) samples             *
  36.  *  predict():      carry out prediction for all spectral lines    *
  37.  *  predict_reset():    carry out cyclic predictor reset mechanism     *
  38.  *              (long blocks) resp. full reset (short blocks)      *
  39.  *                                         *
  40.  *  Internal Functions:                            *
  41.  *    reset_pred_state():   reset the predictor state variables        *
  42.  *                                         *
  43.  **********************************************************************************/
  44. #include "all.h"
  45. #include "util.h"
  46. #define GRAD PRED_ORDER
  47. #define ALPHA PRED_ALPHA
  48. #define A PRED_A
  49. #define B PRED_B
  50. /* this works for all float values,
  51.  * but does not conform to IEEE conventions of
  52.  * round to nearest, even
  53.  */
  54. /* Schuyler's bug fix */
  55. static void flt_round(float *pf)
  56. {
  57.     int flg;
  58.     u_int32_t tmp;
  59.     float *pt = (float *)&tmp;
  60.     *pt = *pf;
  61.     flg = tmp & (u_int32_t)0x00008000;
  62.     tmp &= (u_int32_t)0xffff0000;
  63.     *pf = *pt;
  64.     /* round 1/2 lsb toward infinity */
  65.     if (flg) {
  66.         tmp &= (u_int32_t)0xff800000;       /* extract exponent and sign */
  67.         tmp |= (u_int32_t)0x00010000;       /* insert 1 lsb */
  68.         *pf += *pt;                     /* add 1 lsb and elided one */
  69.         tmp &= (u_int32_t)0xff800000;       /* extract exponent and sign */
  70.         *pf -= *pt;                     /* subtract elided one */
  71.     }
  72. }
  73. /* This only works for 1.0 < float < 2.0 - 2^-24 !
  74.  *
  75.  * Comparison of the performance of the two rounding routines:
  76.  *      old (above) new (below)
  77.  * Max error    0.00385171  0.00179992
  78.  * RMS error    0.00194603  0.00109221
  79.  */
  80. /* New bug fixed version */
  81. static void inv_table_flt_round(float *ftmp)
  82. {
  83.     int exp;
  84.     double mnt;
  85.     float descale;
  86.     mnt = frexp((double)*ftmp, &exp);
  87.     descale = (float)ldexp(1.0, exp + 15);
  88.     *ftmp += descale;
  89.     *ftmp -= descale;
  90. }
  91. static void make_inv_tables(faacDecHandle hDecoder)
  92. {
  93.     int i;
  94.     u_int32_t tmp1, tmp;
  95.     float *pf = (float *)&tmp;
  96.     float ftmp;
  97.     *pf = 1.0;
  98.     tmp1 = tmp;             /* float 1.0 */
  99.     for (i=0; i<128; i++) {
  100.         tmp = tmp1 + (i<<16);       /* float 1.m, 7 msb only */
  101.         ftmp = B / *pf;
  102.         inv_table_flt_round(&ftmp); /* round to 16 bits */
  103.         hDecoder->mnt_table[i] = ftmp;
  104.         /* printf("%3d %08x %fn", i, tmp, ftmp); */
  105.     }
  106.     for (i=0; i<256; i++) {
  107.         tmp = (i<<23);          /* float 1.0 * 2^exp */
  108.         if (*pf > MINVAR) {
  109.             ftmp = 1.0f / *pf;
  110.         } else {
  111.             ftmp = 0;
  112.         }
  113.         hDecoder->exp_table[i] = ftmp;
  114.         /* printf("%3d %08x %gn", i, tmp, ftmp); */
  115.     }
  116. }
  117. /* Bug-fixed version (big-little endian problem) */
  118. static void inv_quant_pred_state(TMP_PRED_STATUS *tmp_psp, PRED_STATUS *psp)
  119. {
  120.     int i;
  121.     short *p2;
  122.     u_int32_t *p1_tmp;
  123.     p1_tmp = (u_int32_t *)tmp_psp;
  124.     p2 = (short *) psp;
  125.     for (i=0; i<MAX_PRED_BINS*6; i++)
  126.         p1_tmp[i] = ((u_int32_t)p2[i])<<16;
  127. }
  128. #define FAST_QUANT
  129. /* Bug-fixed version (big-little endian problem) */
  130. static void quant_pred_state(PRED_STATUS *psp, TMP_PRED_STATUS *tmp_psp)
  131. {
  132.     int i;
  133.     short *p1;
  134.     u_int32_t *p2_tmp;
  135. #ifdef  FAST_QUANT
  136.     p1 = (short *) psp;
  137.     p2_tmp = (u_int32_t *)tmp_psp;
  138.     for (i=0; i<MAX_PRED_BINS*6;i++)
  139.       p1[i] = (short) (p2_tmp[i]>>16);
  140. #else
  141.     int j;
  142.     for (i=0; i<MAX_PRED_BINS; i++) {
  143.     p1 = (short *) &psp[i];
  144.       p2_tmp = (u_int32_t *)tmp_psp;
  145.   for (j=0; j<6; j++)
  146.         p1[j] = (short) (p2_tmp[i]>>16);
  147.     }
  148. #endif
  149. }
  150. /********************************************************************************
  151.  *** FUNCTION: reset_pred_state()                       *
  152.  ***                                        *
  153.  ***    reset predictor state variables                     *
  154.  ***                                        *
  155.  ********************************************************************************/
  156. void reset_pred_state(PRED_STATUS *psp)
  157. {
  158.     psp->r[0] = Q_ZERO;
  159.     psp->r[1] = Q_ZERO;
  160.     psp->kor[0] = Q_ZERO;
  161.     psp->kor[1] = Q_ZERO;
  162.     psp->var[0] = Q_ONE;
  163.     psp->var[1] = Q_ONE;
  164. }
  165. /********************************************************************************
  166.  *** FUNCTION: init_pred_stat()                         *
  167.  ***                                        *
  168.  ***    initialisation of all predictor parameter               *
  169.  ***                                        *
  170.  ********************************************************************************/
  171. void init_pred_stat(faacDecHandle hDecoder, PRED_STATUS *psp, int first_time)
  172. {
  173.     /* Initialisation */
  174.     if (first_time) {
  175.         make_inv_tables(hDecoder);
  176.     }
  177.     reset_pred_state(psp);
  178. }
  179. void init_pred(faacDecHandle hDecoder, PRED_STATUS **sp_status, int channels)
  180. {
  181.     int i, ch;
  182.     for (ch = 0; ch < channels; ch++) {
  183.         for (i = 0; i < LN2; i++) {
  184.             init_pred_stat(hDecoder, &sp_status[ch][i], ((ch==0)&&(i==0)));
  185.         }
  186.     }
  187. }
  188. /********************************************************************************
  189.  *** FUNCTION: monopred()                           *
  190.  ***                                        *
  191.  ***    calculation of a predicted value from preceeding (quantised) samples    *
  192.  ***    using a second order backward adaptive lattice predictor with full  *
  193.  ***    LMS adaption algorithm for calculation of predictor coefficients    *
  194.  ***                                        *
  195.  ***    parameters: pc: pointer to this quantised sample        *
  196.  ***            psp:    pointer to structure with predictor status  *
  197.  ***            pred_flag:  1 if prediction is used         *
  198.  ***                                        *
  199.  ********************************************************************************/
  200. static void monopred(faacDecHandle hDecoder, Float *pc, PRED_STATUS *psp, TMP_PRED_STATUS *pst, int pred_flag)
  201. {
  202.     float qc = *pc;     /* quantized coef */
  203.     float pv;           /* predicted value */
  204.     float dr1;          /* difference in the R-branch */
  205.     float e0,e1;        /* "partial" prediction errors (E-branch) */
  206.     float r0,r1;        /* content of delay elements */
  207.     float k1,k2;        /* predictor coefficients */
  208.     float *R = pst->r;      /* content of delay elements */
  209.     float *KOR = pst->kor;  /* estimates of correlations */
  210.     float *VAR = pst->var;  /* estimates of variances */
  211.     u_int32_t tmp;
  212.     int i, j;
  213.     r0=R[0];
  214.     r1=R[1];
  215.     /* Calculation of predictor coefficients to be used for the
  216.      * calculation of the current predicted value based on previous
  217.      * block's state
  218.      */
  219.     /* the test, division and rounding is be pre-computed in the tables
  220.      * equivalent calculation is:
  221.      * k1 = (VAR[1-1]>MINVAR) ? KOR[1-1]/VAR[1-1]*B : 0.0F;
  222.      * k2 = (VAR[2-1]>MINVAR) ? KOR[2-1]/VAR[2-1]*B : 0.0F;
  223.      */
  224.     tmp = psp->var[1-1];
  225.     j = (tmp >> 7);
  226.     i = tmp & 0x7f;
  227.     k1 = KOR[1-1] * hDecoder->exp_table[j] * hDecoder->mnt_table[i];
  228.     tmp = psp->var[2-1];
  229.     j = (tmp >> 7);
  230.     i = tmp & 0x7f;
  231.     k2 = KOR[2-1] * hDecoder->exp_table[j] * hDecoder->mnt_table[i];
  232.     /* Predicted value */
  233.     pv  = k1*r0 + k2*r1;
  234.     flt_round(&pv);
  235.     if (pred_flag)
  236.         *pc = qc + pv;
  237. /* printf("P1: %8.2f %8.2fn", pv, *pc); */
  238.     /* Calculate state for use in next block */
  239.     /* E-Branch:
  240.      *  Calculate the partial prediction errors using the old predictor coefficients
  241.      *  and the old r-values in order to reconstruct the predictor status of the
  242.      *  previous step
  243.      */
  244.     e0 = *pc;
  245.     e1 = e0-k1*r0;
  246.     /* Difference in the R-Branch:
  247.      *  Calculate the difference in the R-Branch using the old predictor coefficients and
  248.      *  the old partial prediction errors as calculated above in order to reconstruct the
  249.      *  predictor status of the previous step
  250.      */
  251.     dr1 = k1*e0;
  252.     /* Adaption of variances and correlations for predictor coefficients:
  253.      *  These calculations are based on the predictor status of the previous step and give
  254.      *  the new estimates of variances and correlations used for the calculations of the
  255.      *  new predictor coefficients to be used for calculating the current predicted value
  256.      */
  257.     VAR[1-1] = ALPHA*VAR[1-1]+(0.5F)*(r0*r0 + e0*e0);   /* float const */
  258.     KOR[1-1] = ALPHA*KOR[1-1] + r0*e0;
  259.     VAR[2-1] = ALPHA*VAR[2-1]+(0.5F)*(r1*r1 + e1*e1);   /* float const */
  260.     KOR[2-1] = ALPHA*KOR[2-1] + r1*e1;
  261.     /* Summation and delay in the R-Branch => new R-values */
  262.     r1 = A*(r0-dr1);
  263.     r0 = A*e0;
  264.     R[0]=r0;
  265.     R[1]=r1;
  266. }
  267. /********************************************************************************
  268.  *** FUNCTION: predict()                            *
  269.  ***                                        *
  270.  ***    carry out prediction for all allowed spectral lines         *
  271.  ***                                        *
  272.  ********************************************************************************/
  273. int predict(faacDecHandle hDecoder, Info* info, int profile, int *lpflag, PRED_STATUS *psp, Float *coef)
  274. {
  275.     int j, k, b, to, flag0;
  276.     int *top;
  277.     if (hDecoder->mc_info.object_type != AACMAIN) {
  278.         if (*lpflag == 0) {
  279.             /* prediction calculations not required */
  280.             return 0;
  281.         }
  282.         else {
  283.             return -1;
  284.         }
  285.     }
  286.     if (info->islong) {
  287.         TMP_PRED_STATUS tmp_ps[MAX_PRED_BINS];
  288.         inv_quant_pred_state(tmp_ps, psp);
  289.         b = 0;
  290.         k = 0;
  291.         top = info->sbk_sfb_top[b];
  292.         flag0 = *lpflag++;
  293.         for (j = 0; j < pred_max_bands(hDecoder); j++) {
  294.             to = *top++;
  295.             if (flag0 && *lpflag++) {
  296.                 for ( ; k < to; k++) {
  297.                     monopred(hDecoder, &coef[k], &psp[k], &tmp_ps[k], 1);
  298.                 }
  299.             } else {
  300.                 for ( ; k < to; k++) {
  301.                     monopred(hDecoder, &coef[k], &psp[k], &tmp_ps[k], 0);
  302.                 }
  303.             }
  304.         }
  305.         quant_pred_state(psp, tmp_ps);
  306.     }
  307.     return 0;
  308. }
  309. /********************************************************************************
  310.  *** FUNCTION: predict_reset()                          *
  311.  ***                                        *
  312.  ***    carry out cyclic predictor reset mechanism (long blocks)        *
  313.  ***    resp. full reset (short blocks)                     *
  314.  ***                                        *
  315.  ********************************************************************************/
  316. int predict_reset(faacDecHandle hDecoder, Info* info, int *prstflag, PRED_STATUS **psp,
  317.                    int firstCh, int lastCh, int *last_rstgrp_num)
  318. {
  319.     int j, prstflag0, prstgrp, ch;
  320.     prstgrp = 0;
  321.     if (info->islong) {
  322.         prstflag0 = *prstflag++;
  323.         if (prstflag0) {
  324.             /* for loop modified because of bit-reversed group number */
  325.             for (j=0; j<LEN_PRED_RSTGRP-1; j++) {
  326.                 prstgrp |= prstflag[j];
  327.                 prstgrp <<= 1;
  328.             }
  329.             prstgrp |= prstflag[LEN_PRED_RSTGRP-1];
  330.             if ( (prstgrp<1) || (prstgrp>30) ) {
  331.                 return -1;
  332.             }
  333.             for (ch=firstCh; ch<=lastCh; ch++) {
  334.                 /* check if two consecutive reset group numbers are incremented by one
  335.                    (this is a poor check, but we don't have much alternatives) */
  336.                 if ((hDecoder->warn_flag) && (last_rstgrp_num[ch] < 30) && (last_rstgrp_num[ch] != 0)) {
  337.                     if ((last_rstgrp_num[ch] + 1) != prstgrp) {
  338.                         hDecoder->warn_flag = 0;
  339.                     }
  340.                 }
  341.                 last_rstgrp_num[ch] = prstgrp;
  342.                 for (j=prstgrp-1; j<LN2; j+=30) {
  343.                     reset_pred_state(&psp[ch][j]);
  344.                 }
  345.             }
  346.         } /* end predictor reset */
  347.     } /* end islong */
  348.     else { /* short blocks */
  349.         /* complete prediction reset in all bins */
  350.         for (ch=firstCh; ch<=lastCh; ch++) {
  351.             last_rstgrp_num[ch] = 0;
  352.             for (j=0; j<LN2; j++)
  353.                 reset_pred_state(&psp[ch][j]);
  354.         }
  355.     }
  356.     return 0;
  357. }