idct.c
上传用户:dangjiwu
上传日期:2013-07-19
资源大小:42019k
文件大小:44k
源码类别:

Symbian

开发平台:

Visual C++

  1. /* ***** BEGIN LICENSE BLOCK *****
  2.  * Source last modified: $Id: idct.c,v 1.3.40.1 2004/07/09 01:56:22 hubbe Exp $
  3.  * 
  4.  * Portions Copyright (c) 1995-2004 RealNetworks, Inc. All Rights Reserved.
  5.  * 
  6.  * The contents of this file, and the files included with this file,
  7.  * are subject to the current version of the RealNetworks Public
  8.  * Source License (the "RPSL") available at
  9.  * http://www.helixcommunity.org/content/rpsl unless you have licensed
  10.  * the file under the current version of the RealNetworks Community
  11.  * Source License (the "RCSL") available at
  12.  * http://www.helixcommunity.org/content/rcsl, in which case the RCSL
  13.  * will apply. You may also obtain the license terms directly from
  14.  * RealNetworks.  You may not use this file except in compliance with
  15.  * the RPSL or, if you have a valid RCSL with RealNetworks applicable
  16.  * to this file, the RCSL.  Please see the applicable RPSL or RCSL for
  17.  * the rights, obligations and limitations governing use of the
  18.  * contents of the file.
  19.  * 
  20.  * Alternatively, the contents of this file may be used under the
  21.  * terms of the GNU General Public License Version 2 or later (the
  22.  * "GPL") in which case the provisions of the GPL are applicable
  23.  * instead of those above. If you wish to allow use of your version of
  24.  * this file only under the terms of the GPL, and not to allow others
  25.  * to use your version of this file under the terms of either the RPSL
  26.  * or RCSL, indicate your decision by deleting the provisions above
  27.  * and replace them with the notice and other provisions required by
  28.  * the GPL. If you do not delete the provisions above, a recipient may
  29.  * use your version of this file under the terms of any one of the
  30.  * RPSL, the RCSL or the GPL.
  31.  * 
  32.  * This file is part of the Helix DNA Technology. RealNetworks is the
  33.  * developer of the Original Code and owns the copyrights in the
  34.  * portions it created.
  35.  * 
  36.  * This file, and the files included with this file, is distributed
  37.  * and made available on an 'AS IS' basis, WITHOUT WARRANTY OF ANY
  38.  * KIND, EITHER EXPRESS OR IMPLIED, AND REALNETWORKS HEREBY DISCLAIMS
  39.  * ALL SUCH WARRANTIES, INCLUDING WITHOUT LIMITATION, ANY WARRANTIES
  40.  * OF MERCHANTABILITY, FITNESS FOR A PARTICULAR PURPOSE, QUIET
  41.  * ENJOYMENT OR NON-INFRINGEMENT.
  42.  * 
  43.  * Technology Compatibility Kit Test Suite(s) Location:
  44.  *    http://www.helixcommunity.org/content/tck
  45.  * 
  46.  * Contributor(s):
  47.  * 
  48.  * ***** END LICENSE BLOCK ***** */
  49. #include <math.h>
  50. #include "dllindex.h"
  51. #include "h261defs.h"
  52. #include "h261func.h"
  53. #include "clip.h"
  54. #include "h263plus.h"
  55. #ifdef _MACINTOSH
  56. #include <string.h> // for memset
  57. #endif
  58. #ifndef UNREFERENCED_PARAMETER
  59. #define UNREFERENCED_PARAMETER(x) (x) = (x)
  60. #endif
  61. extern S16 Recon [QUANT_MAX - QUANT_MIN + 1] [N_SYM_INDICES];
  62. //  Function prototypes
  63. static void init_inv_dct (void);
  64. static void Fix_PTel_S4000_mismatch( void );
  65. static void truncate_more( S32 * idct_tab_entry );
  66. static void idct2_goertzel( SYMBOL sym[], int nsym, S32 x[8][4],
  67.                             S16 recon[], int intra, int clean, int idct_class );
  68. static int idct2_energy_test( SYMBOL sym[], int nsym,
  69.                             S16 recon[] );                            
  70. static void recon_intra_dc( U8 index, S32 vec[8]);
  71. static void recon_dc( S32 y, S32 vec[8]);
  72. static void recon_hor_ac( S32 y, S32 vec[8]);
  73. static void recon_vert_ac( S32 y, S32 vec[8]);
  74. static void update( S32 x[8], S32 index, S32 table[][8*8*8]);
  75. static double dctfunc (int freq, int index);
  76. static S32 dct_tab_entry (double x, double y);
  77. static S32 combine (S32 iy, S32 ix);
  78. extern void idct2_advanced_intra( SYMBOL sym[], int nsym, S32 x[8][4], S16 recon[],
  79.                             U8 rDCpred, S8 rACpred[8], U8 rDCstore[1], S8 rACstore[8], 
  80.                             U8 cDCpred, S8 cACpred[8], U8 cDCstore[1], S8 cACstore[8],
  81.                             int predtype, int fixedDC, int leftBoundary, int upperBoundary);
  82. #define PI              3.141592654
  83. #define FRACBITS        6   /* Fractional bits in IDCT computation */
  84. #define SCALE_FACTOR    64. /* 2**FRACBITS */
  85. #define MAX_DCT_INDEX   1024
  86. #define IDCT_NTAB1_BITS 5
  87. #define IDCT_NTAB1_SIZE 32  /* 2**NTAB1_BITS entries in table for small values */
  88. #define IDCT_NTAB2_SIZE ((MAX_DCT_INDEX - 1) / IDCT_NTAB1_SIZE)
  89.                             /* Entries to handle values > NTAB1_SIZE */
  90. #define PIXEL_MIN       0
  91. #define PIXEL_MAX       255
  92. #define CLIPMARGIN      300
  93. #define CLIPMIN         (PIXEL_MIN - CLIPMARGIN)
  94. #define CLIPMAX         (PIXEL_MAX + CLIPMARGIN)
  95. #define N_DCT_INDEX     1024
  96. //  Reconstruction levels for QUANT = 1,2,..,31
  97. S16 Recon [QUANT_MAX - QUANT_MIN + 1] [N_SYM_INDICES];
  98. //  Define zigzag scanning pattern
  99. static int ZigZag[64] = {  0,  1,  5,  6,  14, 15, 27, 28,
  100.                             2,  4,  7,  13, 16, 26, 29, 42,
  101.                             3,  8,  12, 17, 25, 30, 41, 43,
  102.                             9,  11, 18, 24, 31, 40, 44, 53,
  103.                             10, 19, 23, 32, 39, 45, 52, 54,
  104.                             20, 22, 33, 38, 46, 51, 55, 60,
  105.                             21, 34, 37, 47, 50, 56, 59, 61,
  106.                             35, 36, 48, 49, 57, 58, 62, 63
  107. };
  108. static  int InvZZ[64];
  109. static  S32    idct_tab [(IDCT_NTAB1_SIZE + IDCT_NTAB2_SIZE)][8*8][8];
  110.                     /* LUT for all coeffs; [amplitude][zigzag position][] */
  111. static  S32    dc_tab [MAX_DCT_INDEX];         /* LUT for DC coeff */
  112. static  S32    hor_ac_tab [MAX_DCT_INDEX][2];  /* LUT for 1st hor AC coeff */
  113. static  S32    vert_ac_tab [MAX_DCT_INDEX][4]; /* LUT for 1st vert AC coeff */
  114. static  S32    intra_dc_tab[N_SYM_INDICES];    /* LUT for INTRA DC coeff */
  115. PIXEL   clip[(CLIPMAX-CLIPMIN+1)];      /* LUT to limit to 0-255 */
  116. static  int     even_odd_index[8*8];    /* Classify zigzag pos. as even or odd */
  117. extern void InitReconTables( void )
  118. {
  119.     int level, index, quant;
  120. //  QUANT=1 => 3,5,7,...
  121. //  QUANT=2 => 5,9,13,...
  122. //  QUANT=3 => 9,15,21,...
  123. //  QUANT=4 => 11,19,27,...
  124.     for (quant = QUANT_MIN; quant <= QUANT_MAX; quant++) {
  125.         index = (quant + 1) / 2;
  126.         for (level = 1; level < N_SYM_INDICES/2; level++) {
  127.             index += quant;
  128.             index = min( index, N_DCT_INDEX);
  129.             Recon [quant - QUANT_MIN] [level] = index;
  130.             Recon [quant - QUANT_MIN] [N_SYM_INDICES-level] = -index;
  131.         }
  132.         Recon [quant - QUANT_MIN] [0] = 0;
  133.     }
  134.     /* Generate zigzag table */
  135.     for (index = 0; index < 64; index++) {
  136.         InvZZ[ ZigZag[index] ] = index;
  137.     }
  138.     init_inv_dct();
  139.     return;
  140. }
  141. //  Idct2 - Reconstruct DCT coeffs, perform IDCT, and clip to allowed pixel range */
  142. //  Requires nsym > 0
  143. extern void Idct2( SYMBOL sym[], int nsym, PIXEL x[], int xdim, S16 recon[], int clean)
  144. {
  145.     union {
  146.         S16   bshort[8][8];
  147.         S32    blong[8][4];
  148.     } block;    /* Output from IDCT */
  149.     int     intra;
  150.     int     idct_class;
  151.     idct_class = GENERAL;   /* assume the general case */
  152.     /* look for situations involving specific involving 1,2,3 symbols */
  153.     if (sym[0].type==0) 
  154.         {
  155.             switch (nsym) 
  156.             {
  157.                 case 1:
  158.                     idct_class = DC_ONLY;
  159.                 break;
  160.                 case 2:
  161.                     if (sym[1].type == 0)  
  162.                         idct_class = DC_AC_H;
  163.                     if (sym[1].type == 1)  
  164.                         idct_class = DC_AC_V;
  165.                 break;
  166.                 case 3:
  167.                     if ( (sym[1].type | sym[2].type) == 0) 
  168.                         idct_class = DC_3;
  169.                 break;
  170.             } 
  171.         }
  172.     intra = YES;
  173.     switch (idct_class)
  174.             {
  175.                 case DC_ONLY:
  176.                 {   
  177.                     idct2_goertzel( sym, nsym, block.blong, recon, intra, clean, DC_ONLY);
  178.                     idct2_clip(x, xdim, block.blong, DC_ONLY);
  179.                     break;
  180.                 }               
  181.                 case DC_AC_H:
  182.                 {   
  183.                     idct2_goertzel( sym, nsym, block.blong, recon, intra, clean, DC_AC_H);
  184.                     idct2_clip(x, xdim, block.blong, DC_AC_H);
  185.                     break;
  186.                 }               
  187.                 case DC_AC_V:
  188.                 {   
  189.                     idct2_goertzel( sym, nsym, block.blong, recon, intra, clean, DC_AC_V);
  190.                     idct2_clip(x, xdim, block.blong, GENERAL);
  191.                     break;
  192.                 }               
  193.                 case DC_3:
  194.                 {   
  195.                     idct2_goertzel( sym, nsym, block.blong, recon, intra, clean, DC_3);
  196.                     idct2_clip(x, xdim, block.blong, GENERAL);
  197.                     break;
  198.                 }               
  199.                 default:                
  200.                 {   
  201.                     idct2_goertzel( sym, nsym, block.blong, recon, intra, clean, GENERAL);
  202.                     idct2_clip(x, xdim, block.blong, GENERAL);
  203.                 }               
  204.             }               
  205.     return;
  206. }
  207. //  Idct2Sum - Reconstruct DCT coeffs, perform IDCT, add to predition,
  208. //  and clip to allowed pixel range.  Requires nsym > 0
  209. extern void Idct2Sum( SYMBOL sym[], int nsym, PIXEL x[], int xdim, S16 recon[],int clean)
  210. {
  211.     union {
  212.         S16   bshort[8][8];
  213.         S32    blong[8][4];
  214.     } block;    /* Output from IDCT */
  215.     int     intra;
  216.     int     idct_class;
  217.     
  218.     idct_class = GENERAL;   /* assume the general case */
  219.     /* look for situations involving specific involving 1,2,3 symbols */
  220.     if (sym[0].type==0) 
  221.         {
  222.             switch (nsym) 
  223.             {
  224.                 case 1:
  225.                     idct_class = DC_ONLY;
  226.                 break;
  227.                 case 2:
  228.                     if (sym[1].type == 0)  
  229.                         idct_class = DC_AC_H;
  230.                     if (sym[1].type == 1)  
  231.                         idct_class = DC_AC_V;
  232.                 break;
  233.                 case 3:
  234.                     if ( (sym[1].type | sym[2].type) == 0) 
  235.                         idct_class = DC_3;
  236.                 break;
  237.             } 
  238.         }
  239.     intra = NO;
  240. //    if (clean == YES || (idct2_energy_test( sym, nsym, recon) > 20)){ 
  241. // activate this for sleazy IDCT in decoder
  242. //    
  243.     switch (idct_class)
  244.             {
  245.                 case DC_ONLY:
  246.                 {   
  247.                     idct2_goertzel( sym, nsym, block.blong, recon, intra, clean, DC_ONLY);
  248.                     idct2sum_clip(x, xdim, block.blong, DC_ONLY);
  249.                     break;
  250.                 }               
  251.                 case DC_AC_H:
  252.                 {   
  253.                     idct2_goertzel( sym, nsym, block.blong, recon, intra, clean, DC_AC_H);
  254.                     idct2sum_clip(x, xdim, block.blong, DC_AC_H);
  255.                     break;
  256.                 }               
  257.                 case DC_AC_V:
  258.                 {   
  259.                     idct2_goertzel( sym, nsym, block.blong, recon, intra, clean, DC_AC_V);
  260.                     idct2sum_clip(x, xdim, block.blong, GENERAL);
  261.                     break;
  262.                 }               
  263.                 case DC_3:
  264.                 {   
  265.                     idct2_goertzel( sym, nsym, block.blong, recon, intra, clean, DC_3);
  266.                     idct2sum_clip(x, xdim, block.blong, GENERAL);
  267.                     break;
  268.                 }               
  269.                 default:                
  270.                 {   
  271.                     idct2_goertzel( sym, nsym, block.blong, recon, intra, clean, GENERAL);
  272.                     idct2sum_clip(x, xdim, block.blong, GENERAL);
  273.                 }               
  274.             }
  275.  //   }         // activate this for sleazy IDCT in decoder
  276.     return;
  277. }
  278. //  Idct2_s16 - Reconstruct DCT coeffs, perform IDCT, and write as signed 16-bit values
  279. //  Set output block to zero if nsym=0
  280. extern void Idct2_s16( int intra, SYMBOL sym[], int nsym, S16 x[], int xdim, S16 recon[] )
  281. {
  282.     int i, clean = YES;
  283.     union {
  284.         S16   bshort[8][8];
  285.         S32    blong[8][4];
  286.     } block;    /* Output from IDCT */
  287.     if (nsym == 0) {
  288.         for (i = 0; i < 8; i++) {
  289.             S32 * px = (S32 *)x;
  290.             px[0] = px[1] = px[2] = px[3] = 0;
  291.             x += xdim;
  292.         }
  293.         return;
  294.     }
  295.     idct2_goertzel( sym, nsym, block.blong, recon, intra, clean, GENERAL);
  296.     // Shift out fractional bits
  297.     for (i = 0; i < 8; i++) {
  298.         x[i*xdim + 0] = block.bshort[i][0] >> FRACBITS;
  299.         x[i*xdim + 1] = block.bshort[i][1] >> FRACBITS;
  300.         x[i*xdim + 2] = block.bshort[i][2] >> FRACBITS;
  301.         x[i*xdim + 3] = block.bshort[i][3] >> FRACBITS;
  302.         x[i*xdim + 4] = block.bshort[i][7] >> FRACBITS;
  303.         x[i*xdim + 5] = block.bshort[i][6] >> FRACBITS;
  304.         x[i*xdim + 6] = block.bshort[i][5] >> FRACBITS;
  305.         x[i*xdim + 7] = block.bshort[i][4] >> FRACBITS;
  306.     }
  307. }
  308. //  Initialize tables for inverse DCT
  309. //  Note: This routine has not been optimized for speed
  310. static void init_inv_dct (void)
  311. {
  312.     int             i,j,m,n, index, zzpos;
  313.     double          magn;               /* amplitude of DCT coefficient */
  314.     static  double  bfunc[8][8][4][4];  /* DCT basis functions [vert freq][hor freq][][] */
  315.     for (n=0; n < 8; n++) {     /* Construct 2-D basis functions */
  316.       for (m=0; m < 8; m++) {
  317.         for (j=0; j < 4; j++) {
  318.           for (i=0; i < 4; i++) {
  319.               bfunc[n][m][j][i] = SCALE_FACTOR * dctfunc(n,j) * dctfunc(m,i);
  320.           }
  321.         }
  322.       }
  323.     }
  324.     //  Initialize table for INTRA DC coeff reconstruction */
  325.     for (index = 0; index < N_SYM_INDICES; index++) {
  326.         magn = 8 * index;
  327.         //printf( "Init index = %d   magn = %f n", index, magn);
  328.         intra_dc_tab [index] = dct_tab_entry (magn * bfunc[0][0][0][0],
  329.                                               magn * bfunc[0][0][0][1]);
  330.     }
  331.     //  128 is represented by index=255
  332.     index = 255;
  333.     magn = 8 * 128;
  334.     //printf( "Init index = %d   magn = %f n", index, magn);
  335.     intra_dc_tab [index] = dct_tab_entry (magn * bfunc[0][0][0][0],
  336.                                               magn * bfunc[0][0][0][1]);
  337.     
  338.     //  Initialize tables for DC and first two AC coeffs
  339.     for (index = 0; index < MAX_DCT_INDEX; index++) {
  340.         magn = 2*index + 1;
  341.         //printf( "Init index = %d   magn = %f n", index, magn);
  342.         dc_tab [index] = dct_tab_entry (magn * bfunc[0][0][0][0],
  343.                                         magn * bfunc[0][0][0][1]);
  344.         for (i = 0; i < 2; i++) {
  345.             hor_ac_tab [index][i]
  346.                         = dct_tab_entry (magn * bfunc[0][1][0][2*i],
  347.                                          magn * bfunc[0][1][0][2*i+1]);
  348.         }
  349.         for (j = 0; j < 4; j++) {
  350.             vert_ac_tab [index][j]
  351.                         = dct_tab_entry (magn * bfunc[1][0][j][0],
  352.                                          magn * bfunc[1][0][j][1]);
  353.         }
  354.     }
  355.     //  Initialize table for all coeffs
  356.     for (index = 0; index < IDCT_NTAB1_SIZE; index++) {
  357.         magn = 2*index + 1;
  358.         //printf( "Init index = %d   magn = %f n", index, magn);
  359.         for (zzpos = 0; zzpos < 8*8; zzpos++) {
  360.             n = InvZZ[zzpos] / 8;
  361.             m = InvZZ[zzpos] % 8;
  362.             for (j=0; j < 4; j++) {
  363.               for (i=0; i < 2; i++) {
  364.                   idct_tab [index][zzpos][2*j+i]
  365.                     = dct_tab_entry (magn * bfunc[n][m][j][2*i],
  366.                                     magn * bfunc[n][m][j][2*i+1]);
  367.               }
  368.             }
  369.         }
  370.     }
  371.     for (index = 0; index < IDCT_NTAB2_SIZE; index++) {
  372.         magn = 2 * IDCT_NTAB1_SIZE * (index + 1);
  373.         //printf( "Init index = %d   magn = %f n", index+IDCT_NTAB1_SIZE, magn);
  374.         for (zzpos = 0; zzpos < 8*8; zzpos++) {
  375.             n = InvZZ[zzpos] / 8;
  376.             m = InvZZ[zzpos] % 8;
  377.             for (j=0; j < 4; j++) {
  378.               for (i=0; i < 2; i++) {
  379.                   idct_tab [index + IDCT_NTAB1_SIZE][zzpos][2*j+i]
  380.                     = dct_tab_entry (magn * bfunc[n][m][j][2*i],
  381.                                     magn * bfunc[n][m][j][2*i+1]);
  382.               }
  383.             }
  384.         }
  385.     }
  386.     // Modify tables for index=1 to truncate more values to zero
  387.     Fix_PTel_S4000_mismatch();
  388.     //  LUT to clip to allowed range for PIXEL
  389.     for (i = CLIPMIN; i <= CLIPMAX; i++) {
  390.         clip[i-CLIPMIN] = max( PIXEL_MIN, min( PIXEL_MAX, i));
  391.     }
  392.     //  Classify zigzag position as even or odd, horizontally and vertically
  393.     for (zzpos = 0; zzpos < 8*8; zzpos++) {
  394.         n = InvZZ[zzpos] / 8;
  395.         m = InvZZ[zzpos] % 8;
  396.         even_odd_index[zzpos] = 2 * (n % 2) + m % 2;
  397.     }
  398. #ifdef DO_H263_PLUS
  399.     InitAdvancedIntraTables();
  400. #endif
  401.     return;
  402. }
  403. // Fix_PTel_S4000_mismatch - Modify tables for index=1 to truncate more 
  404. // values to zero.  This improves the quality when communicating with a 
  405. // system that has an IDCT mismatch problem (PTel S-4000, bug #250)
  406. static void Fix_PTel_S4000_mismatch( void )
  407. {
  408.     int index, i, j, zzpos;
  409.     
  410.     index = 1;
  411.     for (i = 0; i < 2; i++) {
  412.         truncate_more( &hor_ac_tab [index][i] );
  413.     }
  414.     for (j = 0; j < 4; j++) {
  415.         truncate_more( &vert_ac_tab [index][j] );
  416.     }
  417.     for (zzpos = 0; zzpos < 8*8; zzpos++) {
  418.         for (j=0; j < 4; j++) {
  419.             for (i=0; i < 2; i++) {
  420.                 truncate_more( &idct_tab [index][zzpos][2*j+i] );
  421.             }
  422.         }
  423.     }
  424.     return;
  425. }
  426. // truncate_more
  427. static void truncate_more( S32 * idct_tab_entry )
  428. {
  429. #define ONE_HALF            (1 << (FRACBITS - 1))
  430. #define PTEL_FIX_INTERVAL   (3)     // Set to 0 if no fix needed
  431.     S32 halfword[2];
  432.     int i;
  433.     
  434.     halfword[0] = *idct_tab_entry >> 16;            // Upper part of word
  435.     halfword[1] = (*idct_tab_entry << 16) >> 16;    // Lower part of word
  436.     for (i = 0; i < 2; ++i) {
  437.         if (halfword[i] >= ONE_HALF  &&  halfword[i] < ONE_HALF + PTEL_FIX_INTERVAL) {
  438.             halfword[i] = ONE_HALF - 1;
  439.         } else if (halfword[i] <= -ONE_HALF  &&  halfword[i] > -(ONE_HALF + PTEL_FIX_INTERVAL)) {
  440.             halfword[i] = -(ONE_HALF - 1);
  441.         }
  442.     }
  443.     *idct_tab_entry = (halfword[0] << 16) | (halfword[1] & 0xffff);
  444.     return;
  445. }
  446.  
  447. #ifdef WHY_IS_THIS_HERE
  448. static int idct2_energy_test( SYMBOL sym[], int nsym,
  449.                             S16 recon[] )
  450. {
  451.     int isym, zzpos;
  452.     int temp;
  453.     isym = 0;
  454.     temp = 0; 
  455.     zzpos = sym[0].type;
  456.     while (isym < nsym && zzpos < 10) {
  457.         temp += abs((int) recon[(U8)sym[isym].value]);
  458.         isym++;
  459.         zzpos += 1 + sym[isym].type; 
  460.     }
  461.     return(temp);
  462. }
  463. #endif
  464. static void idct2_goertzel( SYMBOL sym[], int nsym, S32 x[8][4],
  465.                             S16 recon[], int intra, int clean, int idct_class)
  466. {
  467.     int     i, zzpos, isym;
  468.     S32     even_odd[4][8]; /* Accumulate even/even, even/odd, odd/even, odd/odd */
  469.     S32     temp[4];        /* Used in final butterfly computations */
  470. #ifdef LITTLE_ENDIAN                    
  471.     char    msg[120]; /* Flawfinder: ignore */
  472.     int LUT_index;
  473. #endif
  474.     UNREFERENCED_PARAMETER(clean);
  475. //  The four special class implementations are specific to LITTLE_ENDIAN.
  476. #ifdef LITTLE_ENDIAN                    
  477.     switch (idct_class)
  478.     {
  479.         case GENERAL:
  480.             {
  481.                 memset(even_odd, 0, 128);
  482.                 isym = 0;
  483.                 zzpos = sym[0].type;
  484.                 //  Reconstruct DC coeff
  485.                 if (intra == YES) {
  486.                 recon_intra_dc( (U8) sym[0].value, even_odd[0]);
  487.                 isym++;
  488.                 zzpos += 1 + sym[isym].type;
  489.                 } 
  490.                 else if (zzpos == 0) {
  491.                 recon_dc( (S32) recon[(U8)sym[0].value], even_odd[0]);
  492.                 isym++;
  493.                 zzpos += 1 + sym[isym].type;
  494.                 }
  495.                 //  Init even/odd: reconstruct first hor. AC coeff
  496.                 if (isym < nsym  &&  zzpos == 1) {
  497.                 recon_hor_ac( (S32) recon[(U8)sym[isym].value], even_odd[1]);
  498.                 isym++;
  499.                 zzpos += 1 + sym[isym].type;
  500.                 }
  501.                 //  Init odd/even: reconstruct first vert. AC coeff
  502.                 if (isym < nsym  &&  zzpos == 2) {
  503.                 recon_vert_ac( (S32) recon[(U8)sym[isym].value], even_odd[2]); 
  504.                 isym++;
  505.                 zzpos += 1 + sym[isym].type;
  506.                 }
  507.                 //  Reconstruct remaining coeffs
  508. //  if (clean == YES) {      // activate this for sleazy IDCT decoder
  509.                 while (isym < nsym) {
  510.                 //printf(" Calling update with  zzpos = %dn", zzpos);
  511.                 update( &even_odd[ even_odd_index[zzpos]] [0],
  512.                     (S32) recon[(U8)sym[isym].value],
  513.                     (long (*)[512]) &idct_tab[0][zzpos][0]);
  514.                 isym++;
  515.                 zzpos += 1 + sym[isym].type;
  516.                 }
  517. //    }     // activate this for sleazy IDCT decoder
  518.  //   else {
  519.  //
  520.  // Sleazy reconstruction
  521.  //
  522.  //      while (isym < nsym && zzpos < 10) {
  523.  //       //printf(" Calling update with  zzpos = %dn", zzpos);
  524.  //       update( &even_odd[ even_odd_index[zzpos]] [0],
  525.  //               (S32) recon[(U8)sym[isym].value],  
  526.  //               (U32 (*)[8*8*8])&idct_tab[0][zzpos][0]);
  527.  //       isym++;
  528.  //       zzpos += 1 + sym[isym].type;
  529.  //         }
  530.  //   }             
  531.             }
  532.         break;
  533.         case DC_ONLY:
  534.         case DC_AC_H:
  535.         case DC_AC_V:
  536.         case DC_3:
  537.             {
  538.                 isym = 0;
  539.                 zzpos = sym[0].type;
  540.                 //  Reconstruct DC coeff
  541.                 if (intra == YES) 
  542.                     {
  543.                         LUT_index = (U8)sym[0].value;
  544.                         even_odd[0][0] = intra_dc_tab[LUT_index];
  545.                         isym++;
  546.                         zzpos += 1 + sym[isym].type;
  547.                     } 
  548.                 else if (zzpos == 0) 
  549.                         {
  550.                             LUT_index = (S32)recon[(U8)sym[0].value];
  551.                             if (LUT_index>0)
  552.                                 even_odd[0][0] = dc_tab[LUT_index-1];
  553.                             else if (LUT_index<0)
  554.                                     even_odd[0][0] = -dc_tab[-LUT_index-1];
  555.                             else
  556.                             {
  557.                                 //sprintf(msg, "ERROR:recon_dc called with arg=0");
  558.                                 //H261ErrMsg(msg);
  559.                             }
  560.                             isym++;
  561.                             zzpos += 1 + sym[isym].type;
  562.                         }
  563.                 //  Init even/odd: reconstruct first hor. AC coeff
  564.                 if (isym < nsym  &&  zzpos == 1) {
  565.                 recon_hor_ac( (S32) recon[(U8)sym[isym].value], even_odd[1]);
  566.                 isym++;
  567.                 zzpos += 1 + sym[isym].type;
  568.                 }
  569.                 //  Init odd/even: reconstruct first vert. AC coeff
  570.                 if (isym < nsym  &&  zzpos == 2) {
  571.                 recon_vert_ac( (S32) recon[(U8)sym[isym].value], even_odd[2]); 
  572.                 isym++;
  573.                 zzpos += 1 + sym[isym].type;
  574.                 }   
  575.             }
  576.         break;
  577.                     
  578.         default:
  579.             break;
  580.     }       
  581. #else
  582.                 memset(even_odd, 0, 128);
  583.                 isym = 0;
  584.                 zzpos = sym[0].type;
  585.                 //  Reconstruct DC coeff
  586.                 if (intra == YES) {
  587.                 recon_intra_dc( (U8) sym[0].value, even_odd[0]);
  588.                 isym++;
  589.                 zzpos += 1 + sym[isym].type;
  590.                 } 
  591.                 else if (zzpos == 0) {
  592.                 recon_dc( (S32) recon[(U8)sym[0].value], even_odd[0]);
  593.                 isym++;
  594.                 zzpos += 1 + sym[isym].type;
  595.                 }
  596.                 //  Init even/odd: reconstruct first hor. AC coeff
  597.                 if (isym < nsym  &&  zzpos == 1) {
  598.                 recon_hor_ac( (S32) recon[(U8)sym[isym].value], even_odd[1]);
  599.                 isym++;
  600.                 zzpos += 1 + sym[isym].type;
  601.                 }
  602.                 //  Init odd/even: reconstruct first vert. AC coeff
  603.                 if (isym < nsym  &&  zzpos == 2) {
  604.                 recon_vert_ac( (S32) recon[(U8)sym[isym].value], even_odd[2]); 
  605.                 isym++;
  606.                 zzpos += 1 + sym[isym].type;
  607.                 }
  608.                 //  Reconstruct remaining coeffs
  609. //  if (clean == YES) {      // activate this for sleazy IDCT decoder
  610.                 while (isym < nsym) {
  611.                 //printf(" Calling update with  zzpos = %dn", zzpos);
  612.                 update( &even_odd[ even_odd_index[zzpos]] [0],
  613.                     (S32) recon[(U8)sym[isym].value],  
  614.                     (S32 (*)[8*8*8]) &idct_tab[0][zzpos][0]);
  615.                 isym++;
  616.                 zzpos += 1 + sym[isym].type;
  617.                 }
  618. //    }     // activate this for sleazy IDCT decoder
  619.  //   else {
  620.  //
  621.  // Sleazy reconstruction
  622.  //
  623.  //      while (isym < nsym && zzpos < 10) {
  624.  //       //printf(" Calling update with  zzpos = %dn", zzpos);
  625.  //       update( &even_odd[ even_odd_index[zzpos]] [0],
  626.  //               (S32) recon[(U8)sym[isym].value],  
  627.  //               (U32 (*)[8*8*8]) &idct_tab[0][zzpos][0]);
  628.  //       isym++;
  629.  //       zzpos += 1 + sym[isym].type;
  630.  //         }
  631.  //   }             
  632. #endif
  633. #ifdef LITTLE_ENDIAN
  634.     //  Final butterflies
  635.     switch (idct_class)
  636.     {
  637.     //  DC only case
  638.         case DC_ONLY:
  639.             {
  640.                 temp[0] = even_odd[0][0];                   
  641.                 temp[0] += (0x10001L << (FRACBITS-1));      
  642.                 x[0][0] = temp[0];
  643.             }
  644.         break;
  645.         
  646.     //  DC + 1 horizontal AC case   
  647.         case DC_AC_H:
  648.              {
  649.                 temp[0] = even_odd[0][0];
  650.                 
  651.                 temp[0] += (0x10001L << (FRACBITS-1));
  652.                 
  653.                 x[0][0] = temp[0] + even_odd[1][0];
  654.                 x[0][2] = temp[0] - even_odd[1][0];
  655.                 x[0][1] = temp[0] + even_odd[1][1];
  656.                 x[0][3] = temp[0] - even_odd[1][1];
  657.              }
  658.         break;   
  659.     // DC + 1 vertical AC case
  660.         case DC_AC_V:
  661.              {
  662.                 for (i = 0; i < 4; i++)
  663.                     {
  664.                         temp[0] = even_odd[0][0] + even_odd[2][2*i];
  665.                         temp[1] = even_odd[0][0] - even_odd[2][2*i];
  666.                         temp[0] += (0x10001L << (FRACBITS-1));    
  667.                         temp[1] += (0x10001L << (FRACBITS-1));    
  668.                         x[i][0]     = temp[0];
  669.                         x[i][1]     = temp[0];
  670.                         x[i][2]     = temp[0];
  671.                         x[i][3]     = temp[0];                                              
  672.                         x[7-i][0]   = temp[1];
  673.                         x[7-i][1]   = temp[1];
  674.                         x[7-i][2]   = temp[1];
  675.                         x[7-i][3]   = temp[1];                                                                      
  676.                     }
  677.              }      
  678.         break;                              
  679.     // DC + 1 vertical AC + 1 horizontal AC case                                    
  680.         case DC_3:
  681.              {
  682.                 for (i = 0; i < 4; i++)
  683.                     {
  684.                         temp[0] = even_odd[0][0] + even_odd[2][2*i];
  685.                         temp[2] = even_odd[0][0] - even_odd[2][2*i];
  686.                         temp[0] += (0x10001L << (FRACBITS-1));    
  687.                         temp[2] += (0x10001L << (FRACBITS-1));    
  688.                         x[i][0]     = temp[0] + even_odd[1][2*i];
  689.                         x[i][2]     = temp[0] - even_odd[1][2*i];                                               
  690.                         x[7-i][0]   = temp[2] + even_odd[1][2*i];
  691.                         x[7-i][2]   = temp[2] - even_odd[1][2*i];
  692.                         x[i][1]     = temp[0] + even_odd[1][2*i+1];
  693.                         x[i][3]     = temp[0] - even_odd[1][2*i+1];                                             
  694.                         x[7-i][1]   = temp[2] + even_odd[1][2*i+1];
  695.                         x[7-i][3]   = temp[2] - even_odd[1][2*i+1];
  696.                     }
  697.              }
  698.         break;   
  699.         case GENERAL:
  700.             {
  701.                 for (i = 0; i < 4; i++) 
  702.                     {
  703.                     // j=0
  704.                         temp[0] = even_odd[0][2*i] + even_odd[2][2*i];
  705.                         temp[2] = even_odd[0][2*i] - even_odd[2][2*i];
  706.                         temp[1] = even_odd[1][2*i] + even_odd[3][2*i];
  707.                         temp[3] = even_odd[1][2*i] - even_odd[3][2*i];
  708.                         temp[0] += (0x10001L << (FRACBITS-1));    /* Round */
  709.                         x[i][0] = temp[0] + temp[1];
  710.                         x[i][2] = temp[0] - temp[1];
  711.                         temp[2] += (0x10001L << (FRACBITS-1));    /* Round */
  712.                         x[7-i][0] = temp[2] + temp[3];
  713.                         x[7-i][2] = temp[2] - temp[3];
  714.                     // j=1
  715.                         temp[0] = even_odd[0][2*i+1] + even_odd[2][2*i+1];
  716.                         temp[2] = even_odd[0][2*i+1] - even_odd[2][2*i+1];
  717.                         temp[1] = even_odd[1][2*i+1] + even_odd[3][2*i+1];
  718.                         temp[3] = even_odd[1][2*i+1] - even_odd[3][2*i+1];
  719.                         temp[0] += (0x10001L << (FRACBITS-1));    /* Round */
  720.                         x[i][1] = temp[0] + temp[1];
  721.                         x[i][3] = temp[0] - temp[1];
  722.                         temp[2] += (0x10001L << (FRACBITS-1));    /* Round */
  723.                         x[7-i][1] = temp[2] + temp[3];
  724.                         x[7-i][3] = temp[2] - temp[3];
  725.                 }
  726.             }
  727.         break;
  728.     
  729.         default:
  730.             break;
  731.     }
  732. #else
  733.             {
  734.                 for (i = 0; i < 4; i++) 
  735.                     {
  736.                     // j=0
  737.                         temp[0] = even_odd[0][2*i] + even_odd[2][2*i];
  738.                         temp[2] = even_odd[0][2*i] - even_odd[2][2*i];
  739.                         temp[1] = even_odd[1][2*i] + even_odd[3][2*i];
  740.                         temp[3] = even_odd[1][2*i] - even_odd[3][2*i];
  741.                         temp[0] += (0x10001L << (FRACBITS-1));    /* Round */
  742.                         x[i][0] = temp[0] + temp[1];
  743.                         x[i][2] = temp[0] - temp[1];
  744.                         temp[2] += (0x10001L << (FRACBITS-1));    /* Round */
  745.                         x[7-i][0] = temp[2] + temp[3];
  746.                         x[7-i][2] = temp[2] - temp[3];
  747.                     // j=1
  748.                         temp[0] = even_odd[0][2*i+1] + even_odd[2][2*i+1];
  749.                         temp[2] = even_odd[0][2*i+1] - even_odd[2][2*i+1];
  750.                         temp[1] = even_odd[1][2*i+1] + even_odd[3][2*i+1];
  751.                         temp[3] = even_odd[1][2*i+1] - even_odd[3][2*i+1];
  752.                         temp[0] += (0x10001L << (FRACBITS-1));    /* Round */
  753.                         x[i][1] = temp[0] + temp[1];
  754.                         x[i][3] = temp[0] - temp[1];
  755.                         temp[2] += (0x10001L << (FRACBITS-1));    /* Round */
  756.                         x[7-i][1] = temp[2] + temp[3];
  757.                         x[7-i][3] = temp[2] - temp[3];
  758.                 }
  759.             }
  760. #endif                          
  761.     return;
  762. }
  763. #ifdef DO_H263_PLUS
  764. //  recon_advanced_intra_dc - Reconstruct DC coeff in INTRA block
  765. static void recon_advanced_intra_dc( U8 index, S32 vec[8])
  766. {
  767.     int j, temp;
  768.     double bfunc;
  769.     bfunc = SCALE_FACTOR * dctfunc(0,0) * dctfunc(0,0);
  770.     temp = 8 * index;
  771.     temp = dct_tab_entry( temp * bfunc, temp * bfunc);
  772.     for (j = 0; j < 8; j++) {
  773.         vec[j] = temp;
  774.     }
  775.     return;
  776. }
  777. //
  778. // Quick implementation of intra prediction
  779. //
  780. extern void idct2_advanced_intra( SYMBOL sym[], int nsym, S32 x[8][4], S16 recon[],
  781.                             U8 rDCpred, S8 rACpred[8], U8 rDCstore[1], S8 rACstore[8], 
  782.                             U8 cDCpred, S8 cACpred[8], U8 cDCstore[1], S8 cACstore[8],
  783.                             int predtype, int fixedDC, int leftBoundary, int upperBoundary)
  784. {
  785.     int     i, pos, isym;
  786.     S32     even_odd[4][8]; /* Accumulate even/even, even/odd, odd/even, odd/odd */
  787.     S32     temp[4];        /* Used in final butterfly computations */
  788.     int     skip;
  789.     S8      value;
  790.     int    *scan_to_zz;
  791.     int    *inv_scan_order;
  792.     memset(even_odd, 0, 128);
  793.     
  794.     // in advanced intra mode, the AC and DC are coded in the same way, so it
  795.     // is possible for the DC residual to be zero and the first symbol to 
  796.     // have a non-trivial zero run
  797.     if(nsym) {
  798.         if(sym[0].type) {
  799.             value = 0;
  800.             isym = 0;
  801.             skip = sym[0].type - 1; // we'll take care of DC outside the loop
  802.         } else {
  803.             value = sym[0].value;
  804.             isym = 1;
  805.             skip = sym[isym].type;
  806.         }
  807.     } else {
  808.         value = 0;
  809.         isym = 0;
  810.         skip = 0;
  811.     }
  812.     //  Reconstruct DC coeff
  813.     switch(predtype) {
  814.     case ADV_INTRA_PRED_DC_ONLY:
  815.         scan_to_zz = &zigzag_to_zigzag[0];
  816.         inv_scan_order = &InvZZ[0];
  817.         rDCstore[0] = cDCstore[0] = (U8)(value + (( 
  818.             (upperBoundary ? cDCpred : rDCpred) + // use row predictor unless on upper boundary
  819.             (leftBoundary ? rDCpred : cDCpred) + // use column predictor unless on left boundary
  820.             1)>>1) );
  821.         break;
  822.     case ADV_INTRA_PRED_COLUMN:
  823.         scan_to_zz = &alt_ver_to_zigzag[0];
  824.         inv_scan_order = &inv_alt_ver_scan_no_reorder[0];
  825.         rDCstore[0] = cDCstore[0] = (U8)(value + cDCpred);
  826.         break;
  827.     case ADV_INTRA_PRED_ROW:
  828.         scan_to_zz = &alt_hor_to_zigzag[0];
  829.         inv_scan_order = &inv_alt_hor_scan_no_reorder[0];
  830.         rDCstore[0] = cDCstore[0] = (U8)(value + rDCpred);
  831.         break;
  832.     case ADV_INTRA_PRED_NONE:
  833.         scan_to_zz = &zigzag_to_zigzag[0];
  834.         inv_scan_order = &InvZZ[0];
  835.         rDCstore[0] = cDCstore[0] = (U8)(value);
  836.         break;
  837.     }
  838.     // We deviate from the H.263+ spec and the standard H.263 8-bit INTRA_DC quantizer
  839.     // for small quantizer values so that we avoid problems with the dynamic range
  840.     // getting too small
  841.     if(fixedDC) {
  842.         recon_advanced_intra_dc( rDCstore[0], even_odd[0]);
  843.     } else {
  844.         if(rDCstore[0]) update( &even_odd[even_odd_index[0]][0],
  845.                         (S32) recon[rDCstore[0]],  
  846.                         (S32 (*)[8*8*8]) &idct_tab[0][0][0]);
  847.     }
  848.     for(pos=1; pos<64; pos++)
  849.     {
  850.        // compute the quantized AC coefficient
  851.         if(skip || isym>=nsym) {
  852.             value = 0;
  853.             skip--;
  854.         } else {
  855.             value = sym[isym++].value;
  856.             skip = sym[isym].type;
  857.         }
  858.          // row predict and store reconstructed
  859.         if(inv_scan_order[pos] < 8) {
  860.             if(predtype == ADV_INTRA_PRED_ROW)
  861.                 value += rACpred[inv_scan_order[pos]];
  862.             rACstore[inv_scan_order[pos]] = value;
  863.         }
  864.          // col predict and store reconstructed
  865.         if((inv_scan_order[pos] & 7) == 0) {
  866.             if(predtype == ADV_INTRA_PRED_COLUMN)
  867.                 value += cACpred[inv_scan_order[pos]>>3];
  868.             cACstore[inv_scan_order[pos]>>3] = value;
  869.         }
  870.     
  871.         // note that both even_odd_index and idct_tab assume that we are indexing
  872.         // by zigzag order; hence the conversion of the variable pos
  873.         if(value) update( &even_odd[ even_odd_index[scan_to_zz[pos]]] [0],
  874.                     (S32) recon[ (U8)value],  
  875.                     (S32 (*)[8*8*8]) &idct_tab[0][scan_to_zz[pos]][0]);
  876.     }
  877.     // Do the final butterfly
  878.     for (i = 0; i < 4; i++) 
  879.     {
  880.         // j=0
  881.         temp[0] = even_odd[0][2*i] + even_odd[2][2*i];
  882.         temp[2] = even_odd[0][2*i] - even_odd[2][2*i];
  883.         temp[1] = even_odd[1][2*i] + even_odd[3][2*i];
  884.         temp[3] = even_odd[1][2*i] - even_odd[3][2*i];
  885.         temp[0] += (0x10001L << (FRACBITS-1));    /* Round */
  886.         x[i][0] = temp[0] + temp[1];
  887.         x[i][2] = temp[0] - temp[1];
  888.         temp[2] += (0x10001L << (FRACBITS-1));    /* Round */
  889.         x[7-i][0] = temp[2] + temp[3];
  890.         x[7-i][2] = temp[2] - temp[3];
  891.         // j=1
  892.         temp[0] = even_odd[0][2*i+1] + even_odd[2][2*i+1];
  893.         temp[2] = even_odd[0][2*i+1] - even_odd[2][2*i+1];
  894.         temp[1] = even_odd[1][2*i+1] + even_odd[3][2*i+1];
  895.         temp[3] = even_odd[1][2*i+1] - even_odd[3][2*i+1];
  896.         temp[0] += (0x10001L << (FRACBITS-1));    /* Round */
  897.         x[i][1] = temp[0] + temp[1];
  898.         x[i][3] = temp[0] - temp[1];
  899.         temp[2] += (0x10001L << (FRACBITS-1));    /* Round */
  900.         x[7-i][1] = temp[2] + temp[3];
  901.         x[7-i][3] = temp[2] - temp[3];
  902.     }
  903.     return;
  904. }
  905. //  Idct2 - Reconstruct DCT coeffs, perform IDCT, and clip to allowed pixel range */
  906. //  Requires nsym > 0
  907. extern void Idct2AdvancedIntra( SYMBOL sym[], int nsym, PIXEL x[], int xdim, S16 recon[],
  908.                                U8 rDCpred, S8 rACpred[8], U8 rDCstore[1], S8 rACstore[8], 
  909.                                U8 cDCpred, S8 cACpred[8], U8 cDCstore[1], S8 cACstore[8],
  910.                                int predtype, int fixedDC, int leftBoundary, int upperBoundary)
  911. {
  912.     union {
  913.         S16   bshort[8][8];
  914.         S32    blong[8][4];
  915.     } block;    /* Output from IDCT */
  916.     idct2_advanced_intra( sym, nsym, block.blong, recon, 
  917.         rDCpred, rACpred, rDCstore, rACstore,
  918.         cDCpred, cACpred, cDCstore, cACstore,
  919.         predtype, fixedDC,leftBoundary,upperBoundary);
  920.     idct2_clip(x, xdim, block.blong, GENERAL);
  921.     return;
  922. }
  923. #endif
  924. //  recon_intra_dc - Reconstruct DC coeff in INTRA block
  925. static void recon_intra_dc( U8 index, S32 vec[8])
  926. {
  927.     int j, temp;
  928.     
  929.     temp = intra_dc_tab [index];
  930.     for (j = 0; j < 8; j++) {
  931.         vec[j] = temp;
  932.     }
  933.     return;
  934. }
  935. //  recon_dc - Reconstruct DC coeff
  936. static void recon_dc( S32 y, S32 vec[8])
  937. {
  938.     int j, temp;
  939.     char msg[120]; /* Flawfinder: ignore */
  940.     
  941.     if (y > 0) {
  942.         temp = dc_tab[ y - 1 ];
  943.     } else if (y < 0) {
  944.         temp = -dc_tab[ -y - 1 ];
  945.     } else {
  946.         //sprintf( msg, "ERROR: recon_dc called with arg=0");
  947.         //H261ErrMsg( msg );
  948.     }
  949.     for (j = 0; j < 8; j++) {
  950.         vec[j] = temp;
  951.     }
  952.     return;
  953. }
  954. //  recon_hor_ac - Reconstruct first hor. AC coeff
  955. static void recon_hor_ac( S32 y, S32 vec[8])
  956. {
  957.     int j, temp0, temp1;
  958.     char msg[120]; /* Flawfinder: ignore */
  959.     
  960.     if (y > 0) {
  961.         temp0 = hor_ac_tab[ y - 1 ] [0];
  962.         temp1 = hor_ac_tab[ y - 1 ] [1];
  963.     } else if (y < 0) {
  964.         temp0 = -hor_ac_tab[ -y - 1 ] [0];
  965.         temp1 = -hor_ac_tab[ -y - 1 ] [1];
  966.     } else {
  967.         //sprintf( msg, "ERROR: recon_hor_ac called with arg=0");
  968.         //H261ErrMsg( msg );
  969.     }
  970.     for (j = 0; j < 8; j += 2) {
  971.         vec[j] = temp0;
  972.         vec[j+1] = temp1;
  973.     }
  974.     return;
  975. }
  976. //  recon_vert_ac - Reconstruct first vert. AC coeff
  977. static void recon_vert_ac( S32 y, S32 vec[8])
  978. {
  979.     int j, temp, index;
  980.     char msg[120]; /* Flawfinder: ignore */
  981.     
  982.     if (y > 0) {
  983.         for (j = 0; j < 4; j++) {
  984.             vec[2*j] = vert_ac_tab[ y - 1 ] [j];
  985.             vec[2*j+1] = vert_ac_tab[ y - 1 ] [j];
  986.         }
  987.     } else if (y < 0) {
  988.         index = -y - 1;
  989.         for (j = 0; j < 4; j++) {
  990.             temp = -vert_ac_tab[ index ] [j];
  991.             vec[2*j] = temp;
  992.             vec[2*j+1] = temp;
  993.         }
  994.     } else {
  995.         //sprintf( msg, "ERROR: recon_vert_ac called with arg=0");
  996.         //H261ErrMsg( msg );
  997.     }
  998.     return;
  999. }
  1000. static void update( S32 x[8], S32 index, S32 table[][8*8*8])
  1001. {
  1002.     int tab1_index, tab2_index;
  1003.     char msg[120]; /* Flawfinder: ignore */
  1004.     
  1005.     //printf( "Entered updaten" );
  1006.     if (index > 0) {
  1007.         index -= 1;
  1008.         tab1_index = index & ((0x1L << IDCT_NTAB1_BITS) - 1);  /* index % SIZE */
  1009.         tab2_index = index >> IDCT_NTAB1_BITS;
  1010.         //printf( "update plus: tab2 = %d    tab1 = %dn", tab2_index, tab1_index);
  1011.         //printf( "x0 = %d  table = %dn", x[0], table[tab1_index][0]);
  1012.         x[0] += table [tab1_index][0];
  1013.         x[1] += table [tab1_index][1];
  1014.         x[2] += table [tab1_index][2];
  1015.         x[3] += table [tab1_index][3];
  1016.         x[4] += table [tab1_index][4];
  1017.         x[5] += table [tab1_index][5];
  1018.         x[6] += table [tab1_index][6];
  1019.         x[7] += table [tab1_index][7];
  1020.         if (tab2_index != 0) {
  1021.             //printf( "x0 = %d  table = %dn", x[0],
  1022.             //            table[tab2_index - 1 + IDCT_NTAB1_SIZE][0]);
  1023.             x[0] += table [tab2_index - 1 + IDCT_NTAB1_SIZE][0];
  1024.             x[1] += table [tab2_index - 1 + IDCT_NTAB1_SIZE][1];
  1025.             x[2] += table [tab2_index - 1 + IDCT_NTAB1_SIZE][2];
  1026.             x[3] += table [tab2_index - 1 + IDCT_NTAB1_SIZE][3];
  1027.             x[4] += table [tab2_index - 1 + IDCT_NTAB1_SIZE][4];
  1028.             x[5] += table [tab2_index - 1 + IDCT_NTAB1_SIZE][5];
  1029.             x[6] += table [tab2_index - 1 + IDCT_NTAB1_SIZE][6];
  1030.             x[7] += table [tab2_index - 1 + IDCT_NTAB1_SIZE][7];
  1031.         //printf( "x0 = %dn", x[0]);
  1032.         }
  1033.     } else if (index < 0) {
  1034.         index = -index - 1;
  1035.         tab1_index = index & ((0x1L << IDCT_NTAB1_BITS) - 1);  /* index % SIZE */
  1036.         tab2_index = index >> IDCT_NTAB1_BITS;
  1037.         //printf( "update minus: tab2 = %d    tab1 = %dn", tab2_index, tab1_index);
  1038.         x[0] -= table [tab1_index][0];
  1039.         x[1] -= table [tab1_index][1];
  1040.         x[2] -= table [tab1_index][2];
  1041.         x[3] -= table [tab1_index][3];
  1042.         x[4] -= table [tab1_index][4];
  1043.         x[5] -= table [tab1_index][5];
  1044.         x[6] -= table [tab1_index][6];
  1045.         x[7] -= table [tab1_index][7];
  1046.         if (tab2_index != 0) {
  1047.             x[0] -= table [tab2_index - 1 + IDCT_NTAB1_SIZE][0];
  1048.             x[1] -= table [tab2_index - 1 + IDCT_NTAB1_SIZE][1];
  1049.             x[2] -= table [tab2_index - 1 + IDCT_NTAB1_SIZE][2];
  1050.             x[3] -= table [tab2_index - 1 + IDCT_NTAB1_SIZE][3];
  1051.             x[4] -= table [tab2_index - 1 + IDCT_NTAB1_SIZE][4];
  1052.             x[5] -= table [tab2_index - 1 + IDCT_NTAB1_SIZE][5];
  1053.             x[6] -= table [tab2_index - 1 + IDCT_NTAB1_SIZE][6];
  1054.             x[7] -= table [tab2_index - 1 + IDCT_NTAB1_SIZE][7];
  1055.         }
  1056.     } else if (index == 0) {
  1057.         //sprintf( msg, "ERROR: update called with arg=0");
  1058.         //H261ErrMsg( msg );
  1059.     }
  1060.     return;
  1061. }
  1062. static double dctfunc (int freq, int index)
  1063. {
  1064.     if (freq == 0) {
  1065.         return (1./sqrt(8.));
  1066.     }
  1067.     return ( cos(PI*freq*(index+0.5)/8.) / 2.);
  1068. }
  1069. // Turn off "warning C4244: '=' : conversion from 'double ' to 'long ', 
  1070. //     possible loss of data" for MSVC 4.0
  1071. #pragma message("Turning off ConvFromDblToLong Warning")
  1072. #pragma warning(disable:4244)
  1073. //  Round x and y; put x in lower halfword, y in upper halfword (if little-endian)
  1074. static S32 dct_tab_entry (double x, double y)
  1075. {
  1076.     S32 ix, iy;
  1077.     ix = x * 65536.;    /* Mult by 2**16 */
  1078.     iy = y * 65536.;
  1079. #ifdef LITTLE_ENDIAN    /* x in lower halfword, y in upper */
  1080.     return (combine (iy, ix));
  1081. #elif defined BIG_ENDIAN    /* x in upper halfword, y in lower */
  1082.     return (combine (ix, iy));
  1083. #else
  1084. #   error
  1085. #endif
  1086. }
  1087. // Turn back on "warning C4244: '=' : conversion from 'double ' to 'long ', 
  1088. //     possible loss of data" for MSVC 4.0
  1089. #pragma warning(default:4244)
  1090. //  iy in upper halfword, ix>>16 in lower
  1091. static S32 combine (S32 iy, S32 ix)
  1092. {
  1093.     S32 low_tab, high_tab;
  1094. // Note: this should not be a big-endian problem because calls to this function
  1095. // exchange the order of ix and iy as needed. (Though wouldn't it have been
  1096. // simpler to make the change here?) tkent
  1097.     low_tab = (ix + 0x8000L) >> 16  &  0x0000ffffL;
  1098.     high_tab = iy + 0x8000L - low_tab;
  1099.     high_tab &= 0xffff0000L;
  1100.     return (low_tab | high_tab);
  1101. }