blkenc.cpp
上传用户:sun1608
上传日期:2007-02-02
资源大小:6116k
文件大小:22k
源码类别:

流媒体/Mpeg4/MP4

开发平台:

Visual C++

  1. /*************************************************************************
  2. This software module was originally developed by 
  3. Ming-Chieh Lee (mingcl@microsoft.com), Microsoft Corporation
  4. Wei-ge Chen (wchen@microsoft.com), Microsoft Corporation
  5. Bruce Lin (blin@microsoft.com), Microsoft Corporation
  6. Chuang Gu (chuanggu@microsoft.com), Microsoft Corporation
  7. Simon Winder (swinder@microsoft.com), Microsoft Corporation
  8. (date: March, 1996)
  9. and edited by
  10.         Wei Wu (weiwu@stallion.risc.rockwell.com) Rockwell Science Center
  11. in the course of development of the MPEG-4 Video (ISO/IEC 14496-2). 
  12. This software module is an implementation of a part of one or more MPEG-4 Video tools 
  13. as specified by the MPEG-4 Video. 
  14. ISO/IEC gives users of the MPEG-4 Video free license to this software module or modifications 
  15. thereof for use in hardware or software products claiming conformance to the MPEG-4 Video. 
  16. Those intending to use this software module in hardware or software products are advised that its use may infringe existing patents. 
  17. The original developer of this software module and his/her company, 
  18. the subsequent editors and their companies, 
  19. and ISO/IEC have no liability for use of this software module or modifications thereof in an implementation. 
  20. Copyright is not released for non MPEG-4 Video conforming products. 
  21. Microsoft retains full right to use the code for his/her own purpose, 
  22. assign or donate the code to a third party and to inhibit third parties from using the code for non <MPEG standard> conforming products. 
  23. This copyright notice must be included in all copies or derivative works. 
  24. Copyright (c) 1996, 1997.
  25. Module Name:
  26. blkenc.cpp
  27. Abstract:
  28. functions for block-level encoding.
  29. Revision History:
  30. *************************************************************************/
  31. #include <stdlib.h>
  32. #include <math.h>
  33. #include "typeapi.h"
  34. #include "codehead.h"
  35. #include "mode.hpp"
  36. #include "global.hpp"
  37. #include "entropy/bitstrm.hpp"
  38. #include "entropy/entropy.hpp"
  39. #include "entropy/huffman.hpp"
  40. #include "dct.hpp"
  41. #include "vopses.hpp"
  42. #include "vopseenc.hpp"
  43. #ifdef __MFC_
  44. #ifdef _DEBUG
  45. #undef THIS_FILE
  46. static char BASED_CODE THIS_FILE[] = __FILE__;
  47. #endif
  48. #define new DEBUG_NEW    
  49. #endif // __MFC_
  50. Int CVideoObjectEncoder::quantizeIntraBlockTexture (PixelC* ppxlcBlkSrc, 
  51.  Int iWidthSrc,  
  52.  PixelC* ppxlcCurrQBlock, 
  53.  Int iWidthCurrQ,
  54.  Int* rgiCoefQ, 
  55.  Int iQP,
  56.  Int iDcScaler,
  57.  Int iBlk, 
  58.  MacroBlockMemory* pmbmLeft, 
  59.  MacroBlockMemory* pmbmTop, 
  60.  MacroBlockMemory* pmbmLeftTop,
  61.  MacroBlockMemory* pmbmCurr,
  62.  CMBMode* pmbmdLeft,
  63.  CMBMode* pmbmdTop,
  64.  CMBMode* pmbmdLeftTop,
  65.  CMBMode* pmbmdCurr)
  66. {
  67. // m_pentrencSet->m_pentrencDCT->bitstream()->trace (ppxlcCurrQBlock, "BLK_TEXTURE");
  68. m_pfdct->apply  (ppxlcBlkSrc, iWidthSrc, m_rgiDCTcoef, BLOCK_SIZE);
  69. quantizeIntraDCcoef (rgiCoefQ, (Float) iDcScaler);
  70. inverseQuantizeIntraDc (rgiCoefQ, iDcScaler); //get the quantized block
  71. if (m_volmd.fQuantizer == Q_H263) {
  72. quantizeIntraDCTcoefH263 (rgiCoefQ, 1, iQP);
  73. inverseQuantizeDCTcoefH263 (rgiCoefQ, 1, iQP); //get the quantized block
  74. }
  75. else {
  76. quantizeIntraDCTcoefMPEG (rgiCoefQ, 1, iQP, (iBlk > V_BLOCK));
  77. inverseQuantizeIntraDCTcoefMPEG (rgiCoefQ, 1, iQP, (iBlk > V_BLOCK)); //get the quantized block
  78. }
  79. Int i, j;
  80. // pmbmCurr->rgblkm [iBlk - 1] [0] = rgiCoefQ [0]; //save Qcoef in memory
  81. pmbmCurr->rgblkm [iBlk - 1] [0] = m_rgiDCTcoef [0]; //save reconstructed DC but quantized AC in memory
  82. for (i = 1, j = 8; i < BLOCK_SIZE; i++, j += BLOCK_SIZE) {
  83. pmbmCurr->rgblkm [iBlk - 1] [i] = rgiCoefQ [i];
  84. pmbmCurr->rgblkm [iBlk - 1] [i + BLOCK_SIZE - 1] = rgiCoefQ [j];
  85. }
  86. Int iSumErr = 0;
  87. m_rgiQPpred [iBlk - 1] = iQP; //default to current in case no predictor
  88. // wmay - hope this is right...
  89. iSumErr += decideIntraPredDir ( rgiCoefQ,
  90. (BlockNum) iBlk,
  91. (const BlockMemory*)&m_rgblkmCurrMB[iBlk - 1],
  92. pmbmLeft, 
  93. pmbmTop, 
  94. pmbmLeftTop,
  95. pmbmCurr,
  96. pmbmdLeft,
  97. pmbmdTop,
  98. pmbmdLeftTop,
  99. pmbmdCurr,
  100. m_rgiQPpred [iBlk - 1],
  101. (int)iQP);
  102. if(iBlk < A_BLOCK1 || pmbmdCurr->m_CODAlpha == ALPHA_CODED)
  103. m_pidct->apply (m_rgiDCTcoef, BLOCK_SIZE, ppxlcCurrQBlock, iWidthCurrQ);
  104. return iSumErr;
  105. }
  106. Void CVideoObjectEncoder::quantizeIntraDCcoef (Int* rgiCoefQ, Float fltDcScaler)
  107. {
  108. if (m_volmd.nBits<=8) { // NBIT: may not valid when nBits>8
  109. assert (fltDcScaler > 0 && fltDcScaler < 128);
  110. }
  111. #ifdef NO_APPENDIXF
  112. Float fltDCquantized = (Float) m_rgiDCTcoef [0] / 8.0F;
  113. #else
  114. Float fltDCquantized = (Float) m_rgiDCTcoef [0] / fltDcScaler;
  115. #endif
  116. assert (fltDCquantized >= 0);
  117. fltDCquantized = fltDCquantized + 0.5F;
  118. Int iMaxDC = (1<<m_volmd.nBits) - 2; // NBIT 1..254
  119. rgiCoefQ [0] = (Int) max (1, min (iMaxDC, fltDCquantized));
  120. }
  121. Void CVideoObjectEncoder::quantizeIntraDCTcoefH263 (Int* rgiCoefQ, Int iStart, Int iQP)
  122. {
  123. Int iLevelBits = 12; // 12 bit FLC (= m_volmd.nBits?)
  124. Int iMaxAC = (1<<(iLevelBits - 1)) - 1; // NBIT 127
  125. for (Int i = iStart; i < BLOCK_SQUARE_SIZE; i++) {
  126. Int ilevel = sign(m_rgiDCTcoef [i]) * (abs (m_rgiDCTcoef [i]) / (2 * iQP));
  127. rgiCoefQ [i] =  min(iMaxAC, max(-iMaxAC, ilevel));
  128. }
  129. }
  130. Void CVideoObjectEncoder::quantizeInterDCTcoefH263 (Int* rgiCoefQ, Int iStart, Int iQP)
  131. {
  132. Int iLevelBits = 12; // 12 bit FLC (= m_volmd.nBits?)
  133. Int iMaxAC = (1<<(iLevelBits - 1)) - 1; // NBIT 127
  134. for (Int i = iStart; i < BLOCK_SQUARE_SIZE; i++) {
  135. Int ilevel = sign(m_rgiDCTcoef [i]) * ((abs (m_rgiDCTcoef [i]) - iQP / 2) / (2 * iQP));
  136. rgiCoefQ [i] =  min(iMaxAC, max(-iMaxAC, ilevel));
  137. }
  138. }
  139. Void CVideoObjectEncoder::quantizeIntraDCTcoefMPEG (Int* rgiCoefQ, Int iStart, Int iQP,
  140. Bool bUseAlphaMatrix)
  141. {
  142. Float fltScaledCoef;
  143. Int i, iScaledQP, iScaledCoef;
  144. Int *piQuantizerMatrix;
  145. if(bUseAlphaMatrix)
  146. piQuantizerMatrix = m_volmd.rgiIntraQuantizerMatrixAlpha;
  147. else
  148. piQuantizerMatrix = m_volmd.rgiIntraQuantizerMatrix;
  149. Int iMaxVal = 1<<(m_volmd.nBits+3); // NBIT 2048
  150. Int iLevelBits = 12; // 12 bit FLC (= m_volmd.nBits?)
  151. Int iMaxAC = (1<<(iLevelBits - 1)) - 1; // NBIT 127
  152. for (i = iStart; i < BLOCK_SQUARE_SIZE; i++) {
  153. fltScaledCoef = 16.0F * m_rgiDCTcoef [i] / piQuantizerMatrix [i]; 
  154. iScaledCoef = (Int) rounded (fltScaledCoef);
  155. iScaledCoef = checkrange (iScaledCoef, -iMaxVal, iMaxVal - 1);
  156. iScaledQP = (Int) (3.0F * (Float) iQP / 4.0F + 0.5);
  157. assert (iScaledQP >= 0);
  158. iScaledCoef = (iScaledCoef + sign(iScaledCoef) * iScaledQP) / (2 * iQP);
  159. rgiCoefQ [i]  = min(iMaxAC, max(-iMaxAC, iScaledCoef ));
  160. }
  161. }
  162. Void CVideoObjectEncoder::quantizeInterDCTcoefMPEG (Int* rgiCoefQ, Int iStart, Int iQP,
  163. Bool bUseAlphaMatrix)
  164. {
  165. Float fltScaledCoef;
  166. Int i, iScaledCoef;
  167. Int *piQuantizerMatrix;
  168. if(bUseAlphaMatrix)
  169. piQuantizerMatrix = m_volmd.rgiInterQuantizerMatrixAlpha;
  170. else
  171. piQuantizerMatrix = m_volmd.rgiInterQuantizerMatrix;
  172. Int iLevelBits = 12; // 12 bit FLC (= m_volmd.nBits?)
  173. Int iMaxAC = (1<<(iLevelBits - 1)) - 1; // NBIT 127
  174. for (i = iStart; i < BLOCK_SQUARE_SIZE; i++) {
  175. fltScaledCoef = 16.0F * m_rgiDCTcoef [i] / piQuantizerMatrix [i]; 
  176. iScaledCoef = (Int) rounded (fltScaledCoef);
  177. iScaledCoef  = iScaledCoef / (2 * iQP);
  178. rgiCoefQ [i] = min(iMaxAC, max(-iMaxAC, iScaledCoef ));
  179. }
  180. }
  181. Int CVideoObject::decideIntraPredDir (Int* rgiCoefQ,
  182.    BlockNum blkn,
  183.    const BlockMemory* blkmRet, 
  184.    const MacroBlockMemory* pmbmLeft, 
  185.       const MacroBlockMemory* pmbmTop, 
  186.    const MacroBlockMemory* pmbmLeftTop,
  187.    const MacroBlockMemory* pmbmCurr,
  188.    const CMBMode* pmbmdLeft,
  189.    const CMBMode* pmbmdTop,
  190.    const CMBMode* pmbmdLeftTop,
  191.    CMBMode* pmbmdCurr,
  192.    Int& iQPpred,
  193.    Int iQPcurr,
  194.    Bool bDecideDCOnly)
  195. {
  196. UInt nBits = m_volmd.nBits;
  197. Int iDefVal = 1<<(nBits+2);// NBIT: start to calculate default value
  198. Int iRange = (1<<(nBits-1))-1; // 127 for 8-bit
  199. Int iQPpredTop, iQPpredLeftTop, iQPpredLeft;
  200. const BlockMemory blkmTop = findPredictorBlock (blkn, VERTICAL,
  201. pmbmLeft, pmbmTop, pmbmLeftTop, pmbmCurr,
  202. pmbmdLeft, pmbmdTop, pmbmdLeftTop, pmbmdCurr, iQPpredTop);
  203. const BlockMemory blkmLeftTop = findPredictorBlock (blkn, DIAGONAL,
  204. pmbmLeft, pmbmTop, pmbmLeftTop, pmbmCurr,
  205. pmbmdLeft, pmbmdTop, pmbmdLeftTop, pmbmdCurr, iQPpredLeftTop);
  206. const BlockMemory blkmLeft = findPredictorBlock (blkn, HORIZONTAL,
  207. pmbmLeft, pmbmTop, pmbmLeftTop, pmbmCurr,
  208. pmbmdLeft, pmbmdTop, pmbmdLeftTop, pmbmdCurr, iQPpredLeft);
  209. //wchen: changed to 1024 per CD (based on recon instead of Q value now)
  210. /* NBIT: change 1024 to iDefVal
  211. Int iPredLeftTop = (blkmLeftTop == NULL) ? 1024 : blkmLeftTop [0];
  212. Int iHorizontalGrad = ((blkmTop  == NULL) ? 1024 : blkmTop  [0]) - iPredLeftTop;
  213. Int iVerticalGrad = ((blkmLeft == NULL) ? 1024 : blkmLeft [0]) - iPredLeftTop;
  214. */
  215. Int iPredLeftTop = (blkmLeftTop == NULL) ? iDefVal : blkmLeftTop [0];
  216. Int iHorizontalGrad = ((blkmTop  == NULL) ? iDefVal : blkmTop  [0]) - iPredLeftTop;
  217. Int iVerticalGrad = ((blkmLeft == NULL) ? iDefVal : blkmLeft [0]) - iPredLeftTop;
  218. *blkmRet = NULL;
  219. UInt i, j;
  220. Int iSumErr = 0; //per vm4.0, p53
  221. if (abs(iVerticalGrad)  < abs (iHorizontalGrad)) {
  222. pmbmdCurr->m_preddir [blkn - 1] = VERTICAL;
  223. if (blkmTop != NULL) {
  224. *blkmRet = blkmTop;
  225. iQPpred = iQPpredTop;
  226. if (bDecideDCOnly != TRUE) {
  227. for (i = 1; i < BLOCK_SIZE; i++) {
  228. Int iDiff = rgiCoefQ [i] - divroundnearest(blkmTop [i] * iQPpred, iQPcurr);
  229. if (iDiff >= -iRange && iDiff <= iRange) //hack to deal with vm deficiency: ac pred out of range; dc pred is not dealt with
  230. iSumErr += abs (rgiCoefQ [i]) - abs (iDiff);
  231. else
  232. return -100000; //arbitrary  negative number to turn off ac pred.
  233. }
  234. }
  235. }
  236. }
  237. else {
  238. pmbmdCurr->m_preddir [blkn - 1] = HORIZONTAL;
  239. if (blkmLeft != NULL) {
  240. *blkmRet = blkmLeft;
  241. iQPpred = iQPpredLeft;
  242. if (bDecideDCOnly != TRUE) {
  243. for (i = 8, j = 8; i < BLOCK_SQUARE_SIZE; i += 8, j++) {
  244. Int iDiff = rgiCoefQ [i] - divroundnearest(blkmLeft [j] * iQPpred, iQPcurr);
  245. if (iDiff >= -iRange && iDiff <= iRange) //hack to deal with vm deficiency: ac pred out of range; dc pred is not dealt with
  246. iSumErr += abs (rgiCoefQ [i]) - abs (iDiff);
  247. else
  248. return -100000; //arbitrary negative number to turn off ac pred.
  249. }
  250. }
  251. }
  252. }
  253. return iSumErr;
  254. }
  255. Void CVideoObjectEncoder::intraPred (BlockNum blkn, const CMBMode* pmbmd, 
  256.  Int* rgiCoefQ, Int iQPcurr, Int iDcScaler, 
  257.  const BlockMemory blkmPred, Int iQPpred)
  258. {
  259. Int iDefVal; // NBIT: start to calculate default value
  260. UInt nBits = m_volmd.nBits;
  261. Int iMaxDC = (1<<nBits) - 1;
  262. Int iLevelBits = 12; // 12 bit FLC (= m_volmd.nBits?)
  263. Int iMaxAC = (1<<(iLevelBits - 1)) - 1; // NBIT 127
  264. iDefVal = 1<<(nBits + 2);
  265. //do DC prediction
  266. if (blkmPred == NULL)
  267. /* NBIT: change 1024 to iDefVal
  268. rgiCoefQ [0] -= (1024 + (iDcScaler >> 1)) / iDcScaler;
  269. */
  270. rgiCoefQ [0] -= divroundnearest(iDefVal, iDcScaler);
  271. else {
  272. rgiCoefQ [0] -= divroundnearest(blkmPred [0], iDcScaler);
  273. /* NBIT: change 255 to iMaxVal
  274. assert (rgiCoefQ [0] >= -255 && rgiCoefQ [0] <= 255);
  275. */
  276. assert (rgiCoefQ [0] >= -iMaxDC && rgiCoefQ [0] <= iMaxDC);
  277. if (blkn < A_BLOCK1 && pmbmd->m_bACPrediction
  278. || blkn >=A_BLOCK1 && pmbmd->m_bACPredictionAlpha)
  279. {
  280. Int i, j;
  281. //do AC prediction
  282. if (pmbmd->m_preddir [blkn - 1] == HORIZONTAL) {
  283. for (i = 8, j = 8; j < 2 * BLOCK_SIZE - 1; i += 8, j++) {
  284. rgiCoefQ [i] -= (blkmPred == NULL) ? 0 : (iQPcurr == iQPpred) ?
  285.  blkmPred [j] : divroundnearest(blkmPred [j] * iQPpred, iQPcurr);
  286. assert (rgiCoefQ [i] >= -iMaxAC && rgiCoefQ [i]  <= iMaxAC);
  287. }
  288. }
  289. else if  (pmbmd->m_preddir [blkn - 1] == VERTICAL) {
  290. //horizontal zigzag scan
  291. for (i = 1; i < BLOCK_SIZE; i++) {
  292. rgiCoefQ [i] -= (blkmPred == NULL) ? 0 : (iQPcurr == iQPpred) ?
  293.  blkmPred [i] : divroundnearest(blkmPred [i] * iQPpred, iQPcurr);
  294. assert (rgiCoefQ [i] >= -iMaxAC && rgiCoefQ [i] <= iMaxAC);
  295. }
  296. }
  297. else
  298. assert (FALSE);
  299. }
  300. }
  301. }
  302. Void CVideoObjectEncoder::quantizeTextureInterBlock (PixelI* ppxliCurrQBlock, 
  303.  Int iWidthCurrQ,
  304.  Int* rgiCoefQ, 
  305.  Int iQP,
  306.  Bool bAlphaBlock)
  307. {
  308. // m_pentrencSet->m_pentrencDCT->bitstream()->trace (rgiCoefQ, "BLK_TEXTURE");
  309. m_pfdct->apply  (ppxliCurrQBlock, iWidthCurrQ, m_rgiDCTcoef, BLOCK_SIZE);
  310. if (m_volmd.fQuantizer == Q_H263) {
  311. quantizeInterDCTcoefH263 (rgiCoefQ, 0, iQP);
  312. inverseQuantizeDCTcoefH263 (rgiCoefQ, 0, iQP);
  313. }
  314. else {
  315. quantizeInterDCTcoefMPEG (rgiCoefQ, 0, iQP, bAlphaBlock);
  316. inverseQuantizeInterDCTcoefMPEG (rgiCoefQ, 0, iQP, bAlphaBlock);
  317. }
  318. m_pidct->apply (m_rgiDCTcoef, BLOCK_SIZE, ppxliCurrQBlock, iWidthCurrQ);
  319. // m_pentrencSet->m_pentrencDCT->bitstream()->trace (ppxliCurrQBlock, "BLK_TEXTURE_Q");
  320. }
  321. UInt CVideoObjectEncoder::sendIntraDC (const Int* rgiCoefQ, BlockNum blkn)
  322. {
  323. UInt nBits = 0;
  324. UInt nBitsPerPixel = m_volmd.nBits; // NBIT
  325. Int iMaxVal = 1<<nBitsPerPixel; // NBIT
  326. assert (rgiCoefQ [0] >= -iMaxVal && rgiCoefQ [0] < iMaxVal);
  327. Int iAbsDiffIntraDC = abs (rgiCoefQ [0]);
  328. Long lSzDiffIntraDC = 0;
  329. for (Int i = nBitsPerPixel; i > 0; i--)
  330. if (iAbsDiffIntraDC & (1 << (i - 1))) {
  331. lSzDiffIntraDC = i;
  332. break;
  333. }
  334. COutBitStream* pobstrmIntraDC;
  335. if (blkn == U_BLOCK || blkn == V_BLOCK) {
  336. nBits = m_pentrencSet->m_pentrencIntraDCc->encodeSymbol(lSzDiffIntraDC, "IntraDClen"); // huffman encode 
  337. pobstrmIntraDC = m_pentrencSet->m_pentrencIntraDCc -> bitstream ();
  338. }
  339. else {
  340. nBits = m_pentrencSet->m_pentrencIntraDCy->encodeSymbol(lSzDiffIntraDC, "IntraDClen"); // huffman encode 
  341. pobstrmIntraDC = m_pentrencSet->m_pentrencIntraDCy -> bitstream ();
  342. }
  343. if (lSzDiffIntraDC<=8) { // NBIT
  344.     if (rgiCoefQ [0] > 0)
  345. pobstrmIntraDC->putBits ((Char) rgiCoefQ [0], lSzDiffIntraDC, "IntraDC"); //fix length code
  346.     else if (rgiCoefQ [0] < 0)
  347. pobstrmIntraDC->putBits (~iAbsDiffIntraDC, lSzDiffIntraDC, "IntraDC"); //fix length code
  348.     nBits += lSzDiffIntraDC;
  349. } else { // NBIT: MARKER bit inserted after first 8 bits
  350.  //   UInt uiOffset = lSzDiffIntraDC-8;
  351.     UInt uiValue = iAbsDiffIntraDC;
  352.     if (rgiCoefQ [0] < 0) {
  353. uiValue = ~iAbsDiffIntraDC;
  354.     }
  355. /*
  356.     uiValue = ( (uiValue>>uiOffset)<<(uiOffset+1) )
  357. + ( 1<<uiOffset )
  358.    + ( uiValue&((1<<uiOffset)-1) );
  359.     pobstrmIntraDC->putBits (uiValue, lSzDiffIntraDC+1, "IntraDC");
  360. */
  361.     pobstrmIntraDC->putBits (uiValue, lSzDiffIntraDC, "IntraDC");
  362.     pobstrmIntraDC->putBits (1, 1, "Marker");
  363.     nBits += lSzDiffIntraDC+1;
  364. }
  365. return nBits;
  366. }
  367. UInt CVideoObjectEncoder::sendTCOEFIntra (const Int* rgiCoefQ, Int iStart, Int* rgiZigzag)
  368. {
  369. Bool bIsFirstRun = TRUE;
  370. Bool bIsLastRun = FALSE;
  371. UInt uiCurrRun = 0;
  372. UInt uiPrevRun = 0;
  373. // Int  iCurrLevel = 0;
  374. Int  iPrevLevel = 0;
  375. //UInt uiCoefToStart = 0;
  376. UInt numBits = 0;
  377. for (Int j = iStart; j < BLOCK_SQUARE_SIZE; j++) {
  378. if (rgiCoefQ [rgiZigzag [j]] == 0) // zigzag here
  379. uiCurrRun++; // counting zeros
  380. else {
  381. if (!bIsFirstRun)
  382. numBits += putBitsOfTCOEFIntra (uiPrevRun, iPrevLevel, bIsLastRun);
  383. uiPrevRun = uiCurrRun;  // reset for next run
  384. iPrevLevel = rgiCoefQ [rgiZigzag [j]]; 
  385. uiCurrRun = 0;
  386. bIsFirstRun = FALSE;
  387. }
  388. }
  389. assert (uiPrevRun <= (BLOCK_SQUARE_SIZE - 1) - 1); // Some AC must be non-zero; at least for inter
  390. bIsLastRun = TRUE;
  391. numBits += putBitsOfTCOEFIntra (uiPrevRun, iPrevLevel, bIsLastRun);
  392. return numBits;
  393. }
  394. UInt CVideoObjectEncoder::sendTCOEFInter (const Int* rgiCoefQ, Int iStart, Int* rgiZigzag)
  395. {
  396. Bool bIsFirstRun = TRUE;
  397. Bool bIsLastRun = FALSE;
  398. UInt uiCurrRun = 0;
  399. UInt uiPrevRun = 0;
  400. //Int  iCurrLevel = 0;
  401. Int  iPrevLevel = 0;
  402. UInt numBits = 0;
  403. for (Int j = iStart; j < BLOCK_SQUARE_SIZE; j++) {
  404. if (rgiCoefQ [rgiZigzag [j]] == 0) // zigzag here
  405. uiCurrRun++; // counting zeros
  406. else {
  407. if (!bIsFirstRun)
  408. numBits += putBitsOfTCOEFInter (uiPrevRun, iPrevLevel, bIsLastRun);
  409. uiPrevRun = uiCurrRun;  // reset for next run
  410. iPrevLevel = rgiCoefQ [rgiZigzag [j]]; 
  411. uiCurrRun = 0;
  412. bIsFirstRun = FALSE;
  413. }
  414. }
  415. assert (uiPrevRun <= (BLOCK_SQUARE_SIZE - 1)); // Some AC must be non-zero; at least for inter
  416. bIsLastRun = TRUE;
  417. numBits += putBitsOfTCOEFInter (uiPrevRun, iPrevLevel, bIsLastRun);
  418. return numBits;
  419. }
  420. UInt CVideoObjectEncoder::putBitsOfTCOEFInter (UInt uiRun, Int iLevel, Bool bIsLastRun)
  421. {
  422. UInt nBits = 0;
  423. Long lVLCtableIndex;
  424. if (bIsLastRun == FALSE) {
  425. lVLCtableIndex = findVLCtableIndexOfNonLastEvent (bIsLastRun, uiRun, abs(iLevel));
  426. if (lVLCtableIndex != NOT_IN_TABLE)  {
  427. nBits += m_pentrencSet->m_pentrencDCT->encodeSymbol(lVLCtableIndex, "Vlc_TCOEF"); // huffman encode 
  428. m_pentrencSet->m_pentrencDCT->bitstream()->putBits ((Char) invSignOf (iLevel), 1, "Sign_TCOEF");
  429. nBits++;
  430. }
  431. else
  432. nBits += escapeEncode (uiRun, iLevel, bIsLastRun, g_rgiLMAXinter, g_rgiRMAXinter, &CVideoObjectEncoder::findVLCtableIndexOfNonLastEvent);
  433. }
  434. else {
  435. lVLCtableIndex = findVLCtableIndexOfLastEvent (bIsLastRun, uiRun, abs(iLevel));
  436. if (lVLCtableIndex != NOT_IN_TABLE)  {
  437. nBits += m_pentrencSet->m_pentrencDCT->encodeSymbol(lVLCtableIndex, "Vlc_TCOEF"); // huffman encode 
  438. m_pentrencSet->m_pentrencDCT->bitstream()->putBits ((Char) invSignOf (iLevel), 1, "Sign_TCOEF");
  439. nBits++;
  440. }
  441. else
  442. nBits += escapeEncode (uiRun, iLevel, bIsLastRun, g_rgiLMAXinter, g_rgiRMAXinter, &CVideoObjectEncoder::findVLCtableIndexOfLastEvent);
  443. }
  444. return nBits;
  445. }
  446. UInt CVideoObjectEncoder::putBitsOfTCOEFIntra (UInt uiRun, Int iLevel, Bool bIsLastRun)
  447. {
  448. //fprintf(stderr,"%d %d %dn", iLevel,uiRun,bIsLastRun);
  449. Int nBits = 0;
  450. Long lVLCtableIndex;
  451. lVLCtableIndex = findVLCtableIndexOfIntra (bIsLastRun, uiRun, abs(iLevel));
  452. if (lVLCtableIndex != NOT_IN_TABLE)  {
  453. nBits += m_pentrencSet->m_pentrencDCTIntra->encodeSymbol(lVLCtableIndex, "Vlc_TCOEF"); // huffman encode 
  454. m_pentrencSet->m_pentrencDCTIntra->bitstream()->putBits ((Char) invSignOf (iLevel), 1, "Sign_TCOEF");
  455. nBits++;
  456. }
  457. else
  458. nBits += escapeEncode (uiRun, iLevel, bIsLastRun, g_rgiLMAXintra, g_rgiRMAXintra, &CVideoObjectEncoder::findVLCtableIndexOfIntra);
  459. return nBits;
  460. }
  461. UInt CVideoObjectEncoder::escapeEncode (UInt uiRun, Int iLevel, Bool bIsLastRun, Int* rgiLMAX, Int* rgiRMAX, 
  462. FIND_TABLE_INDEX findVLCtableIndex)
  463. {
  464. UInt nBits = 0;
  465. nBits += m_pentrencSet->m_pentrencDCT->encodeSymbol(TCOEF_ESCAPE, "Esc_TCOEF");
  466. Int iLevelAbs = abs (iLevel);
  467. Int iLevelPlus = iLevelAbs - rgiLMAX [(uiRun & 0x0000003F) + (bIsLastRun << 6)]; //hashing the table
  468. Int iVLCtableIndex = (this->*findVLCtableIndex) (bIsLastRun, uiRun, abs (iLevelPlus));
  469. if (iVLCtableIndex != NOT_IN_TABLE)  {
  470. m_pbitstrmOut->putBits (0, 1, "Esc_0");
  471. nBits++;
  472. nBits += m_pentrencSet->m_pentrencDCT->encodeSymbol(iVLCtableIndex, "Esc_1_Vlc_TCOEF"); // huffman encode 
  473. m_pbitstrmOut->putBits ((Char) invSignOf (iLevel), 1, "Sign_TCOEF");
  474. nBits++;
  475. }
  476. else {
  477. Int iRunPlus = uiRun - rgiRMAX [(iLevelAbs & 0x0000001F) + (bIsLastRun << 5)];  //RMAX table includes + 1 already
  478. iVLCtableIndex = (this->*findVLCtableIndex) (bIsLastRun, (UInt) iRunPlus, iLevelAbs);
  479. if (iVLCtableIndex != NOT_IN_TABLE)  {
  480. m_pbitstrmOut->putBits (2, 2, "Esc_10");
  481. nBits += 2;
  482. nBits += m_pentrencSet->m_pentrencDCT->encodeSymbol(iVLCtableIndex, "Esc_01_Vlc_TCOEF"); // huffman encode 
  483. m_pbitstrmOut->putBits ((Char) invSignOf (iLevel), 1, "Sign_TCOEF");
  484. nBits++;
  485. }
  486. else {
  487. m_pbitstrmOut->putBits (3, 2, "Esc_11");
  488. nBits += 2;
  489. nBits += fixLengthCode (uiRun, iLevel, bIsLastRun);
  490. }
  491. }
  492. return nBits;
  493. }
  494. UInt CVideoObjectEncoder::fixLengthCode (UInt uiRun, Int iLevel, Bool bIsLastRun)
  495. {
  496. UInt nBits = 0;
  497. m_pentrencSet->m_pentrencDCT->bitstream()->putBits ((Char) bIsLastRun, 1, "Last_Run_TCOEF");
  498. nBits++;
  499. assert (uiRun < BLOCK_SQUARE_SIZE);
  500. m_pentrencSet->m_pentrencDCT->bitstream()->putBits (uiRun, NUMBITS_ESC_RUN, "Run_Esc_TCOEF");
  501. nBits+=NUMBITS_ESC_RUN;
  502. Int iLevelBits = 12; // 12 bit FLC (= m_volmd.nBits?)
  503. Int iMaxAC = (1<<(iLevelBits - 1)) - 1; // NBIT
  504. assert (iLevel >= -iMaxAC && iLevel <= iMaxAC && iLevel != 0);
  505. if (iLevel < 0)
  506. iLevel = (1<<iLevelBits) - abs(iLevel);
  507. m_pentrencSet->m_pentrencDCT->bitstream()->putBits (1, 1, "Marker");
  508. m_pentrencSet->m_pentrencDCT->bitstream()->putBits (iLevel, iLevelBits, "Level_Esc_TCOEF");
  509. m_pentrencSet->m_pentrencDCT->bitstream()->putBits (1, 1, "Marker");
  510. nBits += iLevelBits + 2;
  511. return nBits;
  512. }
  513. Int CVideoObjectEncoder::findVLCtableIndexOfNonLastEvent (Bool bIsLastRun, UInt uiRun, UInt uiLevel)
  514. {
  515. assert (uiRun >= 0);
  516. if (uiRun > 26 || (uiLevel > grgIfNotLastNumOfLevelAtRun [uiRun]))
  517. return NOT_IN_TABLE;
  518. else {
  519. UInt uiTableIndex = 0;
  520. for (UInt i = 0; i < uiRun; i++)
  521. uiTableIndex += grgIfNotLastNumOfLevelAtRun [i];
  522. uiTableIndex += uiLevel;
  523. uiTableIndex--; // make it zero-based; see Table H13/H.263
  524. return uiTableIndex;
  525. }
  526. }
  527. Int CVideoObjectEncoder::findVLCtableIndexOfLastEvent (Bool bIsLastRun, UInt uiRun, UInt uiLevel)
  528. {
  529. assert (uiRun >= 0);
  530. if (uiRun > 40 || (uiLevel > grgIfLastNumOfLevelAtRun [uiRun]))
  531. return NOT_IN_TABLE;
  532. else {
  533. UInt uiTableIndex = 0;
  534. for (UInt i = 0; i < uiRun; i++)
  535. uiTableIndex += grgIfLastNumOfLevelAtRun [i];
  536. uiTableIndex += uiLevel;
  537. uiTableIndex += 57; // make it zero-based and 
  538. return uiTableIndex; //correction of offset; see Table H13/H.263
  539. }
  540. }
  541. Int CVideoObjectEncoder::findVLCtableIndexOfIntra (Bool bIsLastRun, UInt uiRun, UInt uiLevel)
  542. {
  543. UInt i;
  544. assert (uiRun >= 0);
  545. if (uiRun > 20 || uiLevel > 27)
  546. return NOT_IN_TABLE;
  547. else {
  548.   //UInt uiTableIndex = 0;
  549. for (i = 0; i < TCOEF_ESCAPE; i++) {
  550. UInt iHashing = (bIsLastRun << 10) | (uiRun << 5) | uiLevel;
  551. if (iHashing == grgiIntraYAVCLHashingTable [i])
  552. return i;
  553. }
  554. return NOT_IN_TABLE;
  555. }
  556. }