开通博客赚积分
发布资源赚积分
分类

源码开发语言/平台
当前位置：首页 > 电子书籍 > VC书籍 > 查看源码
text_code.c
资源名称：VC++视频传输.rar　[点击查看]
上传用户：hxb_1234
上传日期：2010-03-30
资源大小：8328k
文件大小：18k
源码类别：

VC书籍

开发平台：

Visual C++

text_code.c：源码内容
  1. #include "text_defs.h"
  2. #include "mot_code.h"
  3. #include "bitstream.h"
  4. #include "putvlc.h"
  5. #include "mot_util.h"
  6. #include "text_code_mb.h"
  7. #include "text_code.h"
  8. #define SKIPP       6
  9. extern FILE *ftrace;
  10. Void   Bits_CountMB_combined ( Int DQUANT,
  11. Int Mode,
  12. Int COD,
  13. Int ACpred_flag,
  14. Int CBP,
  15. Int vop_type,
  16. Bits *bits,
  17. Image *mottext_bitstream,
  18. Int *MB_transp_pattern
  19. );
  20. Int   doDCACpred ( Int *qcoeff,
  21. Int *CBP,
  22. Int ncoeffs,
  23. Int x_pos,
  24. Int y_pos,
  25. Int ***DC_store,
  26. Int QP,
  27. Int MB_width,
  28. Int direction[],
  29. Int mid_grey
  30. );
  31. Void nullfill(Int pred[], Int mid_grey);
  32. Int Idir_c(Int val, Int QP);
  33. Int   IntraDCSwitch_Decision _P_(( Int Mode,
  34. Int intra_dc_vlc_thr,
  35. Int Qp
  36. ));
  37. Int   FindCBP _P_(( Int *qcoeff,
  38. Int Mode,
  39. Int ncoeffs
  40. ));
  41. Void VopCodeShapeTextIntraCom(Vop *curr,
  42. Vop *rec_curr, Image *mottext_bitstream)
  43. {
  44. Int QP = GetVopIntraQuantizer(curr);
  45. Int Mode = MODE_INTRA;
  46. Int* qcoeff;
  47. Int i, j;
  48. Int CBP, COD;
  49. Int CBPY, CBPC;
  50. Int num_pixels = GetImageSizeX(GetVopY(curr));
  51. Int num_lines = GetImageSizeY(GetVopY(curr));
  52. Int vop_type;
  53. Int ***DC_store;
  54. Int MB_width = num_pixels / MB_SIZE;
  55. Int MB_height = num_lines / MB_SIZE;
  56. Int m;
  57. Int ACpred_flag=-1;
  58. Int direction[6];
  59. Int switched=0;
  60. Int DQUANT =0;
  61. Bits nbits, *bits;
  62. bits = &nbits;
  63. qcoeff = (Int *) malloc (sizeof (Int) * 384);
  64. #ifdef _RC_DEBUG_
  65. fprintf(ftrace, "RC - VopCodeShapeTextIntraCom(): ---> CODING WITH: %d n",QP);
  66. #endif
  67. for (i = 0; i < 6; i++)
  68. direction[i] = 0;
  70. DC_store = (Int ***)calloc(MB_width*MB_height, sizeof(Int **));
  71. for (i = 0; i < MB_width*MB_height; i++)
  72. {
  73. DC_store[i] = (Int **)calloc(6, sizeof(Int *));
  74. for (j = 0; j < 6; j++)
  75. DC_store[i][j] = (Int *)calloc(15, sizeof(Int));
  76. }
  77. Bits_Reset (bits);
  78. vop_type = PCT_INTRA;
  79. for (j = 0; j < num_lines/MB_SIZE; j++)   
  80. {
  81. for (i = 0; i < num_pixels/MB_SIZE; i++)
  82. {
  83. DQUANT = 0;
  84. COD = 0;
  85. bits->no_intra++;
  86. CodeMB (curr, rec_curr, NULL, i*MB_SIZE, j*MB_SIZE,
  87. num_pixels, QP+DQUANT, MODE_INTRA, qcoeff);
  88. m =0;
  89. DC_store[j*MB_width+i][0][m] = qcoeff[m]*cal_dc_scaler(QP+DQUANT,1);
  90. DC_store[j*MB_width+i][1][m] = qcoeff[m+64]*cal_dc_scaler(QP+DQUANT,1);
  91. DC_store[j*MB_width+i][2][m] = qcoeff[m+128]*cal_dc_scaler(QP+DQUANT,1);
  92. DC_store[j*MB_width+i][3][m] = qcoeff[m+192]*cal_dc_scaler(QP+DQUANT,1);
  93. DC_store[j*MB_width+i][4][m] = qcoeff[m+256]*cal_dc_scaler(QP+DQUANT,2);
  94. DC_store[j*MB_width+i][5][m] = qcoeff[m+320]*cal_dc_scaler(QP+DQUANT,2);
  96. for (m = 1; m < 8; m++)
  97. {
  98. DC_store[j*MB_width+i][0][m] = qcoeff[m];
  99. DC_store[j*MB_width+i][1][m] = qcoeff[m+64];
  100. DC_store[j*MB_width+i][2][m] = qcoeff[m+128];
  101. DC_store[j*MB_width+i][3][m] = qcoeff[m+192];
  102. DC_store[j*MB_width+i][4][m] = qcoeff[m+256];
  103. DC_store[j*MB_width+i][5][m] = qcoeff[m+320];
  104. }
  105. for (m = 0; m < 7; m++)
  106. {
  107. DC_store[j*MB_width+i][0][m+8] = qcoeff[(m+1)*8];
  108. DC_store[j*MB_width+i][1][m+8] = qcoeff[(m+1)*8+64];
  109. DC_store[j*MB_width+i][2][m+8] = qcoeff[(m+1)*8+128];
  110. DC_store[j*MB_width+i][3][m+8] = qcoeff[(m+1)*8+192];
  111. DC_store[j*MB_width+i][4][m+8] = qcoeff[(m+1)*8+256];
  112. DC_store[j*MB_width+i][5][m+8] = qcoeff[(m+1)*8+320];
  113. }
  114. CBP = FindCBP(qcoeff,Mode,64);
  116. if (GetVopIntraACDCPredDisable(curr) == 0)
  117. {
  118. ACpred_flag = doDCACpred(qcoeff, &CBP, 64, i, j, DC_store,
  119. QP+DQUANT, MB_width,
  120. direction,GetVopMidGrey(curr));
  121. }
  122. else
  123. ACpred_flag = -1;
  124. switched = IntraDCSwitch_Decision(Mode,
  125. GetVopIntraDCVlcThr(curr),
  126. QP);
  127. if (switched)
  128. CBP = FindCBP(qcoeff,MODE_INTER,64);
  129. if (DQUANT) Mode=MODE_INTRA_Q;else Mode=MODE_INTRA;
  130. QP+=DQUANT;
  131. CBPY = CBP >> 2;
  132. CBPY = CBPY & 15;   
  133. CBPC = CBP & 3;   
  134. Bits_CountMB_combined (DQUANT, Mode, COD, ACpred_flag, CBP,
  135. vop_type,
  136. bits, mottext_bitstream,NULL);
  138. MB_CodeCoeff(bits, qcoeff, Mode, CBP, 64,
  139. GetVopIntraACDCPredDisable(curr),
  140. NULL, mottext_bitstream,
  141. NULL, direction,
  142. 1 ,
  143. 0 ,
  144. switched,
  145. 0 );
  146. }
  147. }
  149. for (i = 0; i < MB_width*MB_height; i++)
  150. {
  151. for (j = 0; j < 6; j++)
  152. free(DC_store[i][j]);
  153. free(DC_store[i]);
  154. }
  155. free(DC_store);
  156. free ((Char*)qcoeff);
  157. }
  158. Void VopShapeMotText (Vop *curr, Vop *comp, 
  159. Image *MB_decisions, Image *mot_x, Image *mot_y,
  160. Int f_code_for, 
  161. Int intra_acdc_pred_disable,
  162. Vop *rec_curr,
  163. Image *mottext_bitstream
  164. )
  165. {
  166. Int Mode=0;
  167. Int QP = GetVopQuantizer(curr);
  168. Int* qcoeff=NULL;
  169. Int i, j;
  170. Int CBP;
  171. Int COD;
  172. Int CBPY, CBPC;
  173. Int MB_in_width, MB_in_height, B_in_width, mbnum, boff;
  174. SInt p;
  175. SInt *ptr=NULL;
  176. Float *motx_ptr=NULL, *moty_ptr=NULL;
  177. Int num_pixels;
  178. Int num_lines;
  179. Int vop_type=PCT_INTER;
  180. Int ***DC_store=NULL;
  181. Int m, n;
  182. Int ACpred_flag=-1;
  183. Int direction[6];
  184. Int switched=0;
  185. Int DQUANT=0;
  186. Bits nbits, *bits;
  187. bits = &nbits;
  188. qcoeff = (Int *) malloc (sizeof (Int) * 384);
  189. num_pixels = GetImageSizeX(GetVopY(curr));
  190. num_lines = GetImageSizeY(GetVopY(curr));
  191. MB_in_width = num_pixels / MB_SIZE;
  192. MB_in_height = num_lines / MB_SIZE;
  193. B_in_width = 2 * MB_in_width;
  194. for (i = 0; i < 6; i++) direction[i] = 0;
  195. #ifdef _RC_DEBUG_
  196. printf("RC - VopShapeMotText(): ---> CODING WITH: %d n",QP);
  197. #endif
  199. DC_store = (Int ***)calloc(MB_in_width*MB_in_height,
  200. sizeof(Int **));
  201. for (i = 0; i < MB_in_width*MB_in_height; i++)
  202. {
  203. DC_store[i] = (Int **)calloc(6, sizeof(Int *));
  204. for (j = 0; j < 6; j++)
  205. DC_store[i][j] = (Int *)calloc(15, sizeof(Int));
  206. }
  207. Bits_Reset (bits);
  208. vop_type = PCT_INTER;
  209. ptr = (SInt *) GetImageData(MB_decisions);
  210. motx_ptr = (Float *) GetImageData(mot_x);
  211. moty_ptr = (Float *) GetImageData(mot_y);
  212. for (j = 0; j < num_lines/MB_SIZE; j++)
  213. {
  214. for (i = 0; i < MB_in_width; i++)
  215. {
  216. switched=0;
  217. p = *ptr;
  218. DQUANT = 0;
  220. for (m = 0; m < 6; m++)
  221. {
  222. DC_store[j*MB_in_width+i][m][0] = GetVopMidGrey(curr)*8;
  223. for (n = 1; n < 15; n++)
  224. DC_store[j*MB_in_width+i][m][n] = 0;
  225. }
  226. switch (p)
  227. {
  228. case MBM_INTRA:
  229. Mode = (DQUANT == 0) ? MODE_INTRA : MODE_INTRA_Q;
  230. bits->no_intra++;
  231. break;
  232. case MBM_INTER16:
  233. Mode = (DQUANT == 0) ? MODE_INTER : MODE_INTER_Q;
  234. bits->no_inter++;
  235. break;
  236. case MBM_INTER8:
  237. Mode = MODE_INTER4V;
  238. bits->no_inter4v++;
  239. DQUANT = 0;   
  240. break;
  241. default:
  242. printf("invalid MB_decision value :%dn", p);
  243. exit(0);
  244. }
  245. CodeMB (curr, rec_curr, comp, i*MB_SIZE, j*MB_SIZE,
  246. num_pixels, QP + DQUANT, Mode, qcoeff);
  247. mbnum  = j*MB_in_width + i;
  248. boff = (2 * (mbnum  / MB_in_width) * B_in_width
  249. + 2 * (mbnum % MB_in_width));
  250. CBP = FindCBP(qcoeff,Mode,64);
  251. if ((CBP == 0) && (p == 1) && (*(motx_ptr +boff) == 0.0)
  252. && (*(moty_ptr +boff) == 0.0))
  253. {
  254. COD = 1;   
  255. BitstreamPutBits(mottext_bitstream, (long) (COD), 1L);
  256. bits->COD ++;
  257. *ptr = SKIPP;
  258. Mode = MODE_INTER;
  259. }
  260. else
  261. {
  262. COD = 0;   
  263. if ((Mode == MODE_INTRA) || (Mode == MODE_INTRA_Q))
  264. {
  266. m =0;
  267. DC_store[j*MB_in_width+i][0][m] = qcoeff[m]*cal_dc_scaler(QP+DQUANT,1);
  268. DC_store[j*MB_in_width+i][1][m] = qcoeff[m+64]*cal_dc_scaler(QP+DQUANT,1);
  269. DC_store[j*MB_in_width+i][2][m] = qcoeff[m+128]*cal_dc_scaler(QP+DQUANT,1);
  270. DC_store[j*MB_in_width+i][3][m] = qcoeff[m+192]*cal_dc_scaler(QP+DQUANT,1);
  271. DC_store[j*MB_in_width+i][4][m] = qcoeff[m+256]*cal_dc_scaler(QP+DQUANT,2);
  272. DC_store[j*MB_in_width+i][5][m] = qcoeff[m+320]*cal_dc_scaler(QP+DQUANT,2);
  273. for (m = 1; m < 8; m++)
  274. {
  275. DC_store[j*MB_in_width+i][0][m] = qcoeff[m];
  276. DC_store[j*MB_in_width+i][1][m] = qcoeff[m+64];
  277. DC_store[j*MB_in_width+i][2][m] = qcoeff[m+128];
  278. DC_store[j*MB_in_width+i][3][m] = qcoeff[m+192];
  279. DC_store[j*MB_in_width+i][4][m] = qcoeff[m+256];
  280. DC_store[j*MB_in_width+i][5][m] = qcoeff[m+320];
  281. }
  282. for (m = 0; m < 7; m++)
  283. {
  284. DC_store[j*MB_in_width+i][0][m+8] = qcoeff[(m+1)*8];
  285. DC_store[j*MB_in_width+i][1][m+8] = qcoeff[(m+1)*8+64];
  286. DC_store[j*MB_in_width+i][2][m+8] = qcoeff[(m+1)*8+128];
  287. DC_store[j*MB_in_width+i][3][m+8] = qcoeff[(m+1)*8+192];
  288. DC_store[j*MB_in_width+i][4][m+8] = qcoeff[(m+1)*8+256];
  289. DC_store[j*MB_in_width+i][5][m+8] = qcoeff[(m+1)*8+320];
  290. }
  291. if (intra_acdc_pred_disable == 0)
  292. ACpred_flag = doDCACpred(qcoeff, &CBP, 64, i, j,
  293. DC_store,
  294. QP+DQUANT, MB_in_width,
  295. direction,GetVopMidGrey(curr));
  296. else
  297. ACpred_flag = -1;  
  298. }
  299. switched = IntraDCSwitch_Decision(Mode,
  300. GetVopIntraDCVlcThr(curr),
  301. QP);
  302. if (switched)
  303. CBP = FindCBP(qcoeff,MODE_INTER,64);
  304. CBPY = CBP >> 2;
  305. CBPY = CBPY & 15;   
  306. CBPC = CBP & 3;   
  307. Bits_CountMB_combined (DQUANT, Mode, COD, ACpred_flag, CBP,
  308. vop_type, bits,
  309. mottext_bitstream,NULL);
  310. Bits_CountMB_Motion( mot_x, mot_y, NULL, 
  311. MB_decisions, i, j, f_code_for, 0 ,
  312. mottext_bitstream,
  313. 1 , 0,
  314. (Int **)NULL, 0 );
  315. MB_CodeCoeff(bits, qcoeff, Mode, CBP, 64,
  316. intra_acdc_pred_disable,
  317. NULL, mottext_bitstream,
  318. NULL, direction,
  319. 1,
  320. 0,
  321. switched,
  322. 0 );
  323. }
  324. ptr++;
  325. } 
  326. } 
  328. for (i = 0; i < MB_in_width*MB_in_height; i++)
  329. {
  330. for (j = 0; j < 6; j++)
  331. free(DC_store[i][j]);
  332. free(DC_store[i]);
  333. }
  334. free(DC_store);
  335. free ((Char*)qcoeff);
  336. }
  337. Void Bits_CountMB_combined(Int DQUANT, Int Mode, Int COD, Int ACpred_flag,
  338. Int CBP, Int vop_type,
  339. Bits* bits, Image *mottext_bitstream,Int *MB_transp_pattern)
  340. {
  341. Int   cbpy ,cbpc, length;
  342. Int   MBtype=-1;
  343. if ( Mode == MODE_INTRA ) MBtype = 3;
  344. if ( Mode == MODE_INTER ) MBtype = 0;
  345. if ( Mode == MODE_INTRA_Q) MBtype = 4;
  346. if ( Mode == MODE_INTER_Q) MBtype = 1;
  347. if ( Mode == MODE_INTER4V) MBtype = 2;
  349. if ( Mode == MODE_GMC) MBtype = 0;
  350. if ( Mode == MODE_GMC_Q) MBtype = 1;
  352. #ifdef D_TRACE
  353. fprintf(ftrace, "DQUANT : %dtMODE : %dtVop Type : %dn", DQUANT, Mode, vop_type);
  354. fprintf(ftrace, "COD : %dtCBP : %dtAC Pred Flag : %dnn", COD, CBP, ACpred_flag);
  355. #endif
  356. cbpc = CBP & 3;
  357. cbpy = CBP>>2;
  359. if (vop_type != PCT_INTRA )
  360. {
  361. if (COD)
  362. {
  363. printf("COD = 1 in Bits_CountMB_combined n");
  364. printf("This function should not be used if COD is '1' n");
  365. exit(1);
  366. }
  367.   
  368. BitstreamPutBits(mottext_bitstream, (long)(COD), 1L);
  369. bits->COD++;
  370. }
  372. if (vop_type == PCT_INTRA)
  373. length = PutMCBPC_Intra (cbpc, MBtype, mottext_bitstream);
  374. else
  375. length = PutMCBPC_Inter (cbpc, MBtype, mottext_bitstream);
  376. bits->MCBPC += length;
  379. if (((Mode == MODE_INTER) || (Mode == MODE_INTER_Q) || (Mode == MODE_GMC) || (Mode == MODE_GMC_Q))  && (vop_type == PCT_SPRITE))
  381. {
  382. if ((Mode == MODE_INTER) || (Mode == MODE_INTER_Q))
  383. BitstreamPutBits(mottext_bitstream, (long) 0, 1L);
  385. if ((Mode == MODE_GMC) || (Mode == MODE_GMC_Q))
  387. BitstreamPutBits(mottext_bitstream, (long) 1, 1L);
  388. bits->MCBPC += 1;
  389. }
  392. if ((Mode == MODE_INTRA || Mode==MODE_INTRA_Q) && ACpred_flag != -1)
  393. {
  394. BitstreamPutBits(mottext_bitstream, (long)ACpred_flag, 1L);
  395. bits->ACpred_flag += 1;
  396. }
  398. length = PutCBPY (cbpy, (Char)(Mode==MODE_INTRA||Mode==MODE_INTRA_Q),NULL,mottext_bitstream);
  399. bits->CBPY += length;
  402. if ((Mode == MODE_INTER_Q) || (Mode == MODE_INTRA_Q)|| (Mode == MODE_GMC_Q))
  404. {
  405. switch (DQUANT)
  406. {
  407. case -1:
  408. BitstreamPutBits(mottext_bitstream, 0L, 2L);
  409. break;
  410. case -2:
  411. BitstreamPutBits(mottext_bitstream, 1L, 2L);
  412. break;
  413. case 1:
  414. BitstreamPutBits(mottext_bitstream, 2L, 2L);
  415. break;
  416. case 2:
  417. BitstreamPutBits(mottext_bitstream, 3L, 2L);
  418. break;
  419. default:
  420. fprintf(stderr,"Invalid DQUANTn");
  421. exit(1);
  422. }
  423. bits->DQUANT += 2;
  424. }
  425. }
  426. Int doDCACpred(Int *qcoeff, Int *CBP, Int ncoeffs, Int x_pos, Int y_pos,
  427. Int ***DC_store, Int QP, Int MB_width,
  428. Int direction[], Int mid_grey )
  429. {
  430. Int i, m;
  431. Int block_A, block_B, block_C;
  432. Int Xpos[6] = {-1, 0, -1, 0, -1, -1};
  433. Int Ypos[6] = {-1, -1, 0, 0, -1, -1};
  434. Int Xtab[6] = {1, 0, 3, 2, 4, 5};
  435. Int Ytab[6] = {2, 3, 0, 1, 4, 5};
  436. Int Ztab[6] = {3, 2, 1, 0, 4, 5};
  437. Int grad_hor, grad_ver, DC_pred;
  438. Int pred_A[15], pred_C[15];
  439. Int S = 0, S1, S2;
  440. Int diff;
  441. Int pcoeff[384];
  442. Int ACpred_flag=-1;
  444. for (i = 0; i < (6*ncoeffs); i++)
  445. {
  446. pcoeff[i] = qcoeff[i];
  447. }
  448. for (i = 0; i < 6; i++)
  449. {
  450. if ((x_pos == 0) && y_pos == 0)   
  451. {
  452. block_A = (i == 1 || i == 3) ? DC_store[y_pos*MB_width+(x_pos+Xpos[i])][Xtab[i]][0] : mid_grey*8;
  453. block_B = (i == 3) ? DC_store[(y_pos+Ypos[i])*MB_width+(x_pos+Xpos[i])][Ztab[i]][0] : mid_grey*8;
  454. block_C = (i == 2 || i == 3) ? DC_store[(y_pos+Ypos[i])*MB_width+x_pos][Ytab[i]][0] : mid_grey*8;
  455. }
  456. else if (x_pos == 0)   
  457. {
  458. block_A = (i == 1 || i == 3) ? DC_store[y_pos*MB_width+(x_pos+Xpos[i])][Xtab[i]][0] : mid_grey*8;
  459. block_B = (i == 1 || i == 3) ? DC_store[(y_pos+Ypos[i])*MB_width+(x_pos+Xpos[i])][Ztab[i]][0] : mid_grey*8;
  460. block_C = DC_store[(y_pos+Ypos[i])*MB_width+x_pos][Ytab[i]][0];
  461. }
  462. else if (y_pos == 0)   
  463. {
  464. block_A = DC_store[y_pos*MB_width+(x_pos+Xpos[i])][Xtab[i]][0];
  465. block_B = (i == 2 || i == 3) ? DC_store[(y_pos+Ypos[i])*MB_width+(x_pos+Xpos[i])][Ztab[i]][0] : mid_grey*8;
  466. block_C = (i == 2 || i == 3) ? DC_store[(y_pos+Ypos[i])*MB_width+x_pos][Ytab[i]][0] : mid_grey*8;
  467. }
  468. else
  469. {
  470. block_A = DC_store[y_pos*MB_width+(x_pos+Xpos[i])][Xtab[i]][0];
  471. block_B = (DC_store[(y_pos+Ypos[i])*MB_width+(x_pos+Xpos[i])]
  472. [Ztab[i]][0]);
  473. block_C = DC_store[(y_pos+Ypos[i])*MB_width+x_pos][Ytab[i]][0];
  474. }
  475. grad_hor = block_B - block_C;
  476. grad_ver = block_A - block_B;
  477. if ((ABS(grad_ver)) < (ABS(grad_hor)))
  478. {
  479. DC_pred = block_C;
  480. direction[i] = 2;
  481. }
  482. else
  483. {
  484. DC_pred = block_A;
  485. direction[i] = 1;
  486. }
  487. pcoeff[i*ncoeffs] = qcoeff[i*ncoeffs] - (DC_pred+cal_dc_scaler(QP,(i<4)?1:2)/2)/cal_dc_scaler(QP,(i<4)?1:2);
  489. if ((x_pos == 0) && y_pos == 0)   
  490. {
  491. if (i == 1 || i == 3)
  492. for (m = 0; m < 15; m++)
  493. pred_A[m] = Idir_c(((DC_store[y_pos*MB_width+(x_pos+Xpos[i])][Xtab[i]][m]) * QP*2) , 2*QP);
  494. else
  495. nullfill(pred_A,mid_grey);
  496. if (i == 2 || i == 3)
  497. for (m = 0; m < 15; m++)
  498. pred_C[m] = Idir_c(((DC_store[(y_pos+Ypos[i])*MB_width+x_pos][Ytab[i]][m]) * QP*2) , 2*QP);
  499. else
  500. nullfill(pred_C,mid_grey);
  501. }
  502. else if (x_pos == 0)   
  503. {
  504. if (i == 1 || i == 3)
  505. for (m = 0; m < 15; m++)
  506. pred_A[m] = Idir_c(((DC_store[y_pos*MB_width+(x_pos+Xpos[i])][Xtab[i]][m]) * QP*2) , 2*QP);
  507. else
  508. nullfill(pred_A,mid_grey);
  509. for (m = 0; m < 15; m++)
  510. pred_C[m] = Idir_c(((DC_store[(y_pos+Ypos[i])*MB_width+x_pos][Ytab[i]][m]) * QP*2) , 2*QP);
  511. }
  512. else if (y_pos == 0)   
  513. {
  514. for (m = 0; m < 15; m++)
  515. pred_A[m] = Idir_c(((DC_store[y_pos*MB_width+(x_pos+Xpos[i])][Xtab[i]][m]) * QP*2) , 2*QP);
  516. if (i == 2 || i == 3)
  517. for (m = 0; m < 15; m++)
  518. pred_C[m] = Idir_c(((DC_store[(y_pos+Ypos[i])*MB_width+x_pos][Ytab[i]][m]) * QP*2) , 2*QP);
  519. else
  520. nullfill(pred_C,mid_grey);
  521. }
  522. else
  523. {
  524. for (m = 0; m < 15; m++)
  525. {
  526. pred_A[m] = Idir_c(((DC_store[y_pos*MB_width+(x_pos+Xpos[i])][Xtab[i]][m]) * QP*2) , 2*QP);
  527. pred_C[m] = Idir_c(((DC_store[(y_pos+Ypos[i])*MB_width+x_pos][Ytab[i]][m]) * QP*2) , 2*QP);
  528. }
  529. }
  530. #if 1   
  531. S1 = 0;
  532. S2 = 0;
  534. if (direction[i] == 1)   
  535. {
  536. for (m = 0; m < 7; m++)
  537. {
  538. S1 += ABS(qcoeff[i*ncoeffs+(m+1)*8]);
  539. diff = pcoeff[i*ncoeffs+(m+1)*8]
  540. = qcoeff[i*ncoeffs+(m+1)*8] - pred_A[m+8];
  541. S2 += ABS(diff);
  542. }
  543. }
  544. else   
  545. {
  546. for (m = 1; m < 8; m++)
  547. {
  548. S1 += ABS(qcoeff[i*ncoeffs+m]);
  549. diff = pcoeff[i*ncoeffs+m]
  550. = qcoeff[i*ncoeffs+m] - pred_C[m];
  551. S2 += ABS(diff);
  552. }
  553. }
  554. S += (S1 - S2);
  555. #endif
  556. }
  558. if (S >=0)
  559. {
  560. for (i=0;i<ncoeffs*6; i++)
  563. if ((i%64)&&(abs(pcoeff[i])>2047))
  564. {
  565. printf("predicted AC out of range");
  566. S=-1;break;
  567. }
  568. }
  569. if (S >= 0)   
  570. {
  571. ACpred_flag = 1;
  572. for (i = 0; i < ncoeffs*6; i++)
  573. {
  574. qcoeff[i] = pcoeff[i];
  575. }
  577. *CBP = FindCBP(qcoeff, MODE_INTRA, 64);
  578. }
  579. else   
  580. {
  581. ACpred_flag = 0;
  582. for (i = 0; i < 6; i++)
  583. {
  584. qcoeff[i*ncoeffs] = pcoeff[i*ncoeffs];
  585. direction[i] = 0;
  586. }
  587. }
  588. return ACpred_flag;   
  589. }
  590. Void nullfill(Int pred[], Int mid_grey)
  591. {
  592. Int i;
  593. pred[0] = mid_grey*8;
  594. for (i = 1; i < 15; i++)
  595. {
  596. pred[i] = 0;
  597. }
  598. }
  599. Int Idir_c(Int val, Int QP)
  600. {
  601. if (val<0) return (val-QP/2)/QP;
  602. else return (val+QP/2)/QP;
  603. }
  604. Int IntraDCSwitch_Decision(Int Mode,Int intra_dc_vlc_thr,Int Qp)
  605. {
  606. Int switched =0;
  607. if (Mode == MODE_INTRA || Mode == MODE_INTRA_Q)
  608. {
  609. if (intra_dc_vlc_thr==0)
  610. switched=0;
  611. else if (intra_dc_vlc_thr==7)
  612. switched=1;
  613. else if (Qp>=intra_dc_vlc_thr*2+11)
  614. switched=1;
  615. }
  616. return switched;
  617. }
  618. Int cal_dc_scaler (Int QP, Int type)
  619. {
  620. Int dc_scaler;
  621. if (type == 1)
  622. {
  623. if (QP > 0 && QP < 5) dc_scaler = 8;
  624. else if (QP > 4 && QP < 9) dc_scaler = 2 * QP;
  625. else if (QP > 8 && QP < 25) dc_scaler = QP + 8;
  626. else dc_scaler = 2 * QP - 16;
  627. }
  628. else
  629. {
  630. if (QP > 0 && QP < 5) dc_scaler = 8;
  631. else if (QP > 4 && QP < 25) dc_scaler = (QP + 13) / 2;
  632. else dc_scaler = QP - 6;
  633. }
  634. return dc_scaler;
  635. }
  636. Int
  637. FindCBP (Int* qcoeff, Int Mode, Int ncoeffs)
  638. {
  639. Int i,j;
  640. Int CBP = 0;
  641. Int intra = (Mode == MODE_INTRA || Mode == MODE_INTRA_Q);
  643. for (i = 0; i < 6; i++)
  644. {
  645. for (j = i*ncoeffs + intra; j < (i+1)*ncoeffs; j++)
  646. {
  647. if (qcoeff[j])
  648. {
  649. if (i == 0) {CBP |= 32;}
  650. else if (i == 1) {CBP |= 16;}
  651. else if (i == 2) {CBP |= 8;}
  652. else if (i == 3) {CBP |= 4;}
  653. else if (i == 4) {CBP |= 2;}
  654. else if (i == 5) {CBP |= 1;}
  655. else
  656. {
  657. fprintf (stderr, "Error in CBP assignmentn");
  658. exit(-1);
  659. }
  660. break;
  661. }
  662. }
  663. }
  664. return CBP;
  665. }