idctmmx.asm
上传用户:xjjlds
上传日期:2015-12-05
资源大小:22823k
文件大小:23k
源码类别:

多媒体编程

开发平台:

Visual C++

  1. ;
  2. ; idct8x8_xmm.asm
  3. ;
  4. ; Originally provided by Intel at AP-922
  5. ; http://developer.intel.com/vtune/cbts/strmsimd/922down.htm
  6. ; (See more app notes at http://developer.intel.com/vtune/cbts/strmsimd/appnotes.htm)
  7. ; but in a limited edition.
  8. ; New macro implements a column part for precise iDCT
  9. ; The routine precision now satisfies IEEE standard 1180-1990. 
  10. ;
  11. ; Copyright (c) 2000-2001 Peter Gubanov <peter@elecard.net.ru>
  12. ; Rounding trick Copyright (c) 2000 Michel Lespinasse <walken@zoy.org>
  13. ;
  14. ; http://www.elecard.com/peter/idct.html
  15. ; http://www.linuxvideo.org/mpeg2dec/
  16. ;
  17. ;=============================================================================
  18. ;
  19. ; These examples contain code fragments for first stage iDCT 8x8
  20. ; (for rows) and first stage DCT 8x8 (for columns)
  21. ;
  22. ;=============================================================================
  23. mword  typedef qword
  24. mptr  equ mword ptr
  25. BITS_INV_ACC = 5  ; 4 or 5 for IEEE
  26. SHIFT_INV_ROW = 16 - BITS_INV_ACC
  27. SHIFT_INV_COL = 1 + BITS_INV_ACC
  28. RND_INV_ROW = 1024 * (6 - BITS_INV_ACC) ; 1 << (SHIFT_INV_ROW-1)
  29. RND_INV_COL = 16 * (BITS_INV_ACC - 3)  ; 1 << (SHIFT_INV_COL-1)
  30. RND_INV_CORR = RND_INV_COL - 1  ; correction -1.0 and round
  31. BITS_FRW_ACC = 3  ; 2 or 3 for accuracy
  32. SHIFT_FRW_COL = BITS_FRW_ACC
  33. SHIFT_FRW_ROW = BITS_FRW_ACC + 17
  34. RND_FRW_ROW = 262144 * (BITS_FRW_ACC - 1) ; 1 << (SHIFT_FRW_ROW-1)
  35. _MMX = 1
  36. .nolist
  37. .586
  38. if @version GE 612
  39. .mmx
  40. ;mmword TEXTEQU <QWORD>
  41. else
  42. include IAMMX.INC
  43. endif
  44. if @version GE 614
  45. .xmm
  46. ;mm2word TEXTEQU <QWORD> ; needed for Streaming SIMD Extensions macros
  47. else
  48. include iaxmm.inc ; Streaming SIMD Extensions Emulator Macros
  49. endif
  50. .list
  51. .model flat
  52. _DATA SEGMENT PARA PUBLIC USE32 'DATA'
  53. one_corr  sword            1,            1,            1,            1
  54. round_inv_row dword  RND_INV_ROW,  RND_INV_ROW
  55. round_inv_col sword  RND_INV_COL,  RND_INV_COL,  RND_INV_COL, RND_INV_COL
  56. round_inv_corr sword RND_INV_CORR, RND_INV_CORR, RND_INV_CORR, RND_INV_CORR
  57. round_frw_row dword  RND_FRW_ROW,  RND_FRW_ROW
  58.   tg_1_16 sword  13036,  13036,  13036,  13036 ; tg * (2<<16) + 0.5
  59.   tg_2_16 sword  27146,  27146,  27146,  27146  ; tg * (2<<16) + 0.5
  60.   tg_3_16 sword -21746, -21746, -21746, -21746  ; tg * (2<<16) + 0.5
  61.  cos_4_16 sword -19195, -19195, -19195, -19195  ; cos * (2<<16) + 0.5
  62. ocos_4_16 sword  23170,  23170,  23170,  23170  ; cos * (2<<15) + 0.5
  63.  otg_3_16 sword  21895, 21895, 21895, 21895  ; tg * (2<<16) + 0.5
  64. ; assume SHIFT_INV_ROW == 12
  65. ;rounder_0 dword  65536, 65536
  66. ;rounder_4       dword      0,     0
  67. ;rounder_1       dword   7195,  7195
  68. ;rounder_7 dword   1024,  1024
  69. ;rounder_2 dword   4520,  4520
  70. ;rounder_6 dword   1024,  1024
  71. ;rounder_3 dword   2407,  2407
  72. ;rounder_5 dword    240,   240
  73. ; assume SHIFT_INV_ROW == 11
  74. rounder_0 dword  65536, 65536
  75. rounder_4       dword      0,     0
  76. rounder_1       dword   3597,  3597
  77. rounder_7 dword    512,   512
  78. rounder_2 dword   2260,  2260
  79. rounder_6 dword    512,   512
  80. rounder_3 dword   1203,  1203
  81. rounder_5 dword    120,   120
  82. ;=============================================================================
  83. ;
  84. ; The first stage iDCT 8x8 - inverse DCTs of rows
  85. ;
  86. ;-----------------------------------------------------------------------------
  87. ; The 8-point inverse DCT direct algorithm
  88. ;-----------------------------------------------------------------------------
  89. ;
  90. ; static const short w[32] = {
  91. ; FIX(cos_4_16),  FIX(cos_2_16),  FIX(cos_4_16),  FIX(cos_6_16),
  92. ; FIX(cos_4_16),  FIX(cos_6_16), -FIX(cos_4_16), -FIX(cos_2_16),
  93. ; FIX(cos_4_16), -FIX(cos_6_16), -FIX(cos_4_16),  FIX(cos_2_16),
  94. ; FIX(cos_4_16), -FIX(cos_2_16),  FIX(cos_4_16), -FIX(cos_6_16),
  95. ; FIX(cos_1_16),  FIX(cos_3_16),  FIX(cos_5_16),  FIX(cos_7_16),
  96. ; FIX(cos_3_16), -FIX(cos_7_16), -FIX(cos_1_16), -FIX(cos_5_16),
  97. ; FIX(cos_5_16), -FIX(cos_1_16),  FIX(cos_7_16),  FIX(cos_3_16),
  98. ; FIX(cos_7_16), -FIX(cos_5_16),  FIX(cos_3_16), -FIX(cos_1_16) };
  99. ;
  100. ; #define DCT_8_INV_ROW(x, y)
  101. ; {
  102. ;  int a0, a1, a2, a3, b0, b1, b2, b3;
  103. ;
  104. ;  a0 =x[0]*w[0]+x[2]*w[1]+x[4]*w[2]+x[6]*w[3];
  105. ;  a1 =x[0]*w[4]+x[2]*w[5]+x[4]*w[6]+x[6]*w[7];
  106. ;  a2 = x[0] * w[ 8] + x[2] * w[ 9] + x[4] * w[10] + x[6] * w[11];
  107. ;  a3 = x[0] * w[12] + x[2] * w[13] + x[4] * w[14] + x[6] * w[15];
  108. ;  b0 = x[1] * w[16] + x[3] * w[17] + x[5] * w[18] + x[7] * w[19];
  109. ;  b1 = x[1] * w[20] + x[3] * w[21] + x[5] * w[22] + x[7] * w[23];
  110. ;  b2 = x[1] * w[24] + x[3] * w[25] + x[5] * w[26] + x[7] * w[27];
  111. ;  b3 = x[1] * w[28] + x[3] * w[29] + x[5] * w[30] + x[7] * w[31];
  112. ;
  113. ;  y[0] = SHIFT_ROUND ( a0 + b0 );
  114. ;  y[1] = SHIFT_ROUND ( a1 + b1 );
  115. ;  y[2] = SHIFT_ROUND ( a2 + b2 );
  116. ;  y[3] = SHIFT_ROUND ( a3 + b3 );
  117. ;  y[4] = SHIFT_ROUND ( a3 - b3 );
  118. ;  y[5] = SHIFT_ROUND ( a2 - b2 );
  119. ;  y[6] = SHIFT_ROUND ( a1 - b1 );
  120. ;  y[7] = SHIFT_ROUND ( a0 - b0 );
  121. ; }
  122. ;
  123. ;-----------------------------------------------------------------------------
  124. ;
  125. ; In this implementation the outputs of the iDCT-1D are multiplied
  126. ;  for rows 0,4 - by cos_4_16,
  127. ;  for rows 1,7 - by cos_1_16,
  128. ;  for rows 2,6 - by cos_2_16,
  129. ;  for rows 3,5 - by cos_3_16
  130. ; and are shifted to the left for better accuracy
  131. ;
  132. ; For the constants used,
  133. ;  FIX(float_const) = (short) (float_const * (1<<15) + 0.5)
  134. ;
  135. ;=============================================================================
  136. ;=============================================================================
  137. ; MMX code
  138. ;=============================================================================
  139. ; Table for rows 0,4 - constants are multiplied by cos_4_16
  140. tab_i_04  sword  16384,  16384,  16384, -16384 ; movq-> w06 w04 w02 w00
  141. sword  21407,   8867,   8867, -21407 ; w07 w05 w03 w01
  142. sword  16384, -16384,  16384,  16384 ; w14 w12 w10 w08
  143. sword  -8867,  21407, -21407,  -8867 ; w15 w13 w11 w09
  144. sword  22725,  12873,  19266, -22725 ; w22 w20 w18 w16
  145. sword  19266,   4520,  -4520, -12873 ; w23 w21 w19 w17
  146. sword  12873,   4520,   4520,  19266 ; w30 w28 w26 w24
  147. sword -22725,  19266, -12873, -22725 ; w31 w29 w27 w25
  148. ; Table for rows 1,7 - constants are multiplied by cos_1_16
  149. tab_i_17 sword  22725,  22725,  22725, -22725 ; movq-> w06 w04 w02 w00
  150. sword  29692,  12299,  12299, -29692 ; w07 w05 w03 w01
  151. sword  22725, -22725,  22725,  22725 ; w14 w12 w10 w08
  152. sword -12299,  29692, -29692, -12299 ; w15 w13 w11 w09
  153. sword  31521,  17855,  26722, -31521 ; w22 w20 w18 w16
  154. sword  26722,   6270,  -6270, -17855 ; w23 w21 w19 w17
  155. sword  17855,   6270,   6270,  26722 ; w30 w28 w26 w24
  156. sword -31521,  26722, -17855, -31521 ; w31 w29 w27 w25
  157. ; Table for rows 2,6 - constants are multiplied by cos_2_16
  158. tab_i_26 sword  21407,  21407,  21407, -21407 ; movq-> w06 w04 w02 w00
  159. sword  27969,  11585,  11585, -27969 ; w07 w05 w03 w01
  160. sword  21407, -21407,  21407,  21407 ; w14 w12 w10 w08
  161. sword -11585,  27969, -27969, -11585 ; w15 w13 w11 w09
  162. sword  29692,  16819,  25172, -29692 ; w22 w20 w18 w16
  163. sword  25172,   5906,  -5906, -16819 ; w23 w21 w19 w17
  164. sword  16819,   5906,   5906,  25172 ; w30 w28 w26 w24
  165. sword -29692,  25172, -16819, -29692 ; w31 w29 w27 w25
  166. ; Table for rows 3,5 - constants are multiplied by cos_3_16
  167. tab_i_35 sword  19266,  19266,  19266, -19266 ; movq-> w06 w04 w02 w00
  168. sword  25172,  10426,  10426, -25172 ; w07 w05 w03 w01
  169. sword  19266, -19266,  19266,  19266 ; w14 w12 w10 w08
  170. sword -10426,  25172, -25172, -10426 ; w15 w13 w11 w09
  171. sword  26722,  15137,  22654, -26722 ; w22 w20 w18 w16
  172. sword  22654,   5315,  -5315, -15137 ; w23 w21 w19 w17
  173. sword  15137,   5315,   5315,  22654 ; w30 w28 w26 w24
  174. sword -26722,  22654, -15137, -26722 ; w31 w29 w27 w25
  175. ;-----------------------------------------------------------------------------
  176. DCT_8_INV_ROW_1 MACRO INP:REQ, OUT:REQ, TABLE:REQ, ROUNDER:REQ
  177. movq mm0, mptr [INP]  ; 0 ; x3 x2 x1 x0
  178. movq mm1, mptr [INP+8] ; 1 ; x7 x6 x5 x4
  179. movq mm2, mm0  ; 2 ; x3 x2 x1 x0
  180. movq mm3, mptr [TABLE] ; 3 ; w06 w04 w02 w00
  181. punpcklwd mm0, mm1  ; x5 x1 x4 x0
  182. movq mm5, mm0  ; 5 ; x5 x1 x4 x0
  183. punpckldq mm0, mm0  ; x4 x0 x4 x0
  184. movq mm4, mptr [TABLE+8]  ; 4 ; w07 w05 w03 w01
  185. punpckhwd mm2, mm1 ; 1 ; x7 x3 x6 x2
  186. pmaddwd mm3, mm0  ; x4*w06+x0*w04 x4*w02+x0*w00
  187. movq mm6, mm2  ; 6  ; x7 x3 x6 x2
  188. movq mm1, mptr [TABLE+32]  ; 1  ; w22 w20 w18 w16
  189. punpckldq mm2, mm2  ; x6 x2 x6 x2
  190. pmaddwd mm4, mm2  ; x6*w07+x2*w05 x6*w03+x2*w01
  191. punpckhdq mm5, mm5  ; x5 x1 x5 x1
  192. pmaddwd mm0, mptr [TABLE+16]  ; x4*w14+x0*w12 x4*w10+x0*w08
  193. punpckhdq mm6, mm6  ; x7 x3 x7 x3
  194. movq mm7, mptr [TABLE+40]  ; 7  ; w23 w21 w19 w17
  195. pmaddwd mm1, mm5  ; x5*w22+x1*w20 x5*w18+x1*w16
  196. paddd mm3, mptr [ROUNDER]  ; +rounder
  197. pmaddwd mm7, mm6  ; x7*w23+x3*w21 x7*w19+x3*w17
  198. pmaddwd mm2, mptr [TABLE+24]  ; x6*w15+x2*w13 x6*w11+x2*w09
  199. paddd mm3, mm4  ; 4  ; a1=sum(even1) a0=sum(even0)
  200. pmaddwd mm5, mptr [TABLE+48]  ; x5*w30+x1*w28 x5*w26+x1*w24
  201. movq mm4, mm3  ; 4  ; a1 a0
  202. pmaddwd mm6, mptr [TABLE+56]  ; x7*w31+x3*w29 x7*w27+x3*w25
  203. paddd mm1, mm7  ; 7  ; b1=sum(odd1) b0=sum(odd0)
  204. paddd mm0, mptr [ROUNDER] ; +rounder
  205. psubd mm3, mm1  ; a1-b1 a0-b0
  206. psrad mm3, SHIFT_INV_ROW  ; y6=a1-b1 y7=a0-b0
  207. paddd mm1, mm4  ; 4  ; a1+b1 a0+b0
  208. paddd mm0, mm2  ; 2  ; a3=sum(even3) a2=sum(even2)
  209. psrad mm1, SHIFT_INV_ROW  ; y1=a1+b1 y0=a0+b0
  210. paddd mm5, mm6  ; 6  ; b3=sum(odd3) b2=sum(odd2)
  211. movq mm4, mm0  ; 4  ; a3 a2
  212. paddd mm0, mm5  ; a3+b3 a2+b2
  213. psubd mm4, mm5  ; 5  ; a3-b3 a2-b2
  214. psrad mm0, SHIFT_INV_ROW  ; y3=a3+b3 y2=a2+b2
  215. psrad mm4, SHIFT_INV_ROW  ; y4=a3-b3 y5=a2-b2
  216. packssdw mm1, mm0  ; 0  ; y3 y2 y1 y0
  217. packssdw mm4, mm3  ; 3  ; y6 y7 y4 y5
  218. movq mm7, mm4  ; 7  ; y6 y7 y4 y5
  219. psrld mm4, 16  ; 0 y6 0 y4
  220. pslld mm7, 16  ; y7 0 y5 0
  221. movq mptr [OUT], mm1  ; 1  ; save y3 y2 y1 y0
  222.                              
  223. por mm7, mm4  ; 4  ; y7 y6 y5 y4
  224. movq mptr [OUT+8], mm7  ; 7  ; save y7 y6 y5 y4
  225. ENDM
  226. ;=============================================================================
  227. ; code for Pentium III
  228. ;=============================================================================
  229. ; Table for rows 0,4 - constants are multiplied by cos_4_16
  230. tab_i_04_s  sword 16384, 21407, 16384, 8867 ; movq-> w05 w04 w01 w00
  231. sword 16384, 8867, -16384, -21407 ; w07 w06 w03 w02
  232. sword 16384, -8867, 16384, -21407 ; w13 w12 w09 w08
  233. sword -16384, 21407, 16384, -8867 ; w15 w14 w11 w10
  234. sword 22725, 19266, 19266, -4520 ; w21 w20 w17 w16
  235. sword 12873, 4520, -22725, -12873 ; w23 w22 w19 w18
  236. sword 12873, -22725, 4520, -12873 ; w29 w28 w25 w24
  237. sword 4520, 19266, 19266, -22725 ; w31 w30 w27 w26
  238. ; Table for rows 1,7 - constants are multiplied by cos_1_16
  239. tab_i_17_s sword 22725, 29692, 22725, 12299 ; movq-> w05 w04 w01 w00
  240. sword 22725, 12299, -22725, -29692 ; w07 w06 w03 w02
  241. sword 22725, -12299, 22725, -29692 ; w13 w12 w09 w08
  242. sword -22725, 29692, 22725, -12299 ; w15 w14 w11 w10
  243. sword 31521, 26722, 26722, -6270 ; w21 w20 w17 w16
  244. sword 17855, 6270, -31521, -17855 ; w23 w22 w19 w18
  245. sword 17855, -31521, 6270, -17855 ; w29 w28 w25 w24
  246. sword 6270, 26722, 26722, -31521 ; w31 w30 w27 w26
  247. ; Table for rows 2,6 - constants are multiplied by cos_2_16
  248. tab_i_26_s sword 21407, 27969, 21407, 11585 ; movq-> w05 w04 w01 w00
  249. sword 21407, 11585, -21407, -27969 ; w07 w06 w03 w02
  250. sword 21407, -11585, 21407, -27969 ; w13 w12 w09 w08
  251. sword -21407, 27969, 21407, -11585 ; w15 w14 w11 w10
  252. sword 29692, 25172, 25172, -5906 ; w21 w20 w17 w16
  253. sword 16819, 5906, -29692, -16819 ; w23 w22 w19 w18
  254. sword 16819, -29692, 5906, -16819 ; w29 w28 w25 w24
  255. sword 5906, 25172, 25172, -29692 ; w31 w30 w27 w26
  256. ; Table for rows 3,5 - constants are multiplied by cos_3_16
  257. tab_i_35_s sword 19266, 25172, 19266, 10426 ; movq-> w05 w04 w01 w00
  258. sword 19266, 10426, -19266, -25172 ; w07 w06 w03 w02
  259. sword 19266, -10426, 19266, -25172 ; w13 w12 w09 w08
  260. sword -19266, 25172, 19266, -10426 ; w15 w14 w11 w10
  261. sword 26722, 22654, 22654, -5315 ; w21 w20 w17 w16
  262. sword 15137, 5315, -26722, -15137 ; w23 w22 w19 w18
  263. sword 15137, -26722, 5315, -15137 ; w29 w28 w25 w24
  264. sword 5315, 22654, 22654, -26722 ; w31 w30 w27 w26
  265. ;-----------------------------------------------------------------------------
  266. DCT_8_INV_ROW_1_s MACRO INP:REQ, OUT:REQ, TABLE:REQ, ROUNDER:REQ
  267. movq  mm0, mptr [INP]  ; 0  ; x3 x2 x1 x0
  268. movq  mm1, mptr [INP+8] ; 1  ; x7 x6 x5 x4
  269. movq  mm2, mm0  ; 2  ; x3 x2 x1 x0
  270. movq  mm3, mptr [TABLE]  ; 3  ; w05 w04 w01 w00
  271. pshufw mm0, mm0, 10001000b  ; x2 x0 x2 x0
  272. movq  mm4, mptr [TABLE+8]  ; 4  ; w07 w06 w03 w02
  273. movq  mm5, mm1 ; 5  ; x7 x6 x5 x4
  274. pmaddwd mm3, mm0  ; x2*w05+x0*w04 x2*w01+x0*w00
  275. movq  mm6, mptr [TABLE+32]  ; 6  ; w21 w20 w17 w16
  276. pshufw  mm1, mm1, 10001000b  ; x6 x4 x6 x4
  277. pmaddwd mm4, mm1  ; x6*w07+x4*w06 x6*w03+x4*w02
  278. movq  mm7, mptr [TABLE+40]  ; 7  ; w23 w22 w19 w18
  279. pshufw  mm2, mm2, 11011101b  ; x3 x1 x3 x1
  280. pmaddwd mm6, mm2  ; x3*w21+x1*w20 x3*w17+x1*w16
  281. pshufw  mm5, mm5, 11011101b  ; x7 x5 x7 x5
  282. pmaddwd mm7, mm5  ; x7*w23+x5*w22 x7*w19+x5*w18
  283. paddd  mm3, mptr [ROUNDER]  ; +rounder
  284. pmaddwd mm0, mptr [TABLE+16]  ; x2*w13+x0*w12 x2*w09+x0*w08
  285. paddd  mm3, mm4  ; 4  ; a1=sum(even1) a0=sum(even0)
  286. pmaddwd mm1, mptr [TABLE+24]  ; x6*w15+x4*w14 x6*w11+x4*w10
  287. movq  mm4, mm3  ; 4  ; a1 a0
  288. pmaddwd mm2, mptr [TABLE+48]  ; x3*w29+x1*w28 x3*w25+x1*w24
  289. paddd  mm6, mm7  ; 7  ; b1=sum(odd1) b0=sum(odd0)
  290. pmaddwd mm5, mptr [TABLE+56]  ; x7*w31+x5*w30 x7*w27+x5*w26
  291. paddd mm3, mm6  ; a1+b1 a0+b0
  292. paddd mm0, mptr [ROUNDER]  ; +rounder
  293. psrad mm3, SHIFT_INV_ROW  ; y1=a1+b1 y0=a0+b0
  294. paddd mm0, mm1  ; 1  ; a3=sum(even3) a2=sum(even2)
  295. psubd mm4, mm6  ; 6  ; a1-b1 a0-b0
  296. movq mm7, mm0  ; 7  ; a3 a2
  297. paddd mm2, mm5  ; 5  ; b3=sum(odd3) b2=sum(odd2)
  298. paddd mm0, mm2  ; a3+b3 a2+b2
  299. psrad mm4, SHIFT_INV_ROW  ; y6=a1-b1 y7=a0-b0
  300. psubd mm7, mm2  ; 2  ; a3-b3 a2-b2
  301. psrad mm0, SHIFT_INV_ROW  ; y3=a3+b3 y2=a2+b2
  302. psrad mm7, SHIFT_INV_ROW  ; y4=a3-b3 y5=a2-b2
  303. packssdw mm3, mm0  ; 0  ; y3 y2 y1 y0
  304. packssdw mm7, mm4  ; 4  ; y6 y7 y4 y5
  305. movq mptr [OUT], mm3  ; 3  ; save y3 y2 y1 y0
  306. pshufw mm7, mm7, 10110001b  ; y7 y6 y5 y4
  307. movq mptr [OUT+8], mm7  ; 7  ; save y7 y6 y5 y4
  308. ENDM
  309. ;=============================================================================
  310. ;
  311. ;=============================================================================
  312. ;=============================================================================
  313. ;
  314. ; The first stage DCT 8x8 - forward DCTs of columns
  315. ;
  316. ; The outputs are multiplied
  317. ; for rows 0,4 - on cos_4_16,
  318. ; for rows 1,7 - on cos_1_16,
  319. ; for rows 2,6 - on cos_2_16,
  320. ; for rows 3,5 - on cos_3_16
  321. ; and are shifted to the left for rise of accuracy
  322. ;
  323. ;-----------------------------------------------------------------------------
  324. ;
  325. ; The 8-point scaled forward DCT algorithm (26a8m)
  326. ;
  327. ;-----------------------------------------------------------------------------
  328. ;
  329. ; #define DCT_8_FRW_COL(x, y)
  330. ;{
  331. ; short t0, t1, t2, t3, t4, t5, t6, t7;
  332. ; short tp03, tm03, tp12, tm12, tp65, tm65;
  333. ; short tp465, tm465, tp765, tm765;
  334. ;
  335. ; t0 = LEFT_SHIFT ( x[0] + x[7] );
  336. ; t1 = LEFT_SHIFT ( x[1] + x[6] );
  337. ; t2 = LEFT_SHIFT ( x[2] + x[5] );
  338. ; t3 = LEFT_SHIFT ( x[3] + x[4] );
  339. ; t4 = LEFT_SHIFT ( x[3] - x[4] );
  340. ; t5 = LEFT_SHIFT ( x[2] - x[5] );
  341. ; t6 = LEFT_SHIFT ( x[1] - x[6] );
  342. ; t7 = LEFT_SHIFT ( x[0] - x[7] );
  343. ;
  344. ; tp03 = t0 + t3;
  345. ; tm03 = t0 - t3;
  346. ; tp12 = t1 + t2;
  347. ; tm12 = t1 - t2;
  348. ;
  349. ; y[0] = tp03 + tp12;
  350. ; y[4] = tp03 - tp12;
  351. ;
  352. ; y[2] = tm03 + tm12 * tg_2_16;
  353. ; y[6] = tm03 * tg_2_16 - tm12;
  354. ;
  355. ; tp65 =(t6 +t5 )*cos_4_16;
  356. ; tm65 =(t6 -t5 )*cos_4_16;
  357. ;
  358. ; tp765 = t7 + tp65;
  359. ; tm765 = t7 - tp65;
  360. ; tp465 = t4 + tm65;
  361. ; tm465 = t4 - tm65;
  362. ;
  363. ; y[1] = tp765 + tp465 * tg_1_16;
  364. ; y[7] = tp765 * tg_1_16 - tp465;
  365. ; y[5] = tm765 * tg_3_16 + tm465;
  366. ; y[3] = tm765 - tm465 * tg_3_16;
  367. ;}
  368. ;
  369. ;=============================================================================
  370. DCT_8_FRW_COL_4 MACRO INP:REQ, OUT:REQ
  371. LOCAL x0, x1, x2, x3, x4, x5, x6, x7
  372. LOCAL y0, y1, y2, y3, y4, y5, y6, y7
  373. x0 equ [INP + 0*16]
  374. x1 equ [INP + 1*16]
  375. x2 equ [INP + 2*16]
  376. x3 equ [INP + 3*16]
  377. x4 equ [INP + 4*16]
  378. x5 equ [INP + 5*16]
  379. x6 equ [INP + 6*16]
  380. x7 equ [INP + 7*16]
  381. y0 equ [OUT + 0*16]
  382. y1 equ [OUT + 1*16]
  383. y2 equ [OUT + 2*16]
  384. y3 equ [OUT + 3*16]
  385. y4 equ [OUT + 4*16]
  386. y5 equ [OUT + 5*16]
  387. y6 equ [OUT + 6*16]
  388. y7 equ [OUT + 7*16]
  389. movq mm0, x1 ; 0 ; x1
  390. movq mm1, x6 ; 1 ; x6
  391. movq mm2, mm0 ; 2 ; x1
  392. movq mm3, x2 ; 3 ; x2
  393. paddsw mm0, mm1 ; t1 = x[1] + x[6]
  394. movq mm4, x5 ; 4 ; x5
  395. psllw mm0, SHIFT_FRW_COL ; t1
  396. movq mm5, x0 ; 5 ; x0
  397. paddsw mm4, mm3 ; t2 = x[2] + x[5]
  398. paddsw mm5, x7 ; t0 = x[0] + x[7]
  399. psllw mm4, SHIFT_FRW_COL ; t2
  400. movq mm6, mm0 ; 6 ; t1
  401. psubsw mm2, mm1 ; 1 ; t6 = x[1] - x[6]
  402. movq mm1, mptr tg_2_16 ; 1 ; tg_2_16
  403. psubsw mm0, mm4 ; tm12 = t1 - t2
  404. movq mm7, x3 ; 7 ; x3
  405. pmulhw mm1, mm0 ; tm12*tg_2_16
  406. paddsw mm7, x4 ; t3 = x[3] + x[4]
  407. psllw mm5, SHIFT_FRW_COL ; t0
  408. paddsw mm6, mm4 ; 4 ; tp12 = t1 + t2
  409. psllw mm7, SHIFT_FRW_COL ; t3
  410. movq mm4, mm5 ; 4 ; t0
  411. psubsw mm5, mm7 ; tm03 = t0 - t3
  412. paddsw mm1, mm5 ; y2 = tm03 + tm12*tg_2_16
  413. paddsw mm4, mm7 ; 7 ; tp03 = t0 + t3
  414. por mm1, mptr one_corr ; correction y2 +0.5
  415. psllw mm2, SHIFT_FRW_COL+1 ; t6
  416. pmulhw mm5, mptr tg_2_16 ; tm03*tg_2_16
  417. movq mm7, mm4 ; 7 ; tp03
  418. psubsw mm3, x5 ; t5 = x[2] - x[5]
  419. psubsw mm4, mm6 ; y4 = tp03 - tp12
  420. movq y2, mm1 ; 1 ; save y2
  421. paddsw mm7, mm6 ; 6 ; y0 = tp03 + tp12
  422. movq mm1, x3 ; 1 ; x3
  423. psllw mm3, SHIFT_FRW_COL+1 ; t5
  424. psubsw mm1, x4 ; t4 = x[3] - x[4]
  425. movq mm6, mm2 ; 6 ; t6
  426. movq y4, mm4 ; 4 ; save y4
  427. paddsw mm2, mm3 ; t6 + t5
  428. pmulhw mm2, mptr ocos_4_16 ; tp65 = (t6 + t5)*cos_4_16
  429. psubsw mm6, mm3 ; 3 ; t6 - t5
  430. pmulhw mm6, mptr ocos_4_16 ; tm65 = (t6 - t5)*cos_4_16
  431. psubsw mm5, mm0 ; 0 ; y6 = tm03*tg_2_16 - tm12
  432. por mm5, mptr one_corr ; correction y6 +0.5
  433. psllw mm1, SHIFT_FRW_COL ; t4
  434. por mm2, mptr one_corr ; correction tp65 +0.5
  435. movq mm4, mm1 ; 4 ; t4
  436. movq mm3, x0 ; 3 ; x0
  437. paddsw mm1, mm6 ; tp465 = t4 + tm65
  438. psubsw mm3, x7 ; t7 = x[0] - x[7]
  439. psubsw mm4, mm6 ; 6 ; tm465 = t4 - tm65
  440. movq mm0, mptr tg_1_16 ; 0 ; tg_1_16
  441. psllw mm3, SHIFT_FRW_COL ; t7
  442. movq mm6, mptr tg_3_16 ; 6 ; tg_3_16
  443. pmulhw mm0, mm1 ; tp465*tg_1_16
  444. movq y0, mm7 ; 7 ; save y0
  445. pmulhw mm6, mm4 ; tm465*tg_3_16
  446. movq y6, mm5 ; 5 ; save y6
  447. movq mm7, mm3 ; 7 ; t7
  448. movq mm5, mptr tg_3_16 ; 5 ; tg_3_16
  449. psubsw mm7, mm2 ; tm765 = t7 - tp65
  450. paddsw mm3, mm2 ; 2 ; tp765 = t7 + tp65
  451. pmulhw mm5, mm7 ; tm765*tg_3_16
  452. paddsw mm0, mm3 ; y1 = tp765 + tp465*tg_1_16
  453. paddsw mm6, mm4 ; tm465*tg_3_16
  454. pmulhw mm3, mptr tg_1_16 ; tp765*tg_1_16
  455. por mm0, mptr one_corr ; correction y1 +0.5
  456. paddsw mm5, mm7 ; tm765*tg_3_16
  457. psubsw mm7, mm6 ; 6 ; y3 = tm765 - tm465*tg_3_16
  458. movq y1, mm0 ; 0 ; save y1
  459. paddsw mm5, mm4 ; 4 ; y5 = tm765*tg_3_16 + tm465
  460. movq y3, mm7 ; 7 ; save y3
  461. psubsw mm3, mm1 ; 1 ; y7 = tp765*tg_1_16 - tp465
  462. movq y5, mm5 ; 5 ; save y5
  463. movq y7, mm3 ; 3 ; save y7
  464. ENDM
  465. DCT_8_INV_COL_4 MACRO INP:REQ, OUT:REQ
  466. movq mm0, qword ptr tg_3_16
  467. movq mm3, qword ptr [INP+16*3]
  468. movq mm1, mm0 ; tg_3_16
  469. movq mm5, qword ptr [INP+16*5]
  470. pmulhw mm0, mm3 ; x3*(tg_3_16-1)
  471. movq mm4, qword ptr tg_1_16
  472. pmulhw mm1, mm5 ; x5*(tg_3_16-1)
  473. movq mm7, qword ptr [INP+16*7]
  474. movq mm2, mm4 ; tg_1_16
  475. movq mm6, qword ptr [INP+16*1]
  476. pmulhw mm4, mm7 ; x7*tg_1_16
  477. paddsw mm0, mm3 ; x3*tg_3_16
  478. pmulhw mm2, mm6 ; x1*tg_1_16
  479. paddsw mm1, mm3 ; x3+x5*(tg_3_16-1)
  480. psubsw mm0, mm5 ; x3*tg_3_16-x5 = tm35
  481. movq mm3, qword ptr ocos_4_16
  482. paddsw mm1, mm5 ; x3+x5*tg_3_16 = tp35
  483. paddsw mm4, mm6 ; x1+tg_1_16*x7 = tp17
  484. psubsw mm2, mm7 ; x1*tg_1_16-x7 = tm17
  485. movq mm5, mm4 ; tp17
  486. movq mm6, mm2 ; tm17
  487. paddsw mm5, mm1 ; tp17+tp35 = b0
  488. psubsw mm6, mm0 ; tm17-tm35 = b3
  489. psubsw mm4, mm1 ; tp17-tp35 = t1
  490. paddsw mm2, mm0 ; tm17+tm35 = t2
  491. movq mm7, qword ptr tg_2_16
  492. movq mm1, mm4 ; t1
  493. ; movq qword ptr [SCRATCH+0], mm5 ; save b0
  494. movq qword ptr [OUT+3*16], mm5 ; save b0
  495. paddsw mm1, mm2 ; t1+t2
  496. ; movq qword ptr [SCRATCH+8], mm6 ; save b3
  497. movq qword ptr [OUT+5*16], mm6 ; save b3
  498. psubsw mm4, mm2 ; t1-t2
  499. movq mm5, qword ptr [INP+2*16]
  500. movq mm0, mm7 ; tg_2_16
  501. movq mm6, qword ptr [INP+6*16]
  502. pmulhw mm0, mm5 ; x2*tg_2_16
  503. pmulhw mm7, mm6 ; x6*tg_2_16
  504. ; slot
  505. pmulhw mm1, mm3 ; ocos_4_16*(t1+t2) = b1/2
  506. ; slot
  507. movq mm2, qword ptr [INP+0*16]
  508. pmulhw mm4, mm3 ; ocos_4_16*(t1-t2) = b2/2
  509. psubsw mm0, mm6 ; t2*tg_2_16-x6 = tm26
  510. movq mm3, mm2 ; x0
  511. movq mm6, qword ptr [INP+4*16]
  512. paddsw mm7, mm5 ; x2+x6*tg_2_16 = tp26
  513. paddsw mm2, mm6 ; x0+x4 = tp04
  514. psubsw mm3, mm6 ; x0-x4 = tm04
  515. movq mm5, mm2 ; tp04
  516. movq mm6, mm3 ; tm04
  517. psubsw mm2, mm7 ; tp04-tp26 = a3
  518. paddsw mm3, mm0 ; tm04+tm26 = a1
  519. paddsw mm1, mm1 ; b1
  520. paddsw mm4, mm4 ; b2
  521. paddsw mm5, mm7 ; tp04+tp26 = a0
  522. psubsw mm6, mm0 ; tm04-tm26 = a2
  523. movq mm7, mm3 ; a1
  524. movq mm0, mm6 ; a2
  525. paddsw mm3, mm1 ; a1+b1
  526. paddsw mm6, mm4 ; a2+b2
  527. psraw mm3, SHIFT_INV_COL ; dst1
  528. psubsw mm7, mm1 ; a1-b1
  529. psraw mm6, SHIFT_INV_COL ; dst2
  530. psubsw mm0, mm4 ; a2-b2
  531. ; movq mm1, qword ptr [SCRATCH+0] ; load b0
  532. movq mm1, qword ptr [OUT+3*16] ; load b0
  533. psraw mm7, SHIFT_INV_COL ; dst6
  534. movq mm4, mm5 ; a0
  535. psraw mm0, SHIFT_INV_COL ; dst5
  536. movq qword ptr [OUT+1*16], mm3
  537. paddsw mm5, mm1 ; a0+b0
  538. movq qword ptr [OUT+2*16], mm6
  539. psubsw mm4, mm1 ; a0-b0
  540. ; movq mm3, qword ptr [SCRATCH+8] ; load b3
  541. movq mm3, qword ptr [OUT+5*16] ; load b3
  542. psraw mm5, SHIFT_INV_COL ; dst0
  543. movq mm6, mm2 ; a3
  544. psraw mm4, SHIFT_INV_COL ; dst7
  545. movq qword ptr [OUT+5*16], mm0
  546. paddsw mm2, mm3 ; a3+b3
  547. movq qword ptr [OUT+6*16], mm7
  548. psubsw mm6, mm3 ; a3-b3
  549. movq qword ptr [OUT+0*16], mm5
  550. psraw mm2, SHIFT_INV_COL ; dst3
  551. movq qword ptr [OUT+7*16], mm4
  552. psraw mm6, SHIFT_INV_COL ; dst4
  553. movq qword ptr [OUT+3*16], mm2
  554. movq qword ptr [OUT+4*16], mm6
  555. ENDM
  556. _TEXT SEGMENT PARA PUBLIC USE32 'CODE'
  557. ;
  558. ; extern "C" __fastcall void idct8x8_mmx (short *src_result);
  559. ;
  560. public  @MMX_IDCT@4
  561. @MMX_IDCT@4 proc near
  562. mov     eax, ecx          ; source
  563. DCT_8_INV_ROW_1 [eax+0], [eax+0], tab_i_04, rounder_0
  564. DCT_8_INV_ROW_1 [eax+16], [eax+16], tab_i_17, rounder_1
  565. DCT_8_INV_ROW_1 [eax+32], [eax+32], tab_i_26, rounder_2
  566. DCT_8_INV_ROW_1 [eax+48], [eax+48], tab_i_35, rounder_3
  567. DCT_8_INV_ROW_1 [eax+64], [eax+64], tab_i_04, rounder_4
  568. DCT_8_INV_ROW_1 [eax+80], [eax+80], tab_i_35, rounder_5
  569. DCT_8_INV_ROW_1 [eax+96], [eax+96], tab_i_26, rounder_6
  570. DCT_8_INV_ROW_1 [eax+112], [eax+112], tab_i_17, rounder_7
  571. DCT_8_INV_COL_4 [eax+0],[eax+0]
  572. DCT_8_INV_COL_4 [eax+8],[eax+8]
  573. ret    
  574. @MMX_IDCT@4 ENDP
  575. _TEXT ENDS
  576. _TEXT SEGMENT PARA PUBLIC USE32 'CODE'
  577. ;
  578. ; extern "C" __fastcall void idct8x8_sse (short *src_result);
  579. ;
  580. public  @SSEMMX_IDCT@4
  581. @SSEMMX_IDCT@4 proc near
  582. mov     eax, ecx          ; source
  583. DCT_8_INV_ROW_1_s [eax+0], [eax+0], tab_i_04_s, rounder_0
  584. DCT_8_INV_ROW_1_s [eax+16], [eax+16], tab_i_17_s, rounder_1
  585. DCT_8_INV_ROW_1_s [eax+32], [eax+32], tab_i_26_s, rounder_2
  586. DCT_8_INV_ROW_1_s [eax+48], [eax+48], tab_i_35_s, rounder_3
  587. DCT_8_INV_ROW_1_s [eax+64], [eax+64], tab_i_04_s, rounder_4
  588. DCT_8_INV_ROW_1_s [eax+80], [eax+80], tab_i_35_s, rounder_5
  589. DCT_8_INV_ROW_1_s [eax+96], [eax+96], tab_i_26_s, rounder_6
  590. DCT_8_INV_ROW_1_s [eax+112], [eax+112], tab_i_17_s, rounder_7
  591. DCT_8_INV_COL_4 [eax+0],[eax+0]
  592. DCT_8_INV_COL_4 [eax+8],[eax+8]
  593. ret
  594. @SSEMMX_IDCT@4 ENDP
  595. _TEXT ENDS
  596. END