开通博客赚积分
发布资源赚积分
分类

源码开发语言/平台
当前位置：首页 > 源码/资料 > 多媒体 > DVD > 查看源码
recon.cc
资源名称：dvd-munitions.tar.gz　[点击查看]
上传用户：aoeyumen
上传日期：2007-01-06
资源大小：3329k
文件大小：37k
源码类别：

DVD

开发平台：

Unix_Linux

recon.cc：源码内容
  1. /*
  2.   File: recon.hh
  4.   */
  6. #include "all.hh"
  8. // #define HAVE_3Dnow
  10. #ifdef HAVE_MMX
  11. #ifndef HAVE_3Dnow
  12. static long long ADD_1 = 0x0101010101010101LL;
  13. static long long MASK_AND = 0x7f7f7f7f7f7f7f7fLL;
  14. #endif
  15. #endif
  17. #ifdef HAVE_MMX
  18. #ifndef HAVE_3Dnow
  19. extern "C" void recva(unsigned char *s, unsigned char *d, int lx, int lx2, int h);
  20. extern "C" void recvac(unsigned char *s, unsigned char *d, int lx, int lx2, int h);
  21. extern "C" void rech(unsigned char *s, unsigned char *d, int lx2, int h);
  22. extern "C" void rechc(unsigned char *s, unsigned char *d, int lx2, int h);
  23. #else
  24. inline void recva(unsigned char *s, unsigned char *d, int lx, int lx2, int h);
  25. inline void recvac(unsigned char *s, unsigned char *d, int lx, int lx2, int h);
  26. inline void rech(unsigned char *s, unsigned char *d, int lx2, int h);
  27. inline void rechc(unsigned char *s, unsigned char *d, int lx2, int h);
  28. #endif
  29. #else
  30. inline void recva(unsigned char *s, unsigned char *d, int lx, int lx2, int h);
  31. inline void recvac(unsigned char *s, unsigned char *d, int lx, int lx2, int h);
  32. inline void rech(unsigned char *s, unsigned char *d, int lx2, int h);
  33. inline void rechc(unsigned char *s, unsigned char *d, int lx2, int h);
  34. #endif
  36. inline void rec(unsigned char *s, unsigned char *d, int lx2, int h);
  37. inline void recc(unsigned char *s, unsigned char *d, int lx2, int h);
  38. inline void reca(unsigned char *s, unsigned char *d, int lx2, int h);
  39. inline void recac(unsigned char *s, unsigned char *d, int lx2, int h);
  40. inline void recv(unsigned char *s, unsigned char *d, int lx, int lx2, int h);
  41. inline void recvc(unsigned char *s, unsigned char *d, int lx, int lx2, int h);
  43. inline void recha(unsigned char *s, unsigned char *d, int lx2, int h);
  44. inline void rechac(unsigned char *s, unsigned char *d, int lx2, int h);
  45. inline void rec4(unsigned char *s, unsigned char *d, int lx, int lx2, int h);
  46. inline void rec4c(unsigned char *s, unsigned char *d, int lx, int lx2, int h);
  47. inline void rec4a(unsigned char *s, unsigned char *d, int lx, int lx2, int h);
  48. inline void rec4ac(unsigned char *s, unsigned char *d, int lx, int lx2, int h);
  50. void recon_comp(unsigned char *src, unsigned char *dst,
  51.                   int lx, int lx2, int w, int h, int x, int y, int dx, int dy, int addflag);
  55. void recon(unsigned char *src[], int sfield, 
  56.    unsigned char *dst[], int dfield, int lx,int lx2,
  57.    int w, int h, int x, int y, int dx, int dy, int addflag){
  58.   /*
  59.     unsigned char *src[]; * prediction source buffer *
  60.     int sfield;           * prediction source field number (0 or 1) *
  61.     unsigned char *dst[]; * prediction destination buffer *
  62.     int dfield;           * prediction destination field number (0 or 1)*
  63.     int lx,lx2;           * horizontal offsets *
  64.     int w,h;              * prediction block/sub-block width, height *
  65.     int x,y;              * pixel co-ordinates of top-left sample in current MB *
  66.     int dx,dy;            * horizontal, vertical motion vector *
  67.     int addflag;          * add prediction error to prediction ? *
  68.     */
  69.   /* Y */
  70.   recon_comp((src[0]+(sfield?lx2>>1:0)), 
  71.      dst[0]+(dfield?lx2>>1:0),
  72.              lx,lx2,w,h,x,y,dx,dy,addflag);
  73.   
  74.   if (chroma_format!=CHROMA444){
  75.     lx>>=1; dx/=2;lx2>>=1; w = 0; x>>=1; 
  76.   }
  78.   if (chroma_format==CHROMA420){
  79.     h>>=1; dy/=2;y>>=1; 
  80.   }
  81.   
  82.   /* Cb */
  83.   recon_comp((src[1]+(sfield?lx2>>1:0)), 
  84.      dst[1]+(dfield?lx2>>1:0),
  85.      lx,lx2,w,h,x,y,dx,dy,addflag);
  86.   /* Cr */
  87.   recon_comp((src[2]+(sfield?lx2>>1:0)),
  88.      dst[2]+(dfield?lx2>>1:0),
  89.              lx,lx2,w,h,x,y,dx,dy,addflag);
  90. }
  92. //#define WIDTH 16
  93. #define WIDTH 1
  94. void LayerData::reconstruct(int bx, int by, int mb_type, int motion_type,
  95.     int PMV[2][2][2], int mv_field_sel[2][2], 
  96.     int dmvector[2], int stwtype){
  97.   int currentfield;
  98.   unsigned char **predframe;
  99.   int DMV[2][2];
  100.   int stwtop, stwbot;
  102.   stwtop = stwtype%3; /* 0:temporal, 1:(spat+temp)/2, 2:spatial */
  103.   stwbot = stwtype/3;
  105.   if ((mb_type & MB_FORWARD) || (pict_type==P_TYPE)){
  106.     if (pict_struct==FRAME_PICTURE){
  107.       if ((motion_type==MC_FRAME) || !(mb_type & MB_FORWARD)){
  108.         /* frame-based prediction */
  109. {
  110.         if (stwtop<2)
  111.           recon(oldrefframe,0,newframe,0,
  112.              coded_picture_width,coded_picture_width<<1,WIDTH,8,bx,by,
  113.             PMV[0][0][0],PMV[0][0][1],stwtop);
  115.         if (stwbot<2)
  116.           recon(oldrefframe,1,newframe,1,
  117.              coded_picture_width,coded_picture_width<<1,WIDTH,8,bx,by,
  118.             PMV[0][0][0],PMV[0][0][1],stwbot);
  119.       }
  120.       }
  121.       else if (motion_type==MC_FIELD) /* field-based prediction */
  122.       {
  123.         /* top field prediction */
  124.         if (stwtop<2)
  125.           recon(oldrefframe,mv_field_sel[0][0],newframe,0,
  126.             coded_picture_width<<1,coded_picture_width<<1,WIDTH,8,bx,by>>1,
  127.             PMV[0][0][0],PMV[0][0][1]>>1,stwtop);
  129.         /* bottom field prediction */
  130.         if (stwbot<2)
  131.           recon(oldrefframe,mv_field_sel[1][0],newframe,1,
  132.             coded_picture_width<<1,coded_picture_width<<1,WIDTH,8,bx,by>>1,
  133.             PMV[1][0][0],PMV[1][0][1]>>1,stwbot);
  134.       }
  135.       else if (motion_type==MC_DMV){ /* dual prime prediction */
  136.         /* calculate derived motion vectors */
  137.         ld->calc_DMV(DMV,dmvector,PMV[0][0][0],PMV[0][0][1]>>1);
  139.         if (stwtop<2){
  140.           /* predict top field from top field */
  141.           recon(oldrefframe,0,newframe,0,
  142.             coded_picture_width<<1,coded_picture_width<<1,WIDTH,8,bx,by>>1,
  143.             PMV[0][0][0],PMV[0][0][1]>>1,0);
  145.           /* predict and add to top field from bottom field */
  146.           recon(oldrefframe,1,newframe,0,
  147.             coded_picture_width<<1,coded_picture_width<<1,WIDTH,8,bx,by>>1,
  148.             DMV[0][0],DMV[0][1],1);
  149.         }
  151.         if (stwbot<2)
  152.         {
  153.           /* predict bottom field from bottom field */
  154.           recon(oldrefframe,1,newframe,1,
  155.             coded_picture_width<<1,coded_picture_width<<1,WIDTH,8,bx,by>>1,
  156.             PMV[0][0][0],PMV[0][0][1]>>1,0);
  158.           /* predict and add to bottom field from top field */
  159.           recon(oldrefframe,0,newframe,1,
  160.             coded_picture_width<<1,coded_picture_width<<1,WIDTH,8,bx,by>>1,
  161.             DMV[1][0],DMV[1][1],1);
  162.         }
  163.       }
  164.       else
  165.         /* invalid motion_type */
  166.         if (!quiet) printf("invalid motion_typen");
  167.     }
  168.     else /* TOP_FIELD or BOTTOM_FIELD */
  169.     {
  170.       /* field picture */
  171.       currentfield = (pict_struct==BOTTOM_FIELD);
  173.       /* determine which frame to use for prediction */
  174.       if ((pict_type==P_TYPE) && secondfield
  175.          && (currentfield!=mv_field_sel[0][0]))
  176.         predframe = refframe; /* same frame */
  177.       else
  178.         predframe = oldrefframe; /* previous frame */
  180.       if ((motion_type==MC_FIELD) || !(mb_type & MB_FORWARD))
  181.       {
  182.         /* field-based prediction */
  183.         if (stwtop<2)
  184.           recon(predframe,mv_field_sel[0][0],newframe,0,
  185.             coded_picture_width<<1,coded_picture_width<<1,WIDTH,16,bx,by,
  186.             PMV[0][0][0],PMV[0][0][1],stwtop);
  187.       }
  188.       else if (motion_type==MC_16X8)
  189.       {
  190.         if (stwtop<2)
  191.         {
  192.           recon(predframe,mv_field_sel[0][0],newframe,0,
  193.             coded_picture_width<<1,coded_picture_width<<1,WIDTH,8,bx,by,
  194.             PMV[0][0][0],PMV[0][0][1],stwtop);
  196.           /* determine which frame to use for lower half prediction */
  197.           if ((pict_type==P_TYPE) && secondfield
  198.              && (currentfield!=mv_field_sel[1][0]))
  199.             predframe = refframe; /* same frame */
  200.           else
  201.             predframe = oldrefframe; /* previous frame */
  203.           recon(predframe,mv_field_sel[1][0],newframe,0,
  204.             coded_picture_width<<1,coded_picture_width<<1,WIDTH,8,bx,by+8,
  205.             PMV[1][0][0],PMV[1][0][1],stwtop);
  206.         }
  207.       }
  208.       else if (motion_type==MC_DMV) /* dual prime prediction */
  209.       {
  210.         if (secondfield)
  211.           predframe = refframe; /* same frame */
  212.         else
  213.           predframe = oldrefframe; /* previous frame */
  215.         /* calculate derived motion vectors */
  216.         calc_DMV(DMV,dmvector,PMV[0][0][0],PMV[0][0][1]);
  218.         /* predict from field of same parity */
  219.         recon(oldrefframe,currentfield,newframe,0,
  220.           coded_picture_width<<1,coded_picture_width<<1,WIDTH,16,bx,by,
  221.           PMV[0][0][0],PMV[0][0][1],0);
  223.         /* predict from field of opposite parity */
  224.         recon(predframe,!currentfield,newframe,0,
  225.           coded_picture_width<<1,coded_picture_width<<1,WIDTH,16,bx,by,
  226.           DMV[0][0],DMV[0][1],1);
  227.       }
  228.       else
  229.         /* invalid motion_type */
  230.         printf("invalid motion_typen");
  231.     }
  232.     stwtop = stwbot = 1;
  233.   }
  235.   if (mb_type & MB_BACKWARD)
  236.   {
  237.     if (pict_struct==FRAME_PICTURE)
  238.     {
  239.       if (motion_type==MC_FRAME)
  240.       {
  241.         /* frame-based prediction */
  242.         if (stwtop<2)
  243.           recon(refframe,0,newframe,0,
  244.              coded_picture_width,coded_picture_width<<1,WIDTH,8,bx,by,
  245.             PMV[0][1][0],PMV[0][1][1],stwtop);
  247.         if (stwbot<2)
  248.           recon(refframe,1,newframe,1,
  249. coded_picture_width,coded_picture_width<<1,WIDTH,8,bx,by,
  250. PMV[0][1][0],PMV[0][1][1],stwbot);
  251.       }
  252.       else {           /* field-based prediction */
  253. /* top field prediction */
  254. if (stwtop<2){
  255.   recon(refframe,mv_field_sel[0][1],newframe,0,
  256. (coded_picture_width<<1), (coded_picture_width<<1),WIDTH,8,bx, (by>>1),
  257. PMV[0][1][0], (PMV[0][1][1]>>1), stwtop);
  258. }
  260.         /* bottom field prediction */
  261.         if (stwbot<2){
  262.           recon(refframe, mv_field_sel[1][1], newframe, 1, (coded_picture_width<<1),
  263. (coded_picture_width<<1), WIDTH, 8, bx, (by>>1),
  264. PMV[1][1][0], (PMV[1][1][1]>>1), stwbot);
  265. }
  266.       }
  267.     }
  268.     else {                       /* TOP_FIELD or BOTTOM_FIELD */
  269.       /* field picture */
  270.       if (motion_type==MC_FIELD){
  271.         /* field-based prediction */
  272.         recon(refframe,mv_field_sel[0][1],newframe,0,
  273.       coded_picture_width<<1,coded_picture_width<<1,WIDTH,16,bx,by,
  274.       PMV[0][1][0],PMV[0][1][1],stwtop);
  275.       }
  276.       else if (motion_type==MC_16X8)
  277.       {
  278.         recon(refframe,mv_field_sel[0][1],newframe,0,
  279.           coded_picture_width<<1,coded_picture_width<<1,WIDTH,8,bx,by,
  280.           PMV[0][1][0],PMV[0][1][1],stwtop);
  282.         recon(refframe,mv_field_sel[1][1],newframe,0,
  283.           coded_picture_width<<1,coded_picture_width<<1,WIDTH,8,bx,by+8,
  284.           PMV[1][1][0],PMV[1][1][1],stwtop);
  285.       }
  286.       else
  287.         /* invalid motion_type */
  288.         printf("invalid motion_typen");
  289.     }
  290.   } /* mb_type & MB_BACKWARD */
  291. }
  293. inline void rec(unsigned char *s, unsigned char *d, int lx2, int h)
  294. {
  295. #ifdef HAVE_MMX
  296. __asm__ __volatile__(
  297. ".align 8n"
  298. "1:t"
  299. "movq ( %1 ),      %%mm0n" /* 8 s */
  300.     "movq 8( %1 ),     %%mm2n" /* 16 s */
  301.     "movq %%mm0,   ( %2 )n"   
  302. "addl %3, %1n"
  303.     "movq %%mm2,   8( %2 )n"   
  304. "decl %0n"
  305.     "leal (%2, %3), %2n"
  306.   "jnz    1b"            
  307. : 
  308. : "c" (h), "r" (s), "r" (d), "r" (lx2)
  309. );   
  310. #else
  311.   for (int j=0; j<h; j++, s+=lx2, d+=lx2){
  312.     d[0] = s[0];d[1] = s[1];d[2] = s[2];d[3] = s[3];
  313.     d[4] = s[4];d[5] = s[5];d[6] = s[6];d[7] = s[7];
  314.     d[8] = s[8];d[9] = s[9];d[10] = s[10];d[11] = s[11];
  315.     d[12] = s[12];d[13] = s[13];d[14] = s[14];d[15] = s[15];
  316.   }
  317. #endif
  318. }
  320. inline void recc(unsigned char *s, unsigned char *d, int lx2, int h){
  321. #ifdef HAVE_MMX
  322. __asm__ __volatile__(
  323. ".align 8n"
  324.     "1:t"
  325.      "movq ( %1 ),     %%mm0n"
  326.        "addl %3,      %1n"
  327.        "movq %%mm0,     ( %2 )n"   
  328. "decl %0n"
  329.        "leal (%2, %3), %2n"
  330.     "jnz    1b"            
  331. : 
  332. : "c" (h), "r" (s), "r" (d), "r" (lx2)
  333. );   
  334. #else
  335.   for (int j=0; j<h; j++, s+=lx2, d+=lx2){
  336.     d[0] = s[0];d[1] = s[1];d[2] = s[2];d[3] = s[3];
  337.     d[4] = s[4];d[5] = s[5];d[6] = s[6];d[7] = s[7];
  338.   }
  339. #endif
  340. }
  342. inline void reca(unsigned char *s,unsigned char  *d, int lx2, int h){
  343. #ifdef HAVE_MMX
  344. #ifdef HAVE_3Dnow
  345. __asm__ (
  346. ".align 8n"
  347. "1:"
  348.     "movq (%1), %%mm0n"      /* 8 s */
  349.     "movq (%2), %%mm2n"      /* 8 d */
  350.     "movq 8(%1), %%mm1n"      /* 8 s */
  351.     "movq 8(%2), %%mm3n"      /* 8 d */
  352. "pavgusb  %%mm2,  %%mm0n"
  353. "addl %3, %1n"
  354. "pavgusb  %%mm3,  %%mm1n"
  356. "movq %%mm0, (%2)n"
  357. "movq %%mm1, 8(%2)n"
  358. "addl %3, %2n"
  359. "loop 1bn"
  360. :
  361. : "c" (h), "r" (s), "r" (d), "r" (lx2)
  362. );
  363. #else
  364. __asm__ (
  365.    "movq      MASK_AND,  %%mm5n"
  366.    "movq      ADD_1,  %%mm6n"
  367. "1:t"
  368.    "movq        (%1),%%mm0n"
  369.    "movq        (%2),%%mm1n"
  370.    "movq       8(%1),%%mm2n"
  371.    "movq       8(%2),%%mm3n"
  372.    "psrlw $1,%%mm0n"
  373.    "psrlw     $1,%%mm1n"
  374.    "psrlw     $1,%%mm2n"
  375.    "psrlw     $1,%%mm3n"
  376.    "pand     %%mm5,%%mm0n"
  377.    "pand     %%mm5,%%mm1n"
  378.    "pand     %%mm5,%%mm2n"
  379.    "pand     %%mm5,%%mm3n"
  380.    "paddusb    %%mm1,%%mm0n"
  381.    "paddusb    %%mm3,%%mm2n"
  382.    "paddusb    %%mm6,%%mm0n"
  383.    "paddusb    %%mm6,%%mm2n"
  384.    "movq       %%mm0,(%2)n"
  385.    "addl       %3,%1n"
  386.    "movq     %%mm2, 8(%2)n"
  387.    "decl       %0n"
  388.    "leal (%2, %3), %2n"
  389.    "jnz        1bn"
  390. :
  391. : "c" (h), "r" (s), "r" (d), "r" (lx2)
  392. );
  393. #endif
  394. #else
  395.   for (int j=0; j<h; j++, s+=lx2, d+=lx2){
  396.     d[0] = (unsigned int)(d[0] + s[0] + 1)>>1;
  397.     d[1] = (unsigned int)(d[1] + s[1] + 1)>>1;
  398.     d[2] = (unsigned int)(d[2] + s[2] + 1)>>1;
  399.     d[3] = (unsigned int)(d[3] + s[3] + 1)>>1;
  400.     d[4] = (unsigned int)(d[4] + s[4] + 1)>>1;
  401.     d[5] = (unsigned int)(d[5] + s[5] + 1)>>1;
  402.     d[6] = (unsigned int)(d[6] + s[6] + 1)>>1;
  403.     d[7] = (unsigned int)(d[7] + s[7] + 1)>>1;
  404.     d[8] = (unsigned int)(d[8] + s[8] + 1)>>1;
  405.     d[9] = (unsigned int)(d[9] + s[9] + 1)>>1;
  406.     d[10] = (unsigned int)(d[10] + s[10] + 1)>>1;
  407.     d[11] = (unsigned int)(d[11] + s[11] + 1)>>1;
  408.     d[12] = (unsigned int)(d[12] + s[12] + 1)>>1;
  409.     d[13] = (unsigned int)(d[13] + s[13] + 1)>>1;
  410.     d[14] = (unsigned int)(d[14] + s[14] + 1)>>1;
  411.     d[15] = (unsigned int)(d[15] + s[15] + 1)>>1;
  412.   }
  413. #endif
  414. }
  416. inline void recac(unsigned char *s, unsigned char *d, int lx2, int h){
  417. #ifdef HAVE_MMX
  418. #ifdef HAVE_3Dnow
  419. __asm__ (
  420. ".align 8n"
  421. "1:"
  422.     "movq (%1), %%mm0n"      /* 8 s */
  423.     "movq (%2), %%mm2n"      /* 8 d */
  424. "pavgusb  %%mm2,  %%mm0n"
  425. "addl %3, %1n"
  426. "movq %%mm0, (%2)n"
  427. "addl %3, %2n"
  428. "loop 1bn"
  429. :
  430. : "c" (h), "r" (s), "r" (d), "r" (lx2)
  431. );
  432. #else
  433. __asm__ (
  434.    "movq      MASK_AND,  %%mm5n"
  435.    "movq      ADD_1,  %%mm6n"
  436. "1:t"
  437.    "movq       (%1),%%mm0n"
  438.    "movq       (%2),%%mm1n"
  439.    "psrlw $1,%%mm0n"
  440.    "psrlw     $1,%%mm1n"
  441.    "pand     %%mm5,%%mm0n"
  442.    "pand     %%mm5,%%mm1n"
  443.    "paddusb    %%mm1,%%mm0n"
  444.    "paddusb    %%mm6,%%mm0n"
  445.    "addl       %3,%1n"
  446.    "movq       %%mm0,(%2)n"
  447.    "decl       %0n"
  448.    "leal (%2, %3), %2n"
  449.    "jnz        1bn"
  450. :
  451. : "c" (h), "r" (s), "r" (d), "r" (lx2)
  452. );
  453. #endif
  454. #else
  455.   for (int j=0; j<h; j++, s+= lx2, d+= lx2){
  456.     d[0] = (unsigned int)(d[0] + s[0] + 1)>>1;
  457.     d[1] = (unsigned int)(d[1] + s[1] + 1)>>1;
  458.     d[2] = (unsigned int)(d[2] + s[2] + 1)>>1;
  459.     d[3] = (unsigned int)(d[3] + s[3] + 1)>>1;
  460.     d[4] = (unsigned int)(d[4] + s[4] + 1)>>1;
  461.     d[5] = (unsigned int)(d[5] + s[5] + 1)>>1;
  462.     d[6] = (unsigned int)(d[6] + s[6] + 1)>>1;
  463.     d[7] = (unsigned int)(d[7] + s[7] + 1)>>1;
  464.   }
  465. #endif
  466. }
  468. inline void recv(unsigned char *s, unsigned char *d, int lx,int lx2, int h){
  469. #ifdef HAVE_MMX
  470. #ifdef HAVE_3Dnow
  471. __asm__(
  472. ".align 8n"
  473. "1:"
  474.     "movq (%1), %%mm0n"      /* 8 s */
  475.     "movq (%4), %%mm2n"      /* 8 s +lx */
  476.     "movq 8(%1), %%mm1n"      /* 8 s */
  477.     "movq 8(%4), %%mm3n"      /* 8 s +lx **/
  479. "pavgusb %%mm2,  %%mm0n"
  480. "addl %3, %1n"
  481. "pavgusb %%mm3,  %%mm1n"
  483. "movq %%mm0, (%2)n"
  484. "addl %3, %4n"
  485. "movq %%mm1, 8(%2)n"
  486. "addl %3, %2n"
  487. "loop 1bn"
  488.       :
  489.       : "c" (h), "r" (s), "r" (d), "r" (lx2), "r" (s +lx)
  490. );
  491. #else
  492. __asm__ (
  493.    "movq      MASK_AND,  %%mm5n"
  494.    "movq      ADD_1,  %%mm6n"
  495. "1:t"
  496.     "movq (%1), %%mm0n"      /* 8 s */
  497.     "movq (%4), %%mm1n"      /* 8 s +lx */
  498.     "movq 8(%1), %%mm2n"      /* 8 s */
  499.     "movq 8(%4), %%mm3n"      /* 8 s +lx **/
  500.    "psrlw      $1,%%mm0n"
  501.    "psrlw      $1,%%mm1n"
  502.    "psrlw      $1,%%mm2n"
  503.    "psrlw      $1,%%mm3n"
  504.    "pand       %%mm5,%%mm0n"
  505.    "pand       %%mm5,%%mm1n"
  506.    "pand       %%mm5,%%mm2n"
  507.    "pand       %%mm5,%%mm3n"
  508.    "paddusb    %%mm1,%%mm0n"
  509.    "paddusb    %%mm3,%%mm2n"
  510.    "paddusb    %%mm6,%%mm0n"
  511.    "paddusb    %%mm6,%%mm2n"
  512.    "movq       %%mm0,(%2)n"
  513.    "addl       %3,%1n"
  514.    "movq     %%mm2, 8(%2)n"
  515.    "addl       %3,%4n"
  516.    "decl       %0n"
  517.    "leal (%2, %3), %2n"
  518.    "jnz        1bn"
  519.       :
  520.       : "c" (h), "r" (s), "r" (d), "r" (lx2), "r" (s +lx)
  521. );
  522. #endif
  524. #else
  525.   unsigned char *dp,*sp,*sp2;
  526.   sp = s;
  527.   sp2 = s+lx;
  528.   dp = d;
  529.   for (int j=0; j<h; j++){
  530.     dp[0] = (unsigned int)(sp[0]+sp2[0]+1)>>1;
  531.     dp[1] = (unsigned int)(sp[1]+sp2[1]+1)>>1;
  532.     dp[2] = (unsigned int)(sp[2]+sp2[2]+1)>>1;
  533.     dp[3] = (unsigned int)(sp[3]+sp2[3]+1)>>1;
  534.     dp[4] = (unsigned int)(sp[4]+sp2[4]+1)>>1;
  535.     dp[5] = (unsigned int)(sp[5]+sp2[5]+1)>>1;
  536.     dp[6] = (unsigned int)(sp[6]+sp2[6]+1)>>1;
  537.     dp[7] = (unsigned int)(sp[7]+sp2[7]+1)>>1;
  538.     dp[8] = (unsigned int)(sp[8]+sp2[8]+1)>>1;
  539.     dp[9] = (unsigned int)(sp[9]+sp2[9]+1)>>1;
  540.     dp[10] = (unsigned int)(sp[10]+sp2[10]+1)>>1;
  541.     dp[11] = (unsigned int)(sp[11]+sp2[11]+1)>>1;
  542.     dp[12] = (unsigned int)(sp[12]+sp2[12]+1)>>1;
  543.     dp[13] = (unsigned int)(sp[13]+sp2[13]+1)>>1;
  544.     dp[14] = (unsigned int)(sp[14]+sp2[14]+1)>>1;
  545.     dp[15] = (unsigned int)(sp[15]+sp2[15]+1)>>1;
  546.     sp+= lx2;
  547.     sp2+= lx2;
  548.     dp+= lx2;
  549.   }
  550. #endif
  551. }
  553. inline void recvc(unsigned char *s, unsigned char *d, int lx, int lx2, int h){
  554. #ifdef HAVE_MMX
  555. #ifdef HAVE_3Dnow
  556. __asm__(
  557. ".align 8n"
  558. "1:"
  559.     "movq (%1), %%mm0n"      /* 8 s */
  560.     "movq (%4), %%mm2n"      /* 8 s +lx */
  561. "addl %3, %1n"
  562. "pavgusb %%mm2,  %%mm0n"
  563. "addl %3, %4n"
  564. "movq %%mm0, (%2)n"
  565. "addl %3, %2n"
  566. "loop 1bn"
  567.       :
  568.       : "c" (h), "r" (s), "r" (d), "r" (lx2), "r" (s +lx)
  569. );
  570. #else
  571. __asm__ (
  572.    "movq      MASK_AND,  %%mm5n"
  573.    "movq      ADD_1,  %%mm6n"
  574. "1:t"
  575.     "movq (%1), %%mm0n"      /* 8 s */
  576.     "movq (%4), %%mm1n"      /* 8 s +lx */
  577.    "psrlw      $1,%%mm0n"
  578.    "psrlw      $1,%%mm1n"
  579.    "pand       %%mm5,%%mm0n"
  580.    "pand       %%mm5,%%mm1n"
  581.    "paddusb    %%mm1,%%mm0n"
  582.    "addl       %3,%1n"
  583.    "paddusb    %%mm6,%%mm0n"
  584.    "addl       %3,%4n"
  585.    "movq       %%mm0,(%2)n"
  586.    "decl       %0n"
  587.    "leal (%2, %3), %2n"
  588.    "jnz        1bn"
  589.       :
  590.       : "c" (h), "r" (s), "r" (d), "r" (lx2), "r" (s +lx)
  591. );
  592. #endif
  594. #else
  595.   unsigned char *dp,*sp,*sp2;
  597.   sp = s;
  598.   sp2 = s+lx;
  599.   dp = d;
  600.   for (int j=0; j<h; j++){
  601.     dp[0] = (unsigned int)(sp[0]+sp2[0]+1)>>1;
  602.     dp[1] = (unsigned int)(sp[1]+sp2[1]+1)>>1;
  603.     dp[2] = (unsigned int)(sp[2]+sp2[2]+1)>>1;
  604.     dp[3] = (unsigned int)(sp[3]+sp2[3]+1)>>1;
  605.     dp[4] = (unsigned int)(sp[4]+sp2[4]+1)>>1;
  606.     dp[5] = (unsigned int)(sp[5]+sp2[5]+1)>>1;
  607.     dp[6] = (unsigned int)(sp[6]+sp2[6]+1)>>1;
  608.     dp[7] = (unsigned int)(sp[7]+sp2[7]+1)>>1;
  609.     sp+= lx2;
  610.     sp2+= lx2;
  611.     dp+= lx2;
  612.   }
  613. #endif
  614. }
  616. #ifdef HAVE_3Dnow
  617. inline void recva(unsigned char *s, unsigned char *d, int lx, int lx2, int h)
  618. {
  619. __asm__(
  620. ".align 8n"
  621. "1:"
  622.     "movq (%1), %%mm0n"      /* 8 s */
  623.     "movq 8(%1), %%mm1n"      /* 8 s */
  624.     "movq (%4), %%mm2n"      /* 8 s +lx */
  625.     "movq 8(%4), %%mm3n"      /* 8 s +lx **/
  627. "pavgusb %%mm2,  %%mm0n"
  628. "addl %3, %1n"
  629. "pavgusb %%mm3,  %%mm1n"
  631.     "movq (%2), %%mm2n"      /* 8 d */
  632.     "movq 8(%2), %%mm3n"      /* 8 d */
  633. "pavgusb %%mm2,  %%mm0n"
  634. "addl %3, %4n"
  635. "pavgusb %%mm3,  %%mm1n"
  637. "movq %%mm0, (%2)n"
  638. "movq %%mm1, 8(%2)n"
  639. "addl %3, %2n"
  640. "loop 1bn"
  641.       :
  642.       : "c" (h), "r" (s), "r" (d), "r" (lx2), "r" (s +lx)
  643. );
  644. }
  646. inline void recvac(unsigned char *s, unsigned char *d, int lx,int lx2, int h)
  647. {
  648. __asm__(
  649. ".align 8n"
  650. "1:"
  651.     "movq (%1), %%mm0n"      /* 8 s */
  652.     "movq (%4), %%mm2n"      /* 8 s +lx */
  653. "addl %3, %1n"
  654. "pavgusb %%mm2,  %%mm0n"
  655.     "movq (%2), %%mm3n"      /* 8 d */
  656. "addl %3, %4n"
  657. "pavgusb %%mm3,  %%mm0n"
  658. "movq %%mm0, (%2)n"
  659. "addl %3, %2n"
  660. "loop 1bn"
  661.       :
  662.       : "c" (h), "r" (s), "r" (d), "r" (lx2), "r" (s +lx)
  663. );
  664. }
  666. inline void rech(unsigned char *s, unsigned char *d, int lx2, int h)
  667. {
  668. __asm__ (
  669. ".align 8n"
  670. "1:"
  671.     "movq (%1), %%mm0n"      /* 8 s */
  672.     "movq 8(%1), %%mm1n"      /* 8 s */
  673.     "movq 1(%1), %%mm2n"      /* 8 s */
  674.     "movq 9(%1), %%mm3n"      /* 8 s */
  676. "pavgusb  %%mm2,  %%mm0n"
  677. "addl %3, %1n"
  678. "pavgusb  %%mm3,  %%mm1n"
  680. "movq %%mm0, (%2)n"
  681. "movq %%mm1, 8(%2)n"
  682. "addl %3, %2n"
  683. "loop 1bn"
  684.       :
  685.       : "c" (h), "r" (s), "r" (d), "r" (lx2)
  686. );
  687. }
  689. inline void rechc(unsigned char *s,unsigned char *d, int lx2, int h){
  690. __asm__ (
  691. ".align 8n"
  692. "1:"
  693.     "movq (%1), %%mm0n"      /* 8 s */
  694.     "movq 1(%1), %%mm2n"      /* 8 s +1 */
  695. "addl %3, %1n"
  696. "pavgusb  %%mm2,  %%mm0n"
  697. "movq %%mm0, (%2)n"
  698. "addl %3, %2n"
  699. "loop 1bn"
  700.       :
  701.       : "c" (h), "r" (s), "r" (d), "r" (lx2)
  702. );
  703. }
  705. inline void recha(unsigned char *s, unsigned char *d,int lx2, int h)
  706. {
  707. __asm__ (
  708. ".align 8n"
  709. "1:"
  710.     "movq (%1), %%mm0n"      /* 8 s */
  711.     "movq 8(%1), %%mm1n"      /* 8 s */
  712.     "movq 1(%1), %%mm2n"      /* 8 s */
  713.     "movq 9(%1), %%mm3n"      /* 8 s */
  715. "pavgusb  %%mm2,  %%mm0n"
  716. "addl %3, %1n"
  717. "pavgusb  %%mm3,  %%mm1n"
  719.     "movq (%2), %%mm2n"      /* 8 d */
  720.     "movq 8(%2), %%mm3n"      /* 8 d */
  721. "pavgusb  %%mm2,  %%mm0n"
  722. "pavgusb  %%mm3,  %%mm1n"
  724. "movq %%mm0, (%2)n"
  725. "movq %%mm1, 8(%2)n"
  726. "addl %3, %2n"
  727. "loop 1bn"
  728.       :
  729.       : "c" (h), "r" (s), "r" (d), "r" (lx2)
  730. );
  731. }
  733. inline void rechac(unsigned char *s,unsigned char  *d, int lx2, int h)
  734. {
  735. __asm__ (
  736. ".align 8n"
  737. "1:"
  738.     "movq (%1), %%mm0n"      /* 8 s */
  739.     "movq 1(%1), %%mm2n"      /* 8 s */
  741. "addl %3, %1n"
  742. "pavgusb  %%mm2,  %%mm0n"
  744.     "movq (%2), %%mm1n"      /* 8 d */
  745. "pavgusb  %%mm1,  %%mm0n"
  747. "movq %%mm0, (%2)n"
  748. "addl %3, %2n"
  749. "loop 1bn"
  750.       :
  751.       : "c" (h), "r" (s), "r" (d), "r" (lx2)
  752. );
  753. }
  754. inline void rec4(unsigned char *s, unsigned char *d, int lx, int lx2, int h)
  755. {
  756. __asm__ __volatile__(
  757.     "movq (%1), %%mm0n"  /* 8 s */
  758.     "movq 8(%1), %%mm1n"  /* 8 s */
  759.     "movq 1(%1), %%mm2n"  /* 8 s +1*/
  760.     "movq 9(%1), %%mm3n"  /* 8 s +1*/
  761. ".align 8n"
  762. "1:"
  763.     "movq (%4), %%mm4n"  /* 8 s+lx */
  764. "pavgusb  %%mm2,  %%mm0n"
  765.     "movq 8(%4), %%mm5n"  /* 8 s+lx */
  766. "pavgusb  %%mm3,  %%mm1n"
  768.     "movq 1(%4), %%mm6n"  /* 8 s+lx +1*/
  769. "pavgusb  %%mm4,  %%mm0n"
  770.     "movq 9(%4), %%mm7n"  /* 8 s+lx +1*/
  771. "pavgusb  %%mm5,  %%mm1n"
  773. "pavgusb  %%mm6,  %%mm0n"
  774. "addl %3, %4n"
  775. "pavgusb  %%mm7,  %%mm1n"
  776. "movq %%mm0, (%2)n"
  777. "movq %%mm6, %%mm2n"
  778. "movq %%mm7, %%mm3n"
  779. "movq %%mm1, 8(%2)n"
  780. "movq %%mm4, %%mm0n"
  781. "movq %%mm5, %%mm1n"
  782. "addl %3, %2n"
  783. "loop 1bn"
  784.        :
  785. : "c" (h), "r" (s), "r" (d), "r" (lx2), "r" (s +lx)
  786. );
  787. }
  789. inline void rec4c(unsigned char *s,unsigned char *d, int lx, int lx2, int h)
  790. {
  791. __asm__ __volatile__(
  792.     "movq (%1), %%mm0n"  /* 8 s */
  793.     "movq 1(%1), %%mm2n"  /* 8 s +1*/
  794. ".align 8n"
  795. "1:"
  796.     "movq (%4), %%mm4n"  /* 8 s+lx */
  797. "pavgusb  %%mm2,  %%mm0n"
  799.     "movq 1(%4), %%mm6n"  /* 8 s+lx +1*/
  800. "pavgusb  %%mm4,  %%mm0n"
  802. "addl %3, %4n"
  803. "pavgusb  %%mm6,  %%mm0n"
  804. "movq %%mm0, (%2)n"
  805. "movq %%mm6, %%mm2n"
  806. "movq %%mm4, %%mm0n"
  807. "addl %3, %2n"
  808. "loop 1bn"
  809.        :
  810. : "c" (h), "r" (s), "r" (d), "r" (lx2), "r" (s +lx)
  811. );
  812. }
  814. inline void rec4a(unsigned char *s,unsigned char *d, int lx, int lx2, int h)
  815. {
  816. __asm__ __volatile__(
  817.     "movq (%1), %%mm0n"  /* 8 s */
  818.     "movq 8(%1), %%mm1n"  /* 8 s */
  819.     "movq 1(%1), %%mm2n"  /* 8 s +1*/
  820.     "movq 9(%1), %%mm3n"  /* 8 s +1*/
  821. ".align 8n"
  822. "1:"
  823.     "movq (%4), %%mm4n"  /* 8 s+lx */
  824. "pavgusb  %%mm2,  %%mm0n"
  825.     "movq 8(%4), %%mm5n"  /* 8 s+lx */
  826. "pavgusb  %%mm3,  %%mm1n"
  828.     "movq 1(%4), %%mm6n"  /* 8 s+lx +1*/
  829. "pavgusb  %%mm4,  %%mm0n"
  830.     "movq 9(%4), %%mm7n"  /* 8 s+lx +1*/
  831. "pavgusb  %%mm5,  %%mm1n"
  832. "movq (%2), %%mm2n"
  833. "pavgusb  %%mm6,  %%mm0n"
  834. "movq 8(%2), %%mm3n"
  836. "pavgusb  %%mm2,  %%mm0n"
  837. "addl %3, %4n"
  838. "pavgusb  %%mm3,  %%mm1n"
  839. "movq %%mm0, (%2)n"
  841. "pavgusb  %%mm7,  %%mm1n"
  842. "movq %%mm6, %%mm2n"
  843. "movq %%mm7, %%mm3n"
  844. "movq %%mm1, 8(%2)n"
  845. "movq %%mm4, %%mm0n"
  846. "movq %%mm5, %%mm1n"
  847. "addl %3, %2n"
  848. "loop 1bn"
  849.        :
  850. : "c" (h), "r" (s), "r" (d), "r" (lx2), "r" (s +lx)
  851. );
  852. }
  854. inline void rec4ac(unsigned char *s,unsigned char  *d, int lx, int lx2, int h)
  855. {
  856. __asm__ __volatile__(
  857.     "movq (%1), %%mm0n"  /* 8 s */
  858.     "movq 1(%1), %%mm2n"  /* 8 s +1*/
  859. ".align 8n"
  860. "1:"
  861.     "movq (%4), %%mm4n"  /* 8 s+lx */
  862. "pavgusb  %%mm2,  %%mm0n"
  864.     "movq 1(%4), %%mm6n"  /* 8 s+lx +1*/
  865. "pavgusb  %%mm4,  %%mm0n"
  866. "movq (%2), %%mm1n"  /* 8 d */
  867. "pavgusb  %%mm6,  %%mm0n"
  868. "addl %3, %4n"
  869. "pavgusb  %%mm1,  %%mm0n"
  870. "movq %%mm6, %%mm2n"
  871. "movq %%mm0, (%2)n"
  872. "movq %%mm4, %%mm0n"
  873. "addl %3, %2n"
  874. "loop 1bn"
  875.        :
  876. : "c" (h), "r" (s), "r" (d), "r" (lx2), "r" (s +lx)
  877. );
  878. }
  880. #endif
  882. void recon_comp(unsigned char *src, unsigned char *dst, int lx, int lx2,
  883. int w, int h, int x, int y, int dx, int dy, int addflag){
  884. //  int xint, xh, yint, yh;
  885.   int switcher;
  886.   unsigned char *s, *d;
  888.   /* half pel scaling */
  889. //  xint = dx>>1;
  890. //  xh = dx & 1;
  891. //  yint = dy>>1;
  892. //  yh = dy & 1;
  894. //  switcher = (dx & 1) << 3 | (dy & 1) << 2 | (w !=8) & 1;
  895.   switcher = (dx & 1) << 3 | (dy & 1) << 2 | w;
  896.   if (addflag) 
  897.     switcher |= 2; 
  898.   /* origins */
  899.   s = src + lx*(y+(dy>>1)) + x + (dx>>1);
  900.   d = dst + lx*y + x;
  902.   switch (switcher) {
  903.   case 0x3:  reca(s,d,lx2,h);
  904. break;
  905.   case 0x2: recac(s,d,lx2,h);
  906. break;
  907.   case 0x1: rec(s,d,lx2,h);
  908. break;
  909.   case 0x0: recc(s,d,lx2,h);
  910. break;
  911.   case 0x7:  recva(s,d,lx,lx2,h);
  912. break;
  913.   case 0x6: recvac(s,d,lx,lx2,h);
  914. break;
  915.   case 0x5: recv(s,d,lx,lx2,h);
  916. break;
  917.   case 0x4: recvc(s,d,lx,lx2,h);
  918. break;
  919.   case 0xb:  recha(s,d,lx2,h);
  920. break;
  921.   case 0xa: rechac(s,d,lx2,h);
  922. break;
  923.   case 0x9: rech(s,d,lx2,h);
  924. break;
  925.   case 0x8: rechc(s,d,lx2,h);
  926. break;
  927.   case 0xf:  rec4a(s,d,lx,lx2,h);
  928. break;
  929.   case 0xe: rec4ac(s,d,lx,lx2,h);
  930. break;
  931.   case 0xd: rec4(s,d,lx,lx2,h);
  932. break;
  933.   case 0xc: rec4c(s,d,lx,lx2,h);
  934. break;
  935.   }
  936. #if 0
  937.   if (!xh && !yh)
  938.     if (addflag){
  939.       if (w!=8) reca(s,d,lx2,h);
  940.       else      recac(s,d,lx2,h);
  941.     }
  942.     else {
  943.       if (w!=8) rec(s,d,lx2,h);
  944.       else      recc(s,d,lx2,h);
  945.     }
  946.   else if (!xh && yh)
  947.     if (addflag){
  948.       if (w!=8) recva(s,d,lx,lx2,h);
  949.       else      recvac(s,d,lx,lx2,h);
  950.     }
  951.     else {
  952.       if (w!=8) recv(s,d,lx,lx2,h);
  953.       else      recvc(s,d,lx,lx2,h);
  954.     }
  955.   else if (xh && !yh)
  956.     if (addflag){
  957.       if (w!=8) recha(s,d,lx2,h);
  958.       else      rechac(s,d,lx2,h);
  959.     }
  960.     else {
  961.       if (w!=8) rech(s,d,lx2,h);
  962.       else      rechc(s,d,lx2,h);
  963.     }
  964.   else /* if (xh && yh) */
  965.     if (addflag){
  966.       if (w!=8) rec4a(s,d,lx,lx2,h);
  967.       else      rec4ac(s,d,lx,lx2,h);
  968.     }
  969.     else {
  970.       if (w!=8) rec4(s,d,lx,lx2,h);
  971.       else      rec4c(s,d,lx,lx2,h);
  972.     }
  973. #endif
  974. }
  976. #ifndef HAVE_MMX
  978. inline void recva(unsigned char *s, unsigned char *d, int lx, int lx2, int h){
  979.   unsigned char *dp,*sp,*sp2;
  981.   sp = s;
  982.   sp2 = s+lx;
  983.   dp = d;
  984.   for (int j=0; j<h; j++){
  985.     dp[0] = (dp[0] + ((unsigned int)(sp[0]+sp2[0]+1)>>1) + 1)>>1;
  986.     dp[1] = (dp[1] + ((unsigned int)(sp[1]+sp2[1]+1)>>1) + 1)>>1;
  987.     dp[2] = (dp[2] + ((unsigned int)(sp[2]+sp2[2]+1)>>1) + 1)>>1;
  988.     dp[3] = (dp[3] + ((unsigned int)(sp[3]+sp2[3]+1)>>1) + 1)>>1;
  989.     dp[4] = (dp[4] + ((unsigned int)(sp[4]+sp2[4]+1)>>1) + 1)>>1;
  990.     dp[5] = (dp[5] + ((unsigned int)(sp[5]+sp2[5]+1)>>1) + 1)>>1;
  991.     dp[6] = (dp[6] + ((unsigned int)(sp[6]+sp2[6]+1)>>1) + 1)>>1;
  992.     dp[7] = (dp[7] + ((unsigned int)(sp[7]+sp2[7]+1)>>1) + 1)>>1;
  993.     dp[8] = (dp[8] + ((unsigned int)(sp[8]+sp2[8]+1)>>1) + 1)>>1;
  994.     dp[9] = (dp[9] + ((unsigned int)(sp[9]+sp2[9]+1)>>1) + 1)>>1;
  995.     dp[10] = (dp[10] + ((unsigned int)(sp[10]+sp2[10]+1)>>1) + 1)>>1;
  996.     dp[11] = (dp[11] + ((unsigned int)(sp[11]+sp2[11]+1)>>1) + 1)>>1;
  997.     dp[12] = (dp[12] + ((unsigned int)(sp[12]+sp2[12]+1)>>1) + 1)>>1;
  998.     dp[13] = (dp[13] + ((unsigned int)(sp[13]+sp2[13]+1)>>1) + 1)>>1;
  999.     dp[14] = (dp[14] + ((unsigned int)(sp[14]+sp2[14]+1)>>1) + 1)>>1;
  1000.     dp[15] = (dp[15] + ((unsigned int)(sp[15]+sp2[15]+1)>>1) + 1)>>1;
  1001.     sp+= lx2;
  1002.     sp2+= lx2;
  1003.     dp+= lx2;
  1004.   }
  1005. }
  1008. inline void recvac(unsigned char *s, unsigned char *d, int lx,int lx2, int h){
  1009.   unsigned char *dp,*sp,*sp2;
  1011.   sp = s;
  1012.   sp2 = s+lx;
  1013.   dp = d;
  1014.   for (int j=0; j<h; j++){
  1015.     dp[0] = (dp[0] + ((unsigned int)(sp[0]+sp2[0]+1)>>1) + 1)>>1;
  1016.     dp[1] = (dp[1] + ((unsigned int)(sp[1]+sp2[1]+1)>>1) + 1)>>1;
  1017.     dp[2] = (dp[2] + ((unsigned int)(sp[2]+sp2[2]+1)>>1) + 1)>>1;
  1018.     dp[3] = (dp[3] + ((unsigned int)(sp[3]+sp2[3]+1)>>1) + 1)>>1;
  1019.     dp[4] = (dp[4] + ((unsigned int)(sp[4]+sp2[4]+1)>>1) + 1)>>1;
  1020.     dp[5] = (dp[5] + ((unsigned int)(sp[5]+sp2[5]+1)>>1) + 1)>>1;
  1021.     dp[6] = (dp[6] + ((unsigned int)(sp[6]+sp2[6]+1)>>1) + 1)>>1;
  1022.     dp[7] = (dp[7] + ((unsigned int)(sp[7]+sp2[7]+1)>>1) + 1)>>1;
  1023.     sp+= lx2;
  1024.     sp2+= lx2;
  1025.     dp+= lx2;
  1026.   }
  1027. }
  1030. inline void rech(unsigned char *s, unsigned char *d, int lx2, int h){
  1031.   unsigned char *dp,*sp;
  1032.   unsigned int s1,s2;
  1034.   sp = s;
  1035.   dp = d;
  1036.   for (int j=0; j<h; j++){
  1037.     s1=sp[0];
  1038.     dp[0] = (unsigned int)(s1+(s2=sp[1])+1)>>1;
  1039.     dp[1] = (unsigned int)(s2+(s1=sp[2])+1)>>1;
  1040.     dp[2] = (unsigned int)(s1+(s2=sp[3])+1)>>1;
  1041.     dp[3] = (unsigned int)(s2+(s1=sp[4])+1)>>1;
  1042.     dp[4] = (unsigned int)(s1+(s2=sp[5])+1)>>1;
  1043.     dp[5] = (unsigned int)(s2+(s1=sp[6])+1)>>1;
  1044.     dp[6] = (unsigned int)(s1+(s2=sp[7])+1)>>1;
  1045.     dp[7] = (unsigned int)(s2+(s1=sp[8])+1)>>1;
  1046.     dp[8] = (unsigned int)(s1+(s2=sp[9])+1)>>1;
  1047.     dp[9] = (unsigned int)(s2+(s1=sp[10])+1)>>1;
  1048.     dp[10] = (unsigned int)(s1+(s2=sp[11])+1)>>1;
  1049.     dp[11] = (unsigned int)(s2+(s1=sp[12])+1)>>1;
  1050.     dp[12] = (unsigned int)(s1+(s2=sp[13])+1)>>1;
  1051.     dp[13] = (unsigned int)(s2+(s1=sp[14])+1)>>1;
  1052.     dp[14] = (unsigned int)(s1+(s2=sp[15])+1)>>1;
  1053.     dp[15] = (unsigned int)(s2+sp[16]+1)>>1;
  1054.     sp+= lx2;
  1055.     dp+= lx2;
  1056.   }
  1057. }
  1060. inline void rechc(unsigned char *s,unsigned char *d, int lx2, int h){
  1061.   unsigned char *dp,*sp;
  1062.   unsigned int s1,s2;
  1064.   sp = s;
  1065.   dp = d;
  1066.   for (int j=0; j<h; j++){
  1067.     s1=sp[0];
  1068.     dp[0] = (unsigned int)(s1+(s2=sp[1])+1)>>1;
  1069.     dp[1] = (unsigned int)(s2+(s1=sp[2])+1)>>1;
  1070.     dp[2] = (unsigned int)(s1+(s2=sp[3])+1)>>1;
  1071.     dp[3] = (unsigned int)(s2+(s1=sp[4])+1)>>1;
  1072.     dp[4] = (unsigned int)(s1+(s2=sp[5])+1)>>1;
  1073.     dp[5] = (unsigned int)(s2+(s1=sp[6])+1)>>1;
  1074.     dp[6] = (unsigned int)(s1+(s2=sp[7])+1)>>1;
  1075.     dp[7] = (unsigned int)(s2+sp[8]+1)>>1;
  1076.     sp+= lx2;
  1077.     dp+= lx2;
  1078.   }
  1079. }
  1081. #endif
  1083. #ifndef HAVE_3Dnow
  1084. inline void recha(unsigned char *s, unsigned char *d,int lx2, int h){
  1085.   unsigned char *dp,*sp;
  1086.   unsigned int s1,s2;
  1088.   sp = s;
  1089.   dp = d;
  1090.   for (int j=0; j<h; j++){
  1091.     s1=sp[0];
  1092.     dp[0] = (dp[0] + ((unsigned int)(s1+(s2=sp[1])+1)>>1) + 1)>>1;
  1093.     dp[1] = (dp[1] + ((unsigned int)(s2+(s1=sp[2])+1)>>1) + 1)>>1;
  1094.     dp[2] = (dp[2] + ((unsigned int)(s1+(s2=sp[3])+1)>>1) + 1)>>1;
  1095.     dp[3] = (dp[3] + ((unsigned int)(s2+(s1=sp[4])+1)>>1) + 1)>>1;
  1096.     dp[4] = (dp[4] + ((unsigned int)(s1+(s2=sp[5])+1)>>1) + 1)>>1;
  1097.     dp[5] = (dp[5] + ((unsigned int)(s2+(s1=sp[6])+1)>>1) + 1)>>1;
  1098.     dp[6] = (dp[6] + ((unsigned int)(s1+(s2=sp[7])+1)>>1) + 1)>>1;
  1099.     dp[7] = (dp[7] + ((unsigned int)(s2+(s1=sp[8])+1)>>1) + 1)>>1;
  1100.     dp[8] = (dp[8] + ((unsigned int)(s1+(s2=sp[9])+1)>>1) + 1)>>1;
  1101.     dp[9] = (dp[9] + ((unsigned int)(s2+(s1=sp[10])+1)>>1) + 1)>>1;
  1102.     dp[10] = (dp[10] + ((unsigned int)(s1+(s2=sp[11])+1)>>1) + 1)>>1;
  1103.     dp[11] = (dp[11] + ((unsigned int)(s2+(s1=sp[12])+1)>>1) + 1)>>1;
  1104.     dp[12] = (dp[12] + ((unsigned int)(s1+(s2=sp[13])+1)>>1) + 1)>>1;
  1105.     dp[13] = (dp[13] + ((unsigned int)(s2+(s1=sp[14])+1)>>1) + 1)>>1;
  1106.     dp[14] = (dp[14] + ((unsigned int)(s1+(s2=sp[15])+1)>>1) + 1)>>1;
  1107.     dp[15] = (dp[15] + ((unsigned int)(s2+sp[16]+1)>>1) + 1)>>1;
  1108.     sp+= lx2;
  1109.     dp+= lx2;
  1110.   }
  1111. }
  1114. inline void rechac(unsigned char *s,unsigned char  *d, int lx2, int h){
  1115.   unsigned char *dp,*sp;
  1116.   unsigned int s1,s2;
  1118.   sp = s;
  1119.   dp = d;
  1120.   for (int j=0; j<h; j++){
  1121.     s1=sp[0];
  1122.     dp[0] = (dp[0] + ((unsigned int)(s1+(s2=sp[1])+1)>>1) + 1)>>1;
  1123.     dp[1] = (dp[1] + ((unsigned int)(s2+(s1=sp[2])+1)>>1) + 1)>>1;
  1124.     dp[2] = (dp[2] + ((unsigned int)(s1+(s2=sp[3])+1)>>1) + 1)>>1;
  1125.     dp[3] = (dp[3] + ((unsigned int)(s2+(s1=sp[4])+1)>>1) + 1)>>1;
  1126.     dp[4] = (dp[4] + ((unsigned int)(s1+(s2=sp[5])+1)>>1) + 1)>>1;
  1127.     dp[5] = (dp[5] + ((unsigned int)(s2+(s1=sp[6])+1)>>1) + 1)>>1;
  1128.     dp[6] = (dp[6] + ((unsigned int)(s1+(s2=sp[7])+1)>>1) + 1)>>1;
  1129.     dp[7] = (dp[7] + ((unsigned int)(s2+sp[8]+1)>>1) + 1)>>1;
  1130.     sp+= lx2;
  1131.     dp+= lx2;
  1132.   }
  1133. }
  1136. inline void rec4(unsigned char *s, unsigned char *d, int lx, int lx2, int h){
  1137.   unsigned char *dp,*sp,*sp2;
  1138.   unsigned int s1,s2,s3,s4;
  1140.   sp = s;
  1141.   sp2 = s+lx;
  1142.   dp = d;
  1143.   for (int j=0; j<h; j++){
  1144.     s1=sp[0]; s3=sp2[0];
  1145.     dp[0] = (unsigned int)(s1+(s2=sp[1])+s3+(s4=sp2[1])+2)>>2;
  1146.     dp[1] = (unsigned int)(s2+(s1=sp[2])+s4+(s3=sp2[2])+2)>>2;
  1147.     dp[2] = (unsigned int)(s1+(s2=sp[3])+s3+(s4=sp2[3])+2)>>2;
  1148.     dp[3] = (unsigned int)(s2+(s1=sp[4])+s4+(s3=sp2[4])+2)>>2;
  1149.     dp[4] = (unsigned int)(s1+(s2=sp[5])+s3+(s4=sp2[5])+2)>>2;
  1150.     dp[5] = (unsigned int)(s2+(s1=sp[6])+s4+(s3=sp2[6])+2)>>2;
  1151.     dp[6] = (unsigned int)(s1+(s2=sp[7])+s3+(s4=sp2[7])+2)>>2;
  1152.     dp[7] = (unsigned int)(s2+(s1=sp[8])+s4+(s3=sp2[8])+2)>>2;
  1153.     dp[8] = (unsigned int)(s1+(s2=sp[9])+s3+(s4=sp2[9])+2)>>2;
  1154.     dp[9] = (unsigned int)(s2+(s1=sp[10])+s4+(s3=sp2[10])+2)>>2;
  1155.     dp[10] = (unsigned int)(s1+(s2=sp[11])+s3+(s4=sp2[11])+2)>>2;
  1156.     dp[11] = (unsigned int)(s2+(s1=sp[12])+s4+(s3=sp2[12])+2)>>2;
  1157.     dp[12] = (unsigned int)(s1+(s2=sp[13])+s3+(s4=sp2[13])+2)>>2;
  1158.     dp[13] = (unsigned int)(s2+(s1=sp[14])+s4+(s3=sp2[14])+2)>>2;
  1159.     dp[14] = (unsigned int)(s1+(s2=sp[15])+s3+(s4=sp2[15])+2)>>2;
  1160.     dp[15] = (unsigned int)(s2+sp[16]+s4+sp2[16]+2)>>2;
  1161.     sp+= lx2;
  1162.     sp2+= lx2;
  1163.     dp+= lx2;
  1164.   }
  1165. }
  1168. inline void rec4c(unsigned char *s,unsigned char *d, int lx, int lx2, int h){
  1169.   unsigned char *dp,*sp,*sp2;
  1170.   unsigned int s1,s2,s3,s4;
  1172.   sp = s;
  1173.   sp2 = s+lx;
  1174.   dp = d;
  1175.   for (int j=0; j<h; j++){
  1176.     s1=sp[0]; s3=sp2[0];
  1177.     dp[0] = (unsigned int)(s1+(s2=sp[1])+s3+(s4=sp2[1])+2)>>2;
  1178.     dp[1] = (unsigned int)(s2+(s1=sp[2])+s4+(s3=sp2[2])+2)>>2;
  1179.     dp[2] = (unsigned int)(s1+(s2=sp[3])+s3+(s4=sp2[3])+2)>>2;
  1180.     dp[3] = (unsigned int)(s2+(s1=sp[4])+s4+(s3=sp2[4])+2)>>2;
  1181.     dp[4] = (unsigned int)(s1+(s2=sp[5])+s3+(s4=sp2[5])+2)>>2;
  1182.     dp[5] = (unsigned int)(s2+(s1=sp[6])+s4+(s3=sp2[6])+2)>>2;
  1183.     dp[6] = (unsigned int)(s1+(s2=sp[7])+s3+(s4=sp2[7])+2)>>2;
  1184.     dp[7] = (unsigned int)(s2+sp[8]+s4+sp2[8]+2)>>2;
  1185.     sp+= lx2;
  1186.     sp2+= lx2;
  1187.     dp+= lx2;
  1188.   }
  1189. }
  1192. inline void rec4a(unsigned char *s,unsigned char *d, int lx, int lx2, int h){
  1193.   unsigned char *dp=d, *sp=s, *sp2=s+lx;
  1194.   unsigned int s1, s2, s3, s4;
  1196. /*
  1197.   sp = s;
  1198.   sp2 = s+lx;
  1199.   dp = d;
  1200. */
  1201.   for (int j=0; j<h; j++){
  1202.     s1=sp[0]; s3=sp2[0];
  1203.     dp[0] = (dp[0] + ((unsigned int)(s1+(s2=sp[1])+s3+(s4=sp2[1])+2)>>2) + 1)>>1;
  1204.     dp[1] = (dp[1] + ((unsigned int)(s2+(s1=sp[2])+s4+(s3=sp2[2])+2)>>2) + 1)>>1;
  1205.     dp[2] = (dp[2] + ((unsigned int)(s1+(s2=sp[3])+s3+(s4=sp2[3])+2)>>2) + 1)>>1;
  1206.     dp[3] = (dp[3] + ((unsigned int)(s2+(s1=sp[4])+s4+(s3=sp2[4])+2)>>2) + 1)>>1;
  1207.     dp[4] = (dp[4] + ((unsigned int)(s1+(s2=sp[5])+s3+(s4=sp2[5])+2)>>2) + 1)>>1;
  1208.     dp[5] = (dp[5] + ((unsigned int)(s2+(s1=sp[6])+s4+(s3=sp2[6])+2)>>2) + 1)>>1;
  1209.     dp[6] = (dp[6] + ((unsigned int)(s1+(s2=sp[7])+s3+(s4=sp2[7])+2)>>2) + 1)>>1;
  1210.     dp[7] = (dp[7] + ((unsigned int)(s2+(s1=sp[8])+s4+(s3=sp2[8])+2)>>2) + 1)>>1;
  1211.     dp[8] = (dp[8] + ((unsigned int)(s1+(s2=sp[9])+s3+(s4=sp2[9])+2)>>2) + 1)>>1;
  1212.     dp[9] = (dp[9] + ((unsigned int)(s2+(s1=sp[10])+s4+(s3=sp2[10])+2)>>2) + 1)>>1;
  1213.     dp[10] = (dp[10] + ((unsigned int)(s1+(s2=sp[11])+s3+(s4=sp2[11])+2)>>2) + 1)>>1;
  1214.     dp[11] = (dp[11] + ((unsigned int)(s2+(s1=sp[12])+s4+(s3=sp2[12])+2)>>2) + 1)>>1;
  1215.     dp[12] = (dp[12] + ((unsigned int)(s1+(s2=sp[13])+s3+(s4=sp2[13])+2)>>2) + 1)>>1;
  1216.     dp[13] = (dp[13] + ((unsigned int)(s2+(s1=sp[14])+s4+(s3=sp2[14])+2)>>2) + 1)>>1;
  1217.     dp[14] = (dp[14] + ((unsigned int)(s1+(s2=sp[15])+s3+(s4=sp2[15])+2)>>2) + 1)>>1;
  1218.     dp[15] = (dp[15] + ((unsigned int)(s2+sp[16]+s4+sp2[16]+2)>>2) + 1)>>1;
  1219.     sp+= lx2;
  1220.     sp2+= lx2;
  1221.     dp+= lx2;
  1222.   }
  1223. }
  1226. inline void rec4ac(unsigned char *s,unsigned char  *d, int lx, int lx2, int h){
  1227.   unsigned char *dp=d, *sp=s, *sp2=s+lx;
  1228.   unsigned int s1,s2,s3,s4;
  1230. /*
  1231.   sp = s;
  1232.   sp2 = s+lx;
  1233.   dp = d;
  1234. */
  1235.   for (int j=0; j<h; j++){
  1236.     s1=sp[0]; s3=sp2[0];
  1237.     dp[0] = (dp[0] + ((unsigned int)(s1+(s2=sp[1])+s3+(s4=sp2[1])+2)>>2) + 1)>>1;
  1238.     dp[1] = (dp[1] + ((unsigned int)(s2+(s1=sp[2])+s4+(s3=sp2[2])+2)>>2) + 1)>>1;
  1239.     dp[2] = (dp[2] + ((unsigned int)(s1+(s2=sp[3])+s3+(s4=sp2[3])+2)>>2) + 1)>>1;
  1240.     dp[3] = (dp[3] + ((unsigned int)(s2+(s1=sp[4])+s4+(s3=sp2[4])+2)>>2) + 1)>>1;
  1241.     dp[4] = (dp[4] + ((unsigned int)(s1+(s2=sp[5])+s3+(s4=sp2[5])+2)>>2) + 1)>>1;
  1242.     dp[5] = (dp[5] + ((unsigned int)(s2+(s1=sp[6])+s4+(s3=sp2[6])+2)>>2) + 1)>>1;
  1243.     dp[6] = (dp[6] + ((unsigned int)(s1+(s2=sp[7])+s3+(s4=sp2[7])+2)>>2) + 1)>>1;
  1244.     dp[7] = (dp[7] + ((unsigned int)(s2+sp[8]+s4+sp2[8]+2)>>2) + 1)>>1;
  1245.     sp+= lx2;
  1246.     sp2+= lx2;
  1247.     dp+= lx2;
  1248.   }
  1249. }
  1251. #endif