svq1.c
上传用户:wstnjxml
上传日期:2014-04-03
资源大小:7248k
文件大小:43k
源码类别:

Windows CE

开发平台:

C/C++

  1. /*
  2.  * 
  3.  * Copyright (C) 2002 the xine project
  4.  * Copyright (C) 2002 the ffmpeg project
  5.  * 
  6.  * This library is free software; you can redistribute it and/or
  7.  * modify it under the terms of the GNU Lesser General Public
  8.  * License as published by the Free Software Foundation; either
  9.  * version 2 of the License, or (at your option) any later version.
  10.  *
  11.  * This library is distributed in the hope that it will be useful,
  12.  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  13.  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  14.  * Lesser General Public License for more details.
  15.  *
  16.  * You should have received a copy of the GNU Lesser General Public
  17.  * License along with this library; if not, write to the Free Software
  18.  * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
  19.  *
  20.  * (SVQ1 Decoder)
  21.  * Ported to mplayer by Arpi <arpi@thot.banki.hu>
  22.  * Ported to libavcodec by Nick Kurshev <nickols_k@mail.ru>
  23.  *
  24.  * SVQ1 Encoder (c) 2004 Mike Melanson <melanson@pcisys.net>
  25.  */
  26. /**
  27.  * @file svq1.c
  28.  * Sorenson Vector Quantizer #1 (SVQ1) video codec.
  29.  * For more information of the SVQ1 algorithm, visit:
  30.  *   http://www.pcisys.net/~melanson/codecs/
  31.  */
  32. //#define DEBUG_SVQ1
  33. #include <stdio.h>
  34. #include <stdlib.h>
  35. #include <string.h>
  36. #include <unistd.h>
  37. #include <limits.h>
  38. #include "common.h"
  39. #include "avcodec.h"
  40. #include "dsputil.h"
  41. #include "mpegvideo.h"
  42. #include "bswap.h"
  43. #undef NDEBUG
  44. #include <assert.h>
  45. extern const uint8_t mvtab[33][2];
  46. static VLC svq1_block_type;
  47. static VLC svq1_motion_component;
  48. static VLC svq1_intra_multistage[6];
  49. static VLC svq1_inter_multistage[6];
  50. static VLC svq1_intra_mean;
  51. static VLC svq1_inter_mean;
  52. #define SVQ1_BLOCK_SKIP 0
  53. #define SVQ1_BLOCK_INTER 1
  54. #define SVQ1_BLOCK_INTER_4V 2
  55. #define SVQ1_BLOCK_INTRA 3
  56. typedef struct SVQ1Context {
  57.     MpegEncContext m; // needed for motion estimation, should not be used for anything else, the idea is to make the motion estimation eventually independant of MpegEncContext, so this will be removed then (FIXME/XXX)
  58.     AVCodecContext *avctx;
  59.     DSPContext dsp;
  60.     AVFrame picture;
  61.     AVFrame current_picture;
  62.     AVFrame last_picture;
  63.     PutBitContext pb;
  64.     GetBitContext gb;
  65.     
  66.     PutBitContext reorder_pb[6]; //why ooh why this sick breadth first order, everything is slower and more complex
  67.     int frame_width;
  68.     int frame_height;
  69.     /* Y plane block dimensions */
  70.     int y_block_width;
  71.     int y_block_height;
  72.     /* U & V plane (C planes) block dimensions */
  73.     int c_block_width;
  74.     int c_block_height;
  75.     
  76.     uint16_t *mb_type;
  77.     uint32_t *dummy;
  78.     int16_t (*motion_val8[3])[2];
  79.     int16_t (*motion_val16[3])[2];
  80.     int64_t rd_total;
  81. } SVQ1Context;
  82. /* motion vector (prediction) */
  83. typedef struct svq1_pmv_s {
  84.   int  x;
  85.   int  y;
  86. } svq1_pmv_t;
  87. #include "svq1_cb.h"
  88. #include "svq1_vlc.h"
  89. static const uint16_t checksum_table[256] = {
  90.   0x0000, 0x1021, 0x2042, 0x3063, 0x4084, 0x50A5, 0x60C6, 0x70E7,
  91.   0x8108, 0x9129, 0xA14A, 0xB16B, 0xC18C, 0xD1AD, 0xE1CE, 0xF1EF,
  92.   0x1231, 0x0210, 0x3273, 0x2252, 0x52B5, 0x4294, 0x72F7, 0x62D6,
  93.   0x9339, 0x8318, 0xB37B, 0xA35A, 0xD3BD, 0xC39C, 0xF3FF, 0xE3DE,
  94.   0x2462, 0x3443, 0x0420, 0x1401, 0x64E6, 0x74C7, 0x44A4, 0x5485,
  95.   0xA56A, 0xB54B, 0x8528, 0x9509, 0xE5EE, 0xF5CF, 0xC5AC, 0xD58D,
  96.   0x3653, 0x2672, 0x1611, 0x0630, 0x76D7, 0x66F6, 0x5695, 0x46B4,
  97.   0xB75B, 0xA77A, 0x9719, 0x8738, 0xF7DF, 0xE7FE, 0xD79D, 0xC7BC,
  98.   0x48C4, 0x58E5, 0x6886, 0x78A7, 0x0840, 0x1861, 0x2802, 0x3823,
  99.   0xC9CC, 0xD9ED, 0xE98E, 0xF9AF, 0x8948, 0x9969, 0xA90A, 0xB92B,
  100.   0x5AF5, 0x4AD4, 0x7AB7, 0x6A96, 0x1A71, 0x0A50, 0x3A33, 0x2A12,
  101.   0xDBFD, 0xCBDC, 0xFBBF, 0xEB9E, 0x9B79, 0x8B58, 0xBB3B, 0xAB1A,
  102.   0x6CA6, 0x7C87, 0x4CE4, 0x5CC5, 0x2C22, 0x3C03, 0x0C60, 0x1C41,
  103.   0xEDAE, 0xFD8F, 0xCDEC, 0xDDCD, 0xAD2A, 0xBD0B, 0x8D68, 0x9D49,
  104.   0x7E97, 0x6EB6, 0x5ED5, 0x4EF4, 0x3E13, 0x2E32, 0x1E51, 0x0E70,
  105.   0xFF9F, 0xEFBE, 0xDFDD, 0xCFFC, 0xBF1B, 0xAF3A, 0x9F59, 0x8F78,
  106.   0x9188, 0x81A9, 0xB1CA, 0xA1EB, 0xD10C, 0xC12D, 0xF14E, 0xE16F,
  107.   0x1080, 0x00A1, 0x30C2, 0x20E3, 0x5004, 0x4025, 0x7046, 0x6067,
  108.   0x83B9, 0x9398, 0xA3FB, 0xB3DA, 0xC33D, 0xD31C, 0xE37F, 0xF35E,
  109.   0x02B1, 0x1290, 0x22F3, 0x32D2, 0x4235, 0x5214, 0x6277, 0x7256,
  110.   0xB5EA, 0xA5CB, 0x95A8, 0x8589, 0xF56E, 0xE54F, 0xD52C, 0xC50D,
  111.   0x34E2, 0x24C3, 0x14A0, 0x0481, 0x7466, 0x6447, 0x5424, 0x4405,
  112.   0xA7DB, 0xB7FA, 0x8799, 0x97B8, 0xE75F, 0xF77E, 0xC71D, 0xD73C,
  113.   0x26D3, 0x36F2, 0x0691, 0x16B0, 0x6657, 0x7676, 0x4615, 0x5634,
  114.   0xD94C, 0xC96D, 0xF90E, 0xE92F, 0x99C8, 0x89E9, 0xB98A, 0xA9AB,
  115.   0x5844, 0x4865, 0x7806, 0x6827, 0x18C0, 0x08E1, 0x3882, 0x28A3,
  116.   0xCB7D, 0xDB5C, 0xEB3F, 0xFB1E, 0x8BF9, 0x9BD8, 0xABBB, 0xBB9A,
  117.   0x4A75, 0x5A54, 0x6A37, 0x7A16, 0x0AF1, 0x1AD0, 0x2AB3, 0x3A92,
  118.   0xFD2E, 0xED0F, 0xDD6C, 0xCD4D, 0xBDAA, 0xAD8B, 0x9DE8, 0x8DC9,
  119.   0x7C26, 0x6C07, 0x5C64, 0x4C45, 0x3CA2, 0x2C83, 0x1CE0, 0x0CC1,
  120.   0xEF1F, 0xFF3E, 0xCF5D, 0xDF7C, 0xAF9B, 0xBFBA, 0x8FD9, 0x9FF8,
  121.   0x6E17, 0x7E36, 0x4E55, 0x5E74, 0x2E93, 0x3EB2, 0x0ED1, 0x1EF0
  122. };
  123. static const uint8_t string_table[256] = {
  124.   0x00, 0xD5, 0x7F, 0xAA, 0xFE, 0x2B, 0x81, 0x54,
  125.   0x29, 0xFC, 0x56, 0x83, 0xD7, 0x02, 0xA8, 0x7D,
  126.   0x52, 0x87, 0x2D, 0xF8, 0xAC, 0x79, 0xD3, 0x06,
  127.   0x7B, 0xAE, 0x04, 0xD1, 0x85, 0x50, 0xFA, 0x2F,
  128.   0xA4, 0x71, 0xDB, 0x0E, 0x5A, 0x8F, 0x25, 0xF0,
  129.   0x8D, 0x58, 0xF2, 0x27, 0x73, 0xA6, 0x0C, 0xD9,
  130.   0xF6, 0x23, 0x89, 0x5C, 0x08, 0xDD, 0x77, 0xA2,
  131.   0xDF, 0x0A, 0xA0, 0x75, 0x21, 0xF4, 0x5E, 0x8B,
  132.   0x9D, 0x48, 0xE2, 0x37, 0x63, 0xB6, 0x1C, 0xC9,
  133.   0xB4, 0x61, 0xCB, 0x1E, 0x4A, 0x9F, 0x35, 0xE0,
  134.   0xCF, 0x1A, 0xB0, 0x65, 0x31, 0xE4, 0x4E, 0x9B,
  135.   0xE6, 0x33, 0x99, 0x4C, 0x18, 0xCD, 0x67, 0xB2,
  136.   0x39, 0xEC, 0x46, 0x93, 0xC7, 0x12, 0xB8, 0x6D,
  137.   0x10, 0xC5, 0x6F, 0xBA, 0xEE, 0x3B, 0x91, 0x44,
  138.   0x6B, 0xBE, 0x14, 0xC1, 0x95, 0x40, 0xEA, 0x3F,
  139.   0x42, 0x97, 0x3D, 0xE8, 0xBC, 0x69, 0xC3, 0x16,
  140.   0xEF, 0x3A, 0x90, 0x45, 0x11, 0xC4, 0x6E, 0xBB,
  141.   0xC6, 0x13, 0xB9, 0x6C, 0x38, 0xED, 0x47, 0x92,
  142.   0xBD, 0x68, 0xC2, 0x17, 0x43, 0x96, 0x3C, 0xE9,
  143.   0x94, 0x41, 0xEB, 0x3E, 0x6A, 0xBF, 0x15, 0xC0,
  144.   0x4B, 0x9E, 0x34, 0xE1, 0xB5, 0x60, 0xCA, 0x1F,
  145.   0x62, 0xB7, 0x1D, 0xC8, 0x9C, 0x49, 0xE3, 0x36,
  146.   0x19, 0xCC, 0x66, 0xB3, 0xE7, 0x32, 0x98, 0x4D,
  147.   0x30, 0xE5, 0x4F, 0x9A, 0xCE, 0x1B, 0xB1, 0x64,
  148.   0x72, 0xA7, 0x0D, 0xD8, 0x8C, 0x59, 0xF3, 0x26,
  149.   0x5B, 0x8E, 0x24, 0xF1, 0xA5, 0x70, 0xDA, 0x0F,
  150.   0x20, 0xF5, 0x5F, 0x8A, 0xDE, 0x0B, 0xA1, 0x74,
  151.   0x09, 0xDC, 0x76, 0xA3, 0xF7, 0x22, 0x88, 0x5D,
  152.   0xD6, 0x03, 0xA9, 0x7C, 0x28, 0xFD, 0x57, 0x82,
  153.   0xFF, 0x2A, 0x80, 0x55, 0x01, 0xD4, 0x7E, 0xAB,
  154.   0x84, 0x51, 0xFB, 0x2E, 0x7A, 0xAF, 0x05, 0xD0,
  155.   0xAD, 0x78, 0xD2, 0x07, 0x53, 0x86, 0x2C, 0xF9
  156. };
  157. #define SVQ1_PROCESS_VECTOR()
  158.     for (; level > 0; i++) {
  159.       /* process next depth */
  160.       if (i == m) {
  161. m = n;
  162. if (--level == 0)
  163.   break;
  164.       }
  165.       /* divide block if next bit set */
  166.       if (get_bits (bitbuf, 1) == 0)
  167. break;
  168.       /* add child nodes */
  169.       list[n++] = list[i];
  170.       list[n++] = list[i] + (((level & 1) ? pitch : 1) << ((level / 2) + 1));
  171.     }
  172. #define SVQ1_ADD_CODEBOOK()
  173.   /* add codebook entries to vector */
  174.   for (j=0; j < stages; j++) {
  175.     n3  = codebook[entries[j]] ^ 0x80808080;
  176.     n1 += ((n3 & 0xFF00FF00) >> 8);
  177.     n2 +=  (n3 & 0x00FF00FF);
  178.   }
  179.   /* clip to [0..255] */
  180.   if (n1 & 0xFF00FF00) {
  181.     n3  = ((( n1 >> 15) & 0x00010001) | 0x01000100) - 0x00010001;
  182.     n1 += 0x7F007F00;
  183.     n1 |= (((~n1 >> 15) & 0x00010001) | 0x01000100) - 0x00010001;
  184.     n1 &= (n3 & 0x00FF00FF);
  185.   }
  186.   if (n2 & 0xFF00FF00) {
  187.     n3  = ((( n2 >> 15) & 0x00010001) | 0x01000100) - 0x00010001;
  188.     n2 += 0x7F007F00;
  189.     n2 |= (((~n2 >> 15) & 0x00010001) | 0x01000100) - 0x00010001;
  190.     n2 &= (n3 & 0x00FF00FF);
  191.   }
  192. #define SVQ1_DO_CODEBOOK_INTRA()
  193.       for (y=0; y < height; y++) {
  194. for (x=0; x < (width / 4); x++, codebook++) {
  195. n1 = n4;
  196. n2 = n4;
  197. SVQ1_ADD_CODEBOOK()
  198. /* store result */
  199. dst[x] = (n1 << 8) | n2;
  200. }
  201. dst += (pitch / 4);
  202.       }
  203. #define SVQ1_DO_CODEBOOK_NONINTRA()
  204.       for (y=0; y < height; y++) {
  205. for (x=0; x < (width / 4); x++, codebook++) {
  206. n3 = dst[x];
  207. /* add mean value to vector */
  208. n1 = ((n3 & 0xFF00FF00) >> 8) + n4;
  209. n2 =  (n3 & 0x00FF00FF)   + n4;
  210. SVQ1_ADD_CODEBOOK()
  211. /* store result */
  212. dst[x] = (n1 << 8) | n2;
  213. }
  214. dst += (pitch / 4);
  215.       }
  216. #define SVQ1_CALC_CODEBOOK_ENTRIES(cbook)
  217.       codebook = (const uint32_t *) cbook[level];
  218.       bit_cache = get_bits (bitbuf, 4*stages);
  219.       /* calculate codebook entries for this vector */
  220.       for (j=0; j < stages; j++) {
  221. entries[j] = (((bit_cache >> (4*(stages - j - 1))) & 0xF) + 16*j) << (level + 1);
  222.       }
  223.       mean -= (stages * 128);
  224.       n4    = ((mean + (mean >> 31)) << 16) | (mean & 0xFFFF);
  225. static int svq1_decode_block_intra (GetBitContext *bitbuf, uint8_t *pixels, int pitch ) {
  226.   uint32_t    bit_cache;
  227.   uint8_t    *list[63];
  228.   uint32_t   *dst;
  229.   const uint32_t *codebook;
  230.   int       entries[6];
  231.   int       i, j, m, n;
  232.   int       mean, stages;
  233.   unsigned    x, y, width, height, level;
  234.   uint32_t    n1, n2, n3, n4;
  235.   /* initialize list for breadth first processing of vectors */
  236.   list[0] = pixels;
  237.   /* recursively process vector */
  238.   for (i=0, m=1, n=1, level=5; i < n; i++) {
  239.     SVQ1_PROCESS_VECTOR();
  240.     /* destination address and vector size */
  241.     dst = (uint32_t *) list[i];
  242.     width = 1 << ((4 + level) /2);
  243.     height = 1 << ((3 + level) /2);
  244.     /* get number of stages (-1 skips vector, 0 for mean only) */
  245.     stages = get_vlc2(bitbuf, svq1_intra_multistage[level].table, 3, 3) - 1;
  246.     if (stages == -1) {
  247. for (y=0; y < height; y++) {
  248.   memset (&dst[y*(pitch / 4)], 0, width);
  249. }
  250.       continue; /* skip vector */
  251.     }
  252.     if ((stages > 0) && (level >= 4)) {
  253. #ifdef DEBUG_SVQ1
  254.     av_log(s->avctx, AV_LOG_INFO, "Error (svq1_decode_block_intra): invalid vector: stages=%i level=%in",stages,level);
  255. #endif
  256.       return -1; /* invalid vector */
  257.     }
  258.     mean = get_vlc2(bitbuf, svq1_intra_mean.table, 8, 3);
  259.     if (stages == 0) {
  260.       for (y=0; y < height; y++) {
  261. memset (&dst[y*(pitch / 4)], mean, width);
  262.       }
  263.     } else {
  264.       SVQ1_CALC_CODEBOOK_ENTRIES(svq1_intra_codebooks);
  265.       SVQ1_DO_CODEBOOK_INTRA()
  266.     }
  267.   }
  268.   return 0;
  269. }
  270. static int svq1_decode_block_non_intra (GetBitContext *bitbuf, uint8_t *pixels, int pitch ) {
  271.   uint32_t    bit_cache;
  272.   uint8_t    *list[63];
  273.   uint32_t   *dst;
  274.   const uint32_t *codebook;
  275.   int       entries[6];
  276.   int       i, j, m, n;
  277.   int       mean, stages;
  278.   int       x, y, width, height, level;
  279.   uint32_t    n1, n2, n3, n4;
  280.   /* initialize list for breadth first processing of vectors */
  281.   list[0] = pixels;
  282.   /* recursively process vector */
  283.   for (i=0, m=1, n=1, level=5; i < n; i++) {
  284.     SVQ1_PROCESS_VECTOR();
  285.     /* destination address and vector size */
  286.     dst = (uint32_t *) list[i];
  287.     width = 1 << ((4 + level) /2);
  288.     height = 1 << ((3 + level) /2);
  289.     /* get number of stages (-1 skips vector, 0 for mean only) */
  290.     stages = get_vlc2(bitbuf, svq1_inter_multistage[level].table, 3, 2) - 1;
  291.     if (stages == -1) continue; /* skip vector */
  292.     if ((stages > 0) && (level >= 4)) {
  293. #ifdef DEBUG_SVQ1
  294.     av_log(s->avctx, AV_LOG_INFO, "Error (svq1_decode_block_non_intra): invalid vector: stages=%i level=%in",stages,level);
  295. #endif
  296.       return -1; /* invalid vector */
  297.     }
  298.     mean = get_vlc2(bitbuf, svq1_inter_mean.table, 9, 3) - 256;
  299.     SVQ1_CALC_CODEBOOK_ENTRIES(svq1_inter_codebooks);
  300.     SVQ1_DO_CODEBOOK_NONINTRA()
  301.   }
  302.   return 0;
  303. }
  304. static int svq1_decode_motion_vector (GetBitContext *bitbuf, svq1_pmv_t *mv, svq1_pmv_t **pmv) {
  305.   int       diff;
  306.   int       i;
  307.   for (i=0; i < 2; i++) {
  308.     /* get motion code */
  309.     diff = get_vlc2(bitbuf, svq1_motion_component.table, 7, 2);
  310.     if(diff<0) 
  311.         return -1;
  312.     else if(diff){
  313.         if(get_bits1(bitbuf)) diff= -diff;
  314.     }
  315.     /* add median of motion vector predictors and clip result */
  316.     if (i == 1)
  317.       mv->y = ((diff + mid_pred(pmv[0]->y, pmv[1]->y, pmv[2]->y)) << 26) >> 26;
  318.     else
  319.       mv->x = ((diff + mid_pred(pmv[0]->x, pmv[1]->x, pmv[2]->x)) << 26) >> 26;
  320.   }
  321.   return 0;
  322. }
  323. static void svq1_skip_block (uint8_t *current, uint8_t *previous, int pitch, int x, int y) {
  324.   uint8_t *src;
  325.   uint8_t *dst;
  326.   int    i;
  327.   src = &previous[x + y*pitch];
  328.   dst = current;
  329.   for (i=0; i < 16; i++) {
  330.     memcpy (dst, src, 16);
  331.     src += pitch;
  332.     dst += pitch;
  333.   }
  334. }
  335. static int svq1_motion_inter_block (MpegEncContext *s, GetBitContext *bitbuf,
  336.        uint8_t *current, uint8_t *previous, int pitch,
  337.        svq1_pmv_t *motion, int x, int y) {
  338.   uint8_t    *src;
  339.   uint8_t    *dst;
  340.   svq1_pmv_t  mv;
  341.   svq1_pmv_t *pmv[3];
  342.   int       result;
  343.   /* predict and decode motion vector */
  344.   pmv[0] = &motion[0];
  345.   if (y == 0) {
  346.     pmv[1] =
  347.     pmv[2] = pmv[0];
  348.   }
  349.   else {
  350.     pmv[1] = &motion[(x / 8) + 2];
  351.     pmv[2] = &motion[(x / 8) + 4];
  352.   }
  353.   result = svq1_decode_motion_vector (bitbuf, &mv, pmv);
  354.   if (result != 0)
  355.     return result;
  356.   motion[0].x =
  357.   motion[(x / 8) + 2].x =
  358.   motion[(x / 8) + 3].x = mv.x;
  359.   motion[0].y =
  360.   motion[(x / 8) + 2].y =
  361.   motion[(x / 8) + 3].y = mv.y;
  362.   
  363.   if(y + (mv.y >> 1)<0)
  364.      mv.y= 0;
  365.   if(x + (mv.x >> 1)<0)
  366.      mv.x= 0;
  367. #if 0
  368.   int w= (s->width+15)&~15;
  369.   int h= (s->height+15)&~15;
  370.   if(x + (mv.x >> 1)<0 || y + (mv.y >> 1)<0 || x + (mv.x >> 1) + 16 > w || y + (mv.y >> 1) + 16> h)
  371.       av_log(s->avctx, AV_LOG_INFO, "%d %d %d %dn", x, y, x + (mv.x >> 1), y + (mv.y >> 1));
  372. #endif
  373.  
  374.   src = &previous[(x + (mv.x >> 1)) + (y + (mv.y >> 1))*pitch];
  375.   dst = current;
  376.   s->dsp.put_pixels_tab[0][((mv.y & 1) << 1) | (mv.x & 1)](dst,src,pitch,16);
  377.   return 0;
  378. }
  379. static int svq1_motion_inter_4v_block (MpegEncContext *s, GetBitContext *bitbuf,
  380.   uint8_t *current, uint8_t *previous, int pitch,
  381.   svq1_pmv_t *motion,int x, int y) {
  382.   uint8_t    *src;
  383.   uint8_t    *dst;
  384.   svq1_pmv_t  mv;
  385.   svq1_pmv_t *pmv[4];
  386.   int       i, result;
  387.   /* predict and decode motion vector (0) */
  388.   pmv[0] = &motion[0];
  389.   if (y == 0) {
  390.     pmv[1] =
  391.     pmv[2] = pmv[0];
  392.   }
  393.   else {
  394.     pmv[1] = &motion[(x / 8) + 2];
  395.     pmv[2] = &motion[(x / 8) + 4];
  396.   }
  397.   result = svq1_decode_motion_vector (bitbuf, &mv, pmv);
  398.   if (result != 0)
  399.     return result;
  400.   /* predict and decode motion vector (1) */
  401.   pmv[0] = &mv;
  402.   if (y == 0) {
  403.     pmv[1] =
  404.     pmv[2] = pmv[0];
  405.   }
  406.   else {
  407.     pmv[1] = &motion[(x / 8) + 3];
  408.   }
  409.   result = svq1_decode_motion_vector (bitbuf, &motion[0], pmv);
  410.   if (result != 0)
  411.     return result;
  412.   /* predict and decode motion vector (2) */
  413.   pmv[1] = &motion[0];
  414.   pmv[2] = &motion[(x / 8) + 1];
  415.   result = svq1_decode_motion_vector (bitbuf, &motion[(x / 8) + 2], pmv);
  416.   if (result != 0)
  417.     return result;
  418.   /* predict and decode motion vector (3) */
  419.   pmv[2] = &motion[(x / 8) + 2];
  420.   pmv[3] = &motion[(x / 8) + 3];
  421.   result = svq1_decode_motion_vector (bitbuf, pmv[3], pmv);
  422.   if (result != 0)
  423.     return result;
  424.   /* form predictions */
  425.   for (i=0; i < 4; i++) {
  426.     int mvx= pmv[i]->x + (i&1)*16;
  427.     int mvy= pmv[i]->y + (i>>1)*16;
  428.   
  429.     ///XXX /FIXME cliping or padding?
  430.     if(y + (mvy >> 1)<0)
  431.        mvy= 0;
  432.     if(x + (mvx >> 1)<0)
  433.        mvx= 0;
  434. #if 0
  435.   int w= (s->width+15)&~15;
  436.   int h= (s->height+15)&~15;
  437.   if(x + (mvx >> 1)<0 || y + (mvy >> 1)<0 || x + (mvx >> 1) + 8 > w || y + (mvy >> 1) + 8> h)
  438.       av_log(s->avctx, AV_LOG_INFO, "%d %d %d %dn", x, y, x + (mvx >> 1), y + (mvy >> 1));
  439. #endif
  440.     src = &previous[(x + (mvx >> 1)) + (y + (mvy >> 1))*pitch];
  441.     dst = current;
  442.     
  443.     s->dsp.put_pixels_tab[1][((mvy & 1) << 1) | (mvx & 1)](dst,src,pitch,8);
  444.     /* select next block */
  445.     if (i & 1) {
  446.       current  += 8*(pitch - 1);
  447.     } else {
  448.       current  += 8;
  449.     }
  450.   }
  451.   return 0;
  452. }
  453. static int svq1_decode_delta_block (MpegEncContext *s, GetBitContext *bitbuf,
  454. uint8_t *current, uint8_t *previous, int pitch,
  455. svq1_pmv_t *motion, int x, int y) {
  456.   uint32_t block_type;
  457.   int    result = 0;
  458.   /* get block type */
  459.   block_type = get_vlc2(bitbuf, svq1_block_type.table, 2, 2);
  460.   /* reset motion vectors */
  461.   if (block_type == SVQ1_BLOCK_SKIP || block_type == SVQ1_BLOCK_INTRA) {
  462.     motion[0].x   =
  463.     motion[0].y   =
  464.     motion[(x / 8) + 2].x =
  465.     motion[(x / 8) + 2].y =
  466.     motion[(x / 8) + 3].x =
  467.     motion[(x / 8) + 3].y = 0;
  468.   }
  469.   switch (block_type) {
  470.   case SVQ1_BLOCK_SKIP:
  471.     svq1_skip_block (current, previous, pitch, x, y);
  472.     break;
  473.   case SVQ1_BLOCK_INTER:
  474.     result = svq1_motion_inter_block (s, bitbuf, current, previous, pitch, motion, x, y);
  475.     if (result != 0)
  476.     {
  477. #ifdef DEBUG_SVQ1
  478.     av_log(s->avctx, AV_LOG_INFO, "Error in svq1_motion_inter_block %in",result);
  479. #endif
  480.       break;
  481.     }
  482.     result = svq1_decode_block_non_intra (bitbuf, current, pitch);
  483.     break;
  484.   case SVQ1_BLOCK_INTER_4V:
  485.     result = svq1_motion_inter_4v_block (s, bitbuf, current, previous, pitch, motion, x, y);
  486.     if (result != 0)
  487.     {
  488. #ifdef DEBUG_SVQ1
  489.     av_log(s->avctx, AV_LOG_INFO, "Error in svq1_motion_inter_4v_block %in",result);
  490. #endif
  491.       break;
  492.     }
  493.     result = svq1_decode_block_non_intra (bitbuf, current, pitch);
  494.     break;
  495.   case SVQ1_BLOCK_INTRA:
  496.     result = svq1_decode_block_intra (bitbuf, current, pitch);
  497.     break;
  498.   }
  499.   return result;
  500. }
  501. /* standard video sizes */
  502. static struct { int width; int height; } svq1_frame_size_table[8] = {
  503.   { 160, 120 }, { 128,  96 }, { 176, 144 }, { 352, 288 },
  504.   { 704, 576 }, { 240, 180 }, { 320, 240 }, {  -1,  -1 }
  505. };
  506. static uint16_t svq1_packet_checksum (uint8_t *data, int length, int value) {
  507.   int i;
  508.   for (i=0; i < length; i++) {
  509.     value = checksum_table[data[i] ^ (value >> 8)] ^ ((value & 0xFF) << 8);
  510.   }
  511.   return value;
  512. }
  513. #if 0 /* unused, remove? */
  514. static uint16_t svq1_component_checksum (uint16_t *pixels, int pitch,
  515.                                          int width, int height, int value) {
  516.   int x, y;
  517.   for (y=0; y < height; y++) {
  518.     for (x=0; x < width; x++) {
  519.       value = checksum_table[pixels[x] ^ (value >> 8)] ^ ((value & 0xFF) << 8);
  520.     }
  521.     pixels += pitch;
  522.   }
  523.   return value;
  524. }
  525. #endif
  526. static void svq1_parse_string (GetBitContext *bitbuf, uint8_t *out) {
  527.   uint8_t seed;
  528.   int     i;
  529.   out[0] = get_bits (bitbuf, 8);
  530.   seed = string_table[out[0]];
  531.   for (i=1; i <= out[0]; i++) {
  532.     out[i] = get_bits (bitbuf, 8) ^ seed;
  533.     seed   = string_table[out[i] ^ seed];
  534.   }
  535. }
  536. static int svq1_decode_frame_header (GetBitContext *bitbuf,MpegEncContext *s) {
  537.   int frame_size_code;
  538.   int temporal_reference;
  539.   temporal_reference = get_bits (bitbuf, 8);
  540.   /* frame type */
  541.   s->pict_type= get_bits (bitbuf, 2)+1;
  542.   if(s->pict_type==4) 
  543.       return -1;
  544.       
  545.   if (s->pict_type == I_TYPE) {
  546.     /* unknown fields */
  547.     if (s->f_code == 0x50 || s->f_code == 0x60) {
  548.       int csum = get_bits (bitbuf, 16);
  549.       csum = svq1_packet_checksum ((uint8_t *)bitbuf->buffer, bitbuf->size_in_bits>>3, csum);
  550. //      av_log(s->avctx, AV_LOG_INFO, "%s checksum (%02x) for packet datan",
  551. //              (csum == 0) ? "correct" : "incorrect", csum);
  552.     }
  553.     if ((s->f_code ^ 0x10) >= 0x50) {
  554.       char msg[256];
  555.       svq1_parse_string (bitbuf, (char *) msg);
  556.       av_log(s->avctx, AV_LOG_INFO, "embedded message: "%s"n", (char *) msg);
  557.     }
  558.     skip_bits (bitbuf, 2);
  559.     skip_bits (bitbuf, 2);
  560.     skip_bits1 (bitbuf);
  561.     /* load frame size */
  562.     frame_size_code = get_bits (bitbuf, 3);
  563.     if (frame_size_code == 7) {
  564.       /* load width, height (12 bits each) */
  565.       s->width = get_bits (bitbuf, 12);
  566.       s->height = get_bits (bitbuf, 12);
  567.       if (!s->width || !s->height)
  568.         return -1;
  569.     } else {
  570.       /* get width, height from table */
  571.       s->width = svq1_frame_size_table[frame_size_code].width;
  572.       s->height = svq1_frame_size_table[frame_size_code].height;
  573.     }
  574.   }
  575.   /* unknown fields */
  576.   if (get_bits (bitbuf, 1) == 1) {
  577.     skip_bits1 (bitbuf);       /* use packet checksum if (1) */
  578.     skip_bits1 (bitbuf);       /* component checksums after image data if (1) */
  579.     if (get_bits (bitbuf, 2) != 0)
  580.       return -1;
  581.   }
  582.   if (get_bits (bitbuf, 1) == 1) {
  583.     skip_bits1 (bitbuf);
  584.     skip_bits (bitbuf, 4);
  585.     skip_bits1 (bitbuf);
  586.     skip_bits (bitbuf, 2);
  587.     while (get_bits (bitbuf, 1) == 1) {
  588.       skip_bits (bitbuf, 8);
  589.     }
  590.   }
  591.   
  592.   return 0;
  593. }
  594. static int svq1_decode_frame(AVCodecContext *avctx, 
  595.                              void *data, int *data_size,
  596.                              uint8_t *buf, int buf_size)
  597. {
  598.   MpegEncContext *s=avctx->priv_data;
  599.   uint8_t      *current, *previous;
  600.   int result, i, x, y, width, height;
  601.   AVFrame *pict = data; 
  602.   /* initialize bit buffer */
  603.   init_get_bits(&s->gb,buf,buf_size*8);
  604.   /* decode frame header */
  605.   s->f_code = get_bits (&s->gb, 22);
  606.   if ((s->f_code & ~0x70) || !(s->f_code & 0x60))
  607.     return -1;
  608.   /* swap some header bytes (why?) */
  609.   if (s->f_code != 0x20) {
  610.     uint32_t *src = (uint32_t *) (buf + 4);
  611.     for (i=0; i < 4; i++) {
  612.       src[i] = ((src[i] << 16) | (src[i] >> 16)) ^ src[7 - i];
  613.     }
  614.   }
  615.   result = svq1_decode_frame_header (&s->gb, s);
  616.   if (result != 0)
  617.   {
  618. #ifdef DEBUG_SVQ1
  619.     av_log(s->avctx, AV_LOG_INFO, "Error in svq1_decode_frame_header %in",result);
  620. #endif
  621.     return result;
  622.   }
  623.   
  624.   //FIXME this avoids some confusion for "B frames" without 2 references
  625.   //this should be removed after libavcodec can handle more flexible picture types & ordering
  626.   if(s->pict_type==B_TYPE && s->last_picture_ptr==NULL) return buf_size;
  627.   
  628.   if(avctx->hurry_up && s->pict_type==B_TYPE) return buf_size;
  629.   if(  (avctx->skip_frame >= AVDISCARD_NONREF && s->pict_type==B_TYPE)
  630.      ||(avctx->skip_frame >= AVDISCARD_NONKEY && s->pict_type!=I_TYPE)
  631.      || avctx->skip_frame >= AVDISCARD_ALL)
  632.       return buf_size;                            
  633.   if(MPV_frame_start(s, avctx) < 0)
  634.       return -1;
  635.   /* decode y, u and v components */
  636.   for (i=0; i < 3; i++) {
  637.     int linesize;
  638.     if (i == 0) {
  639.       width  = (s->width+15)&~15;
  640.       height = (s->height+15)&~15;
  641.       linesize= s->linesize;
  642.     } else {
  643.       if(s->flags&CODEC_FLAG_GRAY) break;
  644.       width  = (s->width/4+15)&~15;
  645.       height = (s->height/4+15)&~15;
  646.       linesize= s->uvlinesize;
  647.     }
  648.     current  = s->current_picture.data[i];
  649.     if(s->pict_type==B_TYPE){
  650.         previous = s->next_picture.data[i];
  651.     }else{
  652.         previous = s->last_picture.data[i];
  653.     }
  654.     if (s->pict_type == I_TYPE) {
  655.       /* keyframe */
  656.       for (y=0; y < height; y+=16) {
  657. for (x=0; x < width; x+=16) {
  658.   result = svq1_decode_block_intra (&s->gb, &current[x], linesize);
  659.   if (result != 0)
  660.   {
  661. //#ifdef DEBUG_SVQ1
  662.     av_log(s->avctx, AV_LOG_INFO, "Error in svq1_decode_block %i (keyframe)n",result);
  663. //#endif
  664.     return result;
  665.   }
  666. }
  667. current += 16*linesize;
  668.       }
  669.     } else {
  670.       svq1_pmv_t pmv[width/8+3];
  671.       /* delta frame */
  672.       memset (pmv, 0, ((width / 8) + 3) * sizeof(svq1_pmv_t));
  673.       for (y=0; y < height; y+=16) {
  674. for (x=0; x < width; x+=16) {
  675.   result = svq1_decode_delta_block (s, &s->gb, &current[x], previous,
  676.     linesize, pmv, x, y);
  677.   if (result != 0)
  678.   {
  679. #ifdef DEBUG_SVQ1
  680.     av_log(s->avctx, AV_LOG_INFO, "Error in svq1_decode_delta_block %in",result);
  681. #endif
  682.     return result;
  683.   }
  684. }
  685. pmv[0].x =
  686. pmv[0].y = 0;
  687. current += 16*linesize;
  688.       }
  689.     }
  690.   }
  691.   
  692.   *pict = *(AVFrame*)&s->current_picture;
  693.   MPV_frame_end(s);
  694.   
  695.   *data_size=sizeof(AVFrame);
  696.   return buf_size;
  697. }
  698. static int svq1_decode_init(AVCodecContext *avctx)
  699. {
  700.     MpegEncContext *s = avctx->priv_data;
  701.     int i;
  702.     MPV_decode_defaults(s);
  703.     s->avctx = avctx;
  704.     s->width = (avctx->width+3)&~3;
  705.     s->height = (avctx->height+3)&~3;
  706.     s->codec_id= avctx->codec->id;
  707.     avctx->pix_fmt = PIX_FMT_YUV410P;
  708.     avctx->has_b_frames= 1; // not true, but DP frames and these behave like unidirectional b frames
  709.     s->flags= avctx->flags;
  710.     if (MPV_common_init(s) < 0) return -1;
  711.     init_vlc(&svq1_block_type, 2, 4,
  712.         &svq1_block_type_vlc[0][1], 2, 1,
  713.         &svq1_block_type_vlc[0][0], 2, 1, 1);
  714.     init_vlc(&svq1_motion_component, 7, 33,
  715.         &mvtab[0][1], 2, 1,
  716.         &mvtab[0][0], 2, 1, 1);
  717.     for (i = 0; i < 6; i++) {
  718.         init_vlc(&svq1_intra_multistage[i], 3, 8,
  719.             &svq1_intra_multistage_vlc[i][0][1], 2, 1,
  720.             &svq1_intra_multistage_vlc[i][0][0], 2, 1, 1);
  721.         init_vlc(&svq1_inter_multistage[i], 3, 8,
  722.             &svq1_inter_multistage_vlc[i][0][1], 2, 1,
  723.             &svq1_inter_multistage_vlc[i][0][0], 2, 1, 1);
  724.     }
  725.     init_vlc(&svq1_intra_mean, 8, 256,
  726.         &svq1_intra_mean_vlc[0][1], 4, 2,
  727.         &svq1_intra_mean_vlc[0][0], 4, 2, 1);
  728.     init_vlc(&svq1_inter_mean, 9, 512,
  729.         &svq1_inter_mean_vlc[0][1], 4, 2,
  730.         &svq1_inter_mean_vlc[0][0], 4, 2, 1);
  731.     return 0;
  732. }
  733. static int svq1_decode_end(AVCodecContext *avctx)
  734. {
  735.     MpegEncContext *s = avctx->priv_data;
  736.     MPV_common_end(s);
  737.     return 0;
  738. }
  739. static void svq1_write_header(SVQ1Context *s, int frame_type)
  740. {
  741.     int i;
  742.     /* frame code */
  743.     put_bits(&s->pb, 22, 0x20);
  744.     /* temporal reference (sure hope this is a "don't care") */
  745.     put_bits(&s->pb, 8, 0x00);
  746.     /* frame type */
  747.     put_bits(&s->pb, 2, frame_type - 1);
  748.     if (frame_type == I_TYPE) {
  749.         /* no checksum since frame code is 0x20 */
  750.         /* no embedded string either */
  751.         /* output 5 unknown bits (2 + 2 + 1) */
  752.         put_bits(&s->pb, 5, 0);
  753. for (i = 0; i < 7; i++)
  754. {
  755.     if ((svq1_frame_size_table[i].width == s->frame_width) &&
  756. (svq1_frame_size_table[i].height == s->frame_height))
  757.     {
  758. put_bits(&s->pb, 3, i);
  759. break;
  760.     }
  761. }
  762. if (i == 7)
  763. {
  764.     put_bits(&s->pb, 3, 7);
  765.          put_bits(&s->pb, 12, s->frame_width);
  766.          put_bits(&s->pb, 12, s->frame_height);
  767. }
  768.     }
  769.     /* no checksum or extra data (next 2 bits get 0) */
  770.     put_bits(&s->pb, 2, 0);
  771. }
  772. #define QUALITY_THRESHOLD 100
  773. #define THRESHOLD_MULTIPLIER 0.6
  774. #if defined(HAVE_ALTIVEC)
  775. #undef vector
  776. #endif
  777. static int encode_block(SVQ1Context *s, uint8_t *src, uint8_t *ref, uint8_t *decoded, int stride, int level, int threshold, int lambda, int intra){
  778.     int count, y, x, i, j, split, best_mean, best_score, best_count;
  779.     int best_vector[6];
  780.     int block_sum[7]= {0, 0, 0, 0, 0, 0};
  781.     int w= 2<<((level+2)>>1);
  782.     int h= 2<<((level+1)>>1);
  783.     int size=w*h;
  784.     int16_t block[7][256];
  785.     const int8_t *codebook_sum, *codebook;
  786.     const uint16_t (*mean_vlc)[2];
  787.     const uint8_t (*multistage_vlc)[2];
  788.     best_score=0;
  789.     //FIXME optimize, this doenst need to be done multiple times
  790.     if(intra){
  791.         codebook_sum= svq1_intra_codebook_sum[level];
  792.         codebook= svq1_intra_codebooks[level];
  793.         mean_vlc= svq1_intra_mean_vlc;
  794.         multistage_vlc= svq1_intra_multistage_vlc[level];
  795.         for(y=0; y<h; y++){
  796.             for(x=0; x<w; x++){
  797.                 int v= src[x + y*stride];
  798.                 block[0][x + w*y]= v;
  799.                 best_score += v*v;
  800.                 block_sum[0] += v;
  801.             }
  802.         }
  803.     }else{
  804.         codebook_sum= svq1_inter_codebook_sum[level];
  805.         codebook= svq1_inter_codebooks[level];
  806.         mean_vlc= svq1_inter_mean_vlc + 256;
  807.         multistage_vlc= svq1_inter_multistage_vlc[level];
  808.         for(y=0; y<h; y++){
  809.             for(x=0; x<w; x++){
  810.                 int v= src[x + y*stride] - ref[x + y*stride];
  811.                 block[0][x + w*y]= v;
  812.                 best_score += v*v;
  813.                 block_sum[0] += v;
  814.             }
  815.         }
  816.     }
  817.     best_count=0;
  818.     best_score -= ((block_sum[0]*block_sum[0])>>(level+3));
  819.     best_mean= (block_sum[0] + (size>>1)) >> (level+3);
  820.     if(level<4){
  821.         for(count=1; count<7; count++){
  822.             int best_vector_score= INT_MAX;
  823.             int best_vector_sum=-999, best_vector_mean=-999;
  824.             const int stage= count-1;
  825.             const int8_t *vector;
  826.     
  827.             for(i=0; i<16; i++){
  828.                 int sum= codebook_sum[stage*16 + i];
  829.                 int sqr=0;
  830.                 int diff, mean, score;
  831.     
  832.                 vector = codebook + stage*size*16 + i*size;
  833.     
  834.                 for(j=0; j<size; j++){
  835.                     int v= vector[j];
  836.                     sqr += (v - block[stage][j])*(v - block[stage][j]);
  837.                 }
  838.                 diff= block_sum[stage] - sum;
  839.                 mean= (diff + (size>>1)) >> (level+3);
  840.                 assert(mean >-300 && mean<300);
  841.                 if(intra) mean= clip(mean, 0, 255);
  842.                 else      mean= clip(mean, -256, 255);
  843.                 score= sqr - ((diff*(int64_t)diff)>>(level+3)); //FIXME 64bit slooow
  844.                 if(score < best_vector_score){
  845.                     best_vector_score= score;
  846.                     best_vector[stage]= i;
  847.                     best_vector_sum= sum;
  848.                     best_vector_mean= mean;
  849.                 }
  850.             }
  851.             assert(best_vector_mean != -999);
  852.             vector= codebook + stage*size*16 + best_vector[stage]*size;
  853.             for(j=0; j<size; j++){
  854.                 block[stage+1][j] = block[stage][j] - vector[j];
  855.             }
  856.             block_sum[stage+1]= block_sum[stage] - best_vector_sum;
  857.             best_vector_score += 
  858.                 lambda*(+ 1 + 4*count
  859.                         + multistage_vlc[1+count][1]
  860.                         + mean_vlc[best_vector_mean][1]);
  861.     
  862.             if(best_vector_score < best_score){
  863.                 best_score= best_vector_score;
  864.                 best_count= count;
  865.                 best_mean= best_vector_mean;
  866.             }
  867.         }
  868.     }
  869.     
  870.     split=0;
  871.     if(best_score > threshold && level){
  872.         int score=0;
  873.         int offset= (level&1) ? stride*h/2 : w/2;
  874.         PutBitContext backup[6];
  875.         for(i=level-1; i>=0; i--){
  876.             backup[i]= s->reorder_pb[i];
  877.         }
  878.         score += encode_block(s, src         , ref         , decoded         , stride, level-1, threshold>>1, lambda, intra);
  879.         score += encode_block(s, src + offset, ref + offset, decoded + offset, stride, level-1, threshold>>1, lambda, intra);
  880.         score += lambda;
  881.         
  882.         if(score < best_score){
  883.             best_score= score;
  884.             split=1;
  885.         }else{
  886.             for(i=level-1; i>=0; i--){
  887.                 s->reorder_pb[i]= backup[i];
  888.             }
  889.         }
  890.     }
  891.     if (level > 0)
  892.         put_bits(&s->reorder_pb[level], 1, split);
  893.     if(!split){
  894.         assert((best_mean >= 0 && best_mean<256) || !intra);
  895.         assert(best_mean >= -256 && best_mean<256);
  896.         assert(best_count >=0 && best_count<7);
  897.         assert(level<4 || best_count==0);
  898.             
  899.         /* output the encoding */
  900.         put_bits(&s->reorder_pb[level], 
  901.             multistage_vlc[1 + best_count][1],
  902.             multistage_vlc[1 + best_count][0]);
  903.         put_bits(&s->reorder_pb[level], mean_vlc[best_mean][1],
  904.             mean_vlc[best_mean][0]);
  905.         for (i = 0; i < best_count; i++){
  906.             assert(best_vector[i]>=0 && best_vector[i]<16);
  907.             put_bits(&s->reorder_pb[level], 4, best_vector[i]);
  908.         }
  909.         
  910.         for(y=0; y<h; y++){
  911.             for(x=0; x<w; x++){
  912.                 decoded[x + y*stride]= src[x + y*stride] - block[best_count][x + w*y] + best_mean;
  913.             }
  914.         }
  915.     }
  916.     return best_score;
  917. }
  918. #ifdef CONFIG_ENCODERS
  919. static int svq1_encode_plane(SVQ1Context *s, int plane, unsigned char *src_plane, unsigned char *ref_plane, unsigned char *decoded_plane,
  920.     int width, int height, int src_stride, int stride)
  921. {
  922.     int x, y;
  923.     int i;
  924.     int block_width, block_height;
  925.     int level;
  926.     int threshold[6];
  927.     const int lambda= (s->picture.quality*s->picture.quality) >> (2*FF_LAMBDA_SHIFT);
  928.     /* figure out the acceptable level thresholds in advance */
  929.     threshold[5] = QUALITY_THRESHOLD;
  930.     for (level = 4; level >= 0; level--)
  931.         threshold[level] = threshold[level + 1] * THRESHOLD_MULTIPLIER;
  932.     block_width = (width + 15) / 16;
  933.     block_height = (height + 15) / 16;
  934.     if(s->picture.pict_type == P_TYPE){
  935.         s->m.avctx= s->avctx;
  936.         s->m.current_picture_ptr= &s->m.current_picture;
  937.         s->m.last_picture_ptr   = &s->m.last_picture;
  938.         s->m.last_picture.data[0]= ref_plane;
  939.         s->m.linesize=
  940.         s->m.last_picture.linesize[0]= 
  941.         s->m.new_picture.linesize[0]= 
  942.         s->m.current_picture.linesize[0]= stride;
  943.         s->m.width= width;
  944.         s->m.height= height;
  945.         s->m.mb_width= block_width;
  946.         s->m.mb_height= block_height;
  947.         s->m.mb_stride= s->m.mb_width+1;
  948.         s->m.b8_stride= 2*s->m.mb_width+1;
  949.         s->m.f_code=1;
  950.         s->m.pict_type= s->picture.pict_type;
  951.         s->m.me_method= s->avctx->me_method;
  952.         s->m.me.scene_change_score=0;
  953.         s->m.flags= s->avctx->flags;
  954. //        s->m.out_format = FMT_H263;
  955. //        s->m.unrestricted_mv= 1;
  956.         
  957.         s->m.lambda= s->picture.quality;
  958.         s->m.qscale= (s->m.lambda*139 + FF_LAMBDA_SCALE*64) >> (FF_LAMBDA_SHIFT + 7);
  959.         s->m.lambda2= (s->m.lambda*s->m.lambda + FF_LAMBDA_SCALE/2) >> FF_LAMBDA_SHIFT;
  960.         
  961.         if(!s->motion_val8[plane]){
  962.             s->motion_val8 [plane]= av_mallocz((s->m.b8_stride*block_height*2 + 2)*2*sizeof(int16_t));
  963.             s->motion_val16[plane]= av_mallocz((s->m.mb_stride*(block_height + 2) + 1)*2*sizeof(int16_t));
  964.         }
  965.         s->m.mb_type= s->mb_type;
  966.         
  967.         //dummies, to avoid segfaults
  968.         s->m.current_picture.mb_mean=   (uint8_t *)s->dummy;
  969.         s->m.current_picture.mb_var=    (uint16_t*)s->dummy;
  970.         s->m.current_picture.mc_mb_var= (uint16_t*)s->dummy;
  971.         s->m.current_picture.mb_type= s->dummy;
  972.         
  973.         s->m.current_picture.motion_val[0]= s->motion_val8[plane] + 2;
  974.         s->m.p_mv_table= s->motion_val16[plane] + s->m.mb_stride + 1;
  975.         s->m.dsp= s->dsp; //move
  976.         ff_init_me(&s->m);
  977.     
  978.         s->m.me.dia_size= s->avctx->dia_size;
  979.         s->m.first_slice_line=1;
  980.         for (y = 0; y < block_height; y++) {
  981.             uint8_t src[stride*16];
  982.             
  983.             s->m.new_picture.data[0]= src - y*16*stride; //ugly
  984.             s->m.mb_y= y;
  985.     
  986.             for(i=0; i<16 && i + 16*y<height; i++){
  987.                 memcpy(&src[i*stride], &src_plane[(i+16*y)*src_stride], width);
  988.                 for(x=width; x<16*block_width; x++)
  989.                     src[i*stride+x]= src[i*stride+x-1];
  990.             }
  991.             for(; i<16 && i + 16*y<16*block_height; i++)
  992.                 memcpy(&src[i*stride], &src[(i-1)*stride], 16*block_width);
  993.     
  994.             for (x = 0; x < block_width; x++) {
  995.                 s->m.mb_x= x;
  996.                 ff_init_block_index(&s->m);
  997.                 ff_update_block_index(&s->m);
  998.                 
  999.                 ff_estimate_p_frame_motion(&s->m, x, y);
  1000.             }
  1001.             s->m.first_slice_line=0;
  1002.         }
  1003.     
  1004.         ff_fix_long_p_mvs(&s->m);
  1005.         ff_fix_long_mvs(&s->m, NULL, 0, s->m.p_mv_table, s->m.f_code, CANDIDATE_MB_TYPE_INTER, 0);
  1006.     }
  1007.         
  1008.     s->m.first_slice_line=1;
  1009.     for (y = 0; y < block_height; y++) {
  1010.         uint8_t src[stride*16];
  1011.         
  1012.         for(i=0; i<16 && i + 16*y<height; i++){
  1013.             memcpy(&src[i*stride], &src_plane[(i+16*y)*src_stride], width);
  1014.             for(x=width; x<16*block_width; x++)
  1015.                 src[i*stride+x]= src[i*stride+x-1];
  1016.         }
  1017.         for(; i<16 && i + 16*y<16*block_height; i++)
  1018.             memcpy(&src[i*stride], &src[(i-1)*stride], 16*block_width);
  1019.         s->m.mb_y= y;
  1020.         for (x = 0; x < block_width; x++) {
  1021.             uint8_t reorder_buffer[3][6][7*32];
  1022.             int count[3][6];
  1023.             int offset = y * 16 * stride + x * 16;
  1024.             uint8_t *decoded= decoded_plane + offset;
  1025.             uint8_t *ref= ref_plane + offset;
  1026.             int score[4]={0,0,0,0}, best;
  1027.             uint8_t temp[16*stride];
  1028.             
  1029.             if(s->pb.buf_end - s->pb.buf - (put_bits_count(&s->pb)>>3) < 3000){ //FIXME check size
  1030.                 av_log(s->avctx, AV_LOG_ERROR, "encoded frame too largen");
  1031.                 return -1;
  1032.             }
  1033.             s->m.mb_x= x;
  1034.             ff_init_block_index(&s->m);
  1035.             ff_update_block_index(&s->m);
  1036.             
  1037.             if(s->picture.pict_type == I_TYPE || (s->m.mb_type[x + y*s->m.mb_stride]&CANDIDATE_MB_TYPE_INTRA)){
  1038.                 for(i=0; i<6; i++){
  1039.                     init_put_bits(&s->reorder_pb[i], reorder_buffer[0][i], 7*32);
  1040.                 }
  1041.                 if(s->picture.pict_type == P_TYPE){
  1042.                     const uint8_t *vlc= svq1_block_type_vlc[SVQ1_BLOCK_INTRA];
  1043.                     put_bits(&s->reorder_pb[5], vlc[1], vlc[0]);
  1044.                     score[0]= vlc[1]*lambda;
  1045.                 }
  1046.                 score[0]+= encode_block(s, src+16*x, NULL, temp, stride, 5, 64, lambda, 1);
  1047.                 for(i=0; i<6; i++){
  1048.                     count[0][i]= put_bits_count(&s->reorder_pb[i]);
  1049.                     flush_put_bits(&s->reorder_pb[i]);
  1050.                 }
  1051.             }else
  1052.                 score[0]= INT_MAX;
  1053.             
  1054.             best=0;
  1055.             
  1056.             if(s->picture.pict_type == P_TYPE){
  1057.                 const uint8_t *vlc= svq1_block_type_vlc[SVQ1_BLOCK_INTER];
  1058.                 int mx, my, pred_x, pred_y, dxy;
  1059.                 int16_t *motion_ptr;
  1060.                 motion_ptr= h263_pred_motion(&s->m, 0, 0, &pred_x, &pred_y);
  1061.                 if(s->m.mb_type[x + y*s->m.mb_stride]&CANDIDATE_MB_TYPE_INTER){
  1062.                     for(i=0; i<6; i++)
  1063.                         init_put_bits(&s->reorder_pb[i], reorder_buffer[1][i], 7*32);
  1064.                     put_bits(&s->reorder_pb[5], vlc[1], vlc[0]);
  1065.     
  1066.                     s->m.pb= s->reorder_pb[5];                
  1067.                     mx= motion_ptr[0];
  1068.                     my= motion_ptr[1];
  1069.                     assert(mx>=-32 && mx<=31);
  1070.                     assert(my>=-32 && my<=31);
  1071.                     assert(pred_x>=-32 && pred_x<=31);
  1072.                     assert(pred_y>=-32 && pred_y<=31);
  1073.                     ff_h263_encode_motion(&s->m, mx - pred_x, 1);
  1074.                     ff_h263_encode_motion(&s->m, my - pred_y, 1);
  1075.                     s->reorder_pb[5]= s->m.pb;
  1076.                     score[1] += lambda*put_bits_count(&s->reorder_pb[5]);
  1077.     
  1078.                     dxy= (mx&1) + 2*(my&1);
  1079.                     
  1080.                     s->dsp.put_pixels_tab[0][dxy](temp+16, ref + (mx>>1) + stride*(my>>1), stride, 16);
  1081.                     
  1082.                     score[1]+= encode_block(s, src+16*x, temp+16, decoded, stride, 5, 64, lambda, 0);
  1083.                     best= score[1] <= score[0];
  1084.                     vlc= svq1_block_type_vlc[SVQ1_BLOCK_SKIP];
  1085.                     score[2]= s->dsp.sse[0](NULL, src+16*x, ref, stride, 16);
  1086.                     score[2]+= vlc[1]*lambda;
  1087.                     if(score[2] < score[best] && mx==0 && my==0){
  1088.                         best=2;
  1089.                         s->dsp.put_pixels_tab[0][0](decoded, ref, stride, 16);
  1090.                         for(i=0; i<6; i++){
  1091.                             count[2][i]=0;
  1092.                         }
  1093.                         put_bits(&s->pb, vlc[1], vlc[0]);
  1094.                     }
  1095.                 }
  1096.                 if(best==1){
  1097.                     for(i=0; i<6; i++){
  1098.                         count[1][i]= put_bits_count(&s->reorder_pb[i]);
  1099.                         flush_put_bits(&s->reorder_pb[i]);
  1100.                     }
  1101.                 }else{
  1102.                     motion_ptr[0                 ] = motion_ptr[1                 ]=
  1103.                     motion_ptr[2                 ] = motion_ptr[3                 ]=
  1104.                     motion_ptr[0+2*s->m.b8_stride] = motion_ptr[1+2*s->m.b8_stride]=
  1105.                     motion_ptr[2+2*s->m.b8_stride] = motion_ptr[3+2*s->m.b8_stride]=0;
  1106.                 }
  1107.             }
  1108.                 
  1109.             s->rd_total += score[best];
  1110.             for(i=5; i>=0; i--){
  1111.                 ff_copy_bits(&s->pb, reorder_buffer[best][i], count[best][i]);
  1112.             }
  1113.             if(best==0){
  1114.                 s->dsp.put_pixels_tab[0][0](decoded, temp, stride, 16);
  1115.             }
  1116.         }
  1117.         s->m.first_slice_line=0;
  1118.     }
  1119.     return 0;
  1120. }
  1121. static int svq1_encode_init(AVCodecContext *avctx)
  1122. {
  1123.     SVQ1Context * const s = avctx->priv_data;
  1124.     dsputil_init(&s->dsp, avctx);
  1125.     avctx->coded_frame= (AVFrame*)&s->picture;
  1126.     s->frame_width = avctx->width;
  1127.     s->frame_height = avctx->height;
  1128.     s->y_block_width = (s->frame_width + 15) / 16;
  1129.     s->y_block_height = (s->frame_height + 15) / 16;
  1130.     s->c_block_width = (s->frame_width / 4 + 15) / 16;
  1131.     s->c_block_height = (s->frame_height / 4 + 15) / 16;
  1132.     s->avctx= avctx;
  1133.     s->m.avctx= avctx;
  1134.     s->m.me.scratchpad= av_mallocz((avctx->width+64)*2*16*2*sizeof(uint8_t)); 
  1135.     s->m.me.map       = av_mallocz(ME_MAP_SIZE*sizeof(uint32_t));
  1136.     s->m.me.score_map = av_mallocz(ME_MAP_SIZE*sizeof(uint32_t));
  1137.     s->mb_type        = av_mallocz((s->y_block_width+1)*s->y_block_height*sizeof(int16_t));
  1138.     s->dummy          = av_mallocz((s->y_block_width+1)*s->y_block_height*sizeof(int32_t));
  1139.     h263_encode_init(&s->m); //mv_penalty
  1140.     
  1141.     return 0;
  1142. }
  1143. static int svq1_encode_frame(AVCodecContext *avctx, unsigned char *buf, 
  1144.     int buf_size, void *data)
  1145. {
  1146.     SVQ1Context * const s = avctx->priv_data;
  1147.     AVFrame *pict = data;
  1148.     AVFrame * const p= (AVFrame*)&s->picture;
  1149.     AVFrame temp;
  1150.     int i;
  1151.     if(avctx->pix_fmt != PIX_FMT_YUV410P){
  1152.         av_log(avctx, AV_LOG_ERROR, "unsupported pixel formatn");
  1153.         return -1;
  1154.     }
  1155.     
  1156.     if(!s->current_picture.data[0]){
  1157.         avctx->get_buffer(avctx, &s->current_picture);
  1158.         avctx->get_buffer(avctx, &s->last_picture);
  1159.     }
  1160.     
  1161.     temp= s->current_picture;
  1162.     s->current_picture= s->last_picture;
  1163.     s->last_picture= temp;
  1164.     
  1165.     init_put_bits(&s->pb, buf, buf_size);
  1166.     *p = *pict;
  1167.     p->pict_type = avctx->frame_number % avctx->gop_size ? P_TYPE : I_TYPE;
  1168.     p->key_frame = p->pict_type == I_TYPE;
  1169.     svq1_write_header(s, p->pict_type);
  1170.     for(i=0; i<3; i++){
  1171.         if(svq1_encode_plane(s, i,
  1172.             s->picture.data[i], s->last_picture.data[i], s->current_picture.data[i],
  1173.             s->frame_width / (i?4:1), s->frame_height / (i?4:1), 
  1174.             s->picture.linesize[i], s->current_picture.linesize[i]) < 0)
  1175.                 return -1;
  1176.     }
  1177. //    align_put_bits(&s->pb);
  1178.     while(put_bits_count(&s->pb) & 31)
  1179.         put_bits(&s->pb, 1, 0);
  1180.         
  1181.     flush_put_bits(&s->pb);
  1182.     return (put_bits_count(&s->pb) / 8);
  1183. }
  1184. static int svq1_encode_end(AVCodecContext *avctx)
  1185. {
  1186.     SVQ1Context * const s = avctx->priv_data;
  1187.     int i;
  1188.     av_log(avctx, AV_LOG_DEBUG, "RD: %fn", s->rd_total/(double)(avctx->width*avctx->height*avctx->frame_number));
  1189.     
  1190.     av_freep(&s->m.me.scratchpad);     
  1191.     av_freep(&s->m.me.map);
  1192.     av_freep(&s->m.me.score_map);
  1193.     av_freep(&s->mb_type);
  1194.     av_freep(&s->dummy);
  1195.     for(i=0; i<3; i++){
  1196.         av_freep(&s->motion_val8[i]);
  1197.         av_freep(&s->motion_val16[i]);
  1198.     }
  1199.     return 0;
  1200. }
  1201. #endif //CONFIG_ENCODERS
  1202. AVCodec svq1_decoder = {
  1203.     "svq1",
  1204.     CODEC_TYPE_VIDEO,
  1205.     CODEC_ID_SVQ1,
  1206.     sizeof(MpegEncContext),
  1207.     svq1_decode_init,
  1208.     NULL,
  1209.     svq1_decode_end,
  1210.     svq1_decode_frame,
  1211.     CODEC_CAP_DR1,
  1212.     .flush= ff_mpeg_flush,
  1213.     .pix_fmts= (enum PixelFormat[]){PIX_FMT_YUV410P, -1},
  1214. };
  1215. #ifdef CONFIG_ENCODERS
  1216. AVCodec svq1_encoder = {
  1217.     "svq1",
  1218.     CODEC_TYPE_VIDEO,
  1219.     CODEC_ID_SVQ1,
  1220.     sizeof(SVQ1Context),
  1221.     svq1_encode_init,
  1222.     svq1_encode_frame,
  1223.     svq1_encode_end,
  1224.     .pix_fmts= (enum PixelFormat[]){PIX_FMT_YUV410P, -1},
  1225. };
  1226. #endif //CONFIG_ENCODERS