snow.c
上传用户:wstnjxml
上传日期:2014-04-03
资源大小:7248k
文件大小:135k
源码类别:

Windows CE

开发平台:

C/C++

  1.             s->block[index + i + j*w]= block;
  2.         }
  3.     }
  4. }
  5. static inline void init_ref(MotionEstContext *c, uint8_t *src[3], uint8_t *ref[3], uint8_t *ref2[3], int x, int y, int ref_index){
  6.     const int offset[3]= {
  7.           y*c->  stride + x,
  8.         ((y*c->uvstride + x)>>1),
  9.         ((y*c->uvstride + x)>>1),
  10.     };
  11.     int i;
  12.     for(i=0; i<3; i++){
  13.         c->src[0][i]= src [i];
  14.         c->ref[0][i]= ref [i] + offset[i];
  15.     }
  16.     assert(!ref_index);
  17. }
  18. //FIXME copy&paste
  19. #define P_LEFT P[1]
  20. #define P_TOP P[2]
  21. #define P_TOPRIGHT P[3]
  22. #define P_MEDIAN P[4]
  23. #define P_MV1 P[9]
  24. #define FLAG_QPEL   1 //must be 1
  25. static int encode_q_branch(SnowContext *s, int level, int x, int y){
  26.     uint8_t p_buffer[1024];
  27.     uint8_t i_buffer[1024];
  28.     uint8_t p_state[sizeof(s->block_state)];
  29.     uint8_t i_state[sizeof(s->block_state)];
  30.     RangeCoder pc, ic;
  31.     uint8_t *pbbak= s->c.bytestream;
  32.     uint8_t *pbbak_start= s->c.bytestream_start;
  33.     int score, score2, iscore, i_len, p_len, block_s, sum;
  34.     const int w= s->b_width  << s->block_max_depth;
  35.     const int h= s->b_height << s->block_max_depth;
  36.     const int rem_depth= s->block_max_depth - level;
  37.     const int index= (x + y*w) << rem_depth;
  38.     const int block_w= 1<<(LOG2_MB_SIZE - level);
  39.     static BlockNode null_block= { //FIXME add border maybe
  40.         .color= {128,128,128},
  41.         .mx= 0,
  42.         .my= 0,
  43.         .type= 0,
  44.         .level= 0,
  45.     };
  46.     int trx= (x+1)<<rem_depth;
  47.     int try= (y+1)<<rem_depth;
  48.     BlockNode *left  = x ? &s->block[index-1] : &null_block;
  49.     BlockNode *top   = y ? &s->block[index-w] : &null_block;
  50.     BlockNode *right = trx<w ? &s->block[index+1] : &null_block;
  51.     BlockNode *bottom= try<h ? &s->block[index+w] : &null_block;
  52.     BlockNode *tl    = y && x ? &s->block[index-w-1] : left;
  53.     BlockNode *tr    = y && trx<w && ((x&1)==0 || level==0) ? &s->block[index-w+(1<<rem_depth)] : tl; //FIXME use lt
  54.     int pl = left->color[0];
  55.     int pcb= left->color[1];
  56.     int pcr= left->color[2];
  57.     int pmx= mid_pred(left->mx, top->mx, tr->mx);
  58.     int pmy= mid_pred(left->my, top->my, tr->my);
  59.     int mx=0, my=0;
  60.     int l,cr,cb, i;
  61.     const int stride= s->current_picture.linesize[0];
  62.     const int uvstride= s->current_picture.linesize[1];
  63.     const int instride= s->input_picture.linesize[0];
  64.     const int uvinstride= s->input_picture.linesize[1];
  65.     uint8_t *new_l = s->input_picture.data[0] + (x + y*  instride)*block_w;
  66.     uint8_t *new_cb= s->input_picture.data[1] + (x + y*uvinstride)*block_w/2;
  67.     uint8_t *new_cr= s->input_picture.data[2] + (x + y*uvinstride)*block_w/2;
  68.     uint8_t current_mb[3][stride*block_w];
  69.     uint8_t *current_data[3]= {&current_mb[0][0], &current_mb[1][0], &current_mb[2][0]};
  70.     int P[10][2];
  71.     int16_t last_mv[3][2];
  72.     int qpel= !!(s->avctx->flags & CODEC_FLAG_QPEL); //unused
  73.     const int shift= 1+qpel;
  74.     MotionEstContext *c= &s->m.me;
  75.     int mx_context= av_log2(2*ABS(left->mx - top->mx));
  76.     int my_context= av_log2(2*ABS(left->my - top->my));
  77.     int s_context= 2*left->level + 2*top->level + tl->level + tr->level;
  78.     assert(sizeof(s->block_state) >= 256);
  79.     if(s->keyframe){
  80.         set_blocks(s, level, x, y, pl, pcb, pcr, pmx, pmy, BLOCK_INTRA);
  81.         return 0;
  82.     }
  83.     //FIXME optimize
  84.     for(i=0; i<block_w; i++)
  85.         memcpy(&current_mb[0][0] +   stride*i, new_l  +   instride*i, block_w);
  86.     for(i=0; i<block_w>>1; i++)
  87.         memcpy(&current_mb[1][0] + uvstride*i, new_cb + uvinstride*i, block_w>>1);
  88.     for(i=0; i<block_w>>1; i++)
  89.         memcpy(&current_mb[2][0] + uvstride*i, new_cr + uvinstride*i, block_w>>1);
  90. //    clip predictors / edge ?
  91.     P_LEFT[0]= left->mx;
  92.     P_LEFT[1]= left->my;
  93.     P_TOP [0]= top->mx;
  94.     P_TOP [1]= top->my;
  95.     P_TOPRIGHT[0]= tr->mx;
  96.     P_TOPRIGHT[1]= tr->my;
  97.     
  98.     last_mv[0][0]= s->block[index].mx;
  99.     last_mv[0][1]= s->block[index].my;
  100.     last_mv[1][0]= right->mx;
  101.     last_mv[1][1]= right->my;
  102.     last_mv[2][0]= bottom->mx;
  103.     last_mv[2][1]= bottom->my;
  104.     
  105.     s->m.mb_stride=2;
  106.     s->m.mb_x= 
  107.     s->m.mb_y= 0;
  108.     s->m.me.skip= 0;
  109.     init_ref(c, current_data, s->last_picture.data, NULL, block_w*x, block_w*y, 0);
  110.     
  111.     assert(s->m.me.  stride ==   stride);
  112.     assert(s->m.me.uvstride == uvstride);
  113.     
  114.     c->penalty_factor    = get_penalty_factor(s->lambda, s->lambda2, c->avctx->me_cmp);
  115.     c->sub_penalty_factor= get_penalty_factor(s->lambda, s->lambda2, c->avctx->me_sub_cmp);
  116.     c->mb_penalty_factor = get_penalty_factor(s->lambda, s->lambda2, c->avctx->mb_cmp);
  117.     c->current_mv_penalty= c->mv_penalty[s->m.f_code=1] + MAX_MV;
  118.     
  119.     c->xmin = - x*block_w - 16+2;
  120.     c->ymin = - y*block_w - 16+2;
  121.     c->xmax = - (x+1)*block_w + (w<<(LOG2_MB_SIZE - s->block_max_depth)) + 16-2;
  122.     c->ymax = - (y+1)*block_w + (h<<(LOG2_MB_SIZE - s->block_max_depth)) + 16-2;
  123.     if(P_LEFT[0]     > (c->xmax<<shift)) P_LEFT[0]    = (c->xmax<<shift);
  124.     if(P_LEFT[1]     > (c->ymax<<shift)) P_LEFT[1]    = (c->ymax<<shift); 
  125.     if(P_TOP[0]      > (c->xmax<<shift)) P_TOP[0]     = (c->xmax<<shift);
  126.     if(P_TOP[1]      > (c->ymax<<shift)) P_TOP[1]     = (c->ymax<<shift);
  127.     if(P_TOPRIGHT[0] < (c->xmin<<shift)) P_TOPRIGHT[0]= (c->xmin<<shift);
  128.     if(P_TOPRIGHT[0] > (c->xmax<<shift)) P_TOPRIGHT[0]= (c->xmax<<shift); //due to pmx no clip
  129.     if(P_TOPRIGHT[1] > (c->ymax<<shift)) P_TOPRIGHT[1]= (c->ymax<<shift);
  130.     P_MEDIAN[0]= mid_pred(P_LEFT[0], P_TOP[0], P_TOPRIGHT[0]);
  131.     P_MEDIAN[1]= mid_pred(P_LEFT[1], P_TOP[1], P_TOPRIGHT[1]);
  132.     if (!y) {
  133.         c->pred_x= P_LEFT[0];
  134.         c->pred_y= P_LEFT[1];
  135.     } else {
  136.         c->pred_x = P_MEDIAN[0];
  137.         c->pred_y = P_MEDIAN[1];
  138.     }
  139.     score= ff_epzs_motion_search(&s->m, &mx, &my, P, 0, /*ref_index*/ 0, last_mv, 
  140.                              (1<<16)>>shift, level-LOG2_MB_SIZE+4, block_w);
  141.     assert(mx >= c->xmin);
  142.     assert(mx <= c->xmax);
  143.     assert(my >= c->ymin);
  144.     assert(my <= c->ymax);
  145.     
  146.     score= s->m.me.sub_motion_search(&s->m, &mx, &my, score, 0, 0, level-LOG2_MB_SIZE+4, block_w);
  147.     score= ff_get_mb_score(&s->m, mx, my, 0, 0, level-LOG2_MB_SIZE+4, block_w, 0);
  148.     //FIXME if mb_cmp != SSE then intra cant be compared currently and mb_penalty vs. lambda2
  149.                              
  150.   //  subpel search
  151.     pc= s->c;
  152.     pc.bytestream_start=
  153.     pc.bytestream= p_buffer; //FIXME end/start? and at the other stoo
  154.     memcpy(p_state, s->block_state, sizeof(s->block_state));
  155.     if(level!=s->block_max_depth)
  156.         put_rac(&pc, &p_state[4 + s_context], 1);
  157.     put_rac(&pc, &p_state[1 + left->type + top->type], 0);
  158.     put_symbol(&pc, &p_state[128 + 32*mx_context], mx - pmx, 1);
  159.     put_symbol(&pc, &p_state[128 + 32*my_context], my - pmy, 1);
  160.     p_len= pc.bytestream - pc.bytestream_start;
  161.     score += (s->lambda2*(p_len*8
  162.               + (pc.outstanding_count - s->c.outstanding_count)*8
  163.               + (-av_log2(pc.range)    + av_log2(s->c.range))
  164.              ))>>FF_LAMBDA_SHIFT;
  165.     block_s= block_w*block_w;
  166.     sum = pix_sum(&current_mb[0][0], stride, block_w);
  167.     l= (sum + block_s/2)/block_s;
  168.     iscore = pix_norm1(&current_mb[0][0], stride, block_w) - 2*l*sum + l*l*block_s;
  169.     
  170.     block_s= block_w*block_w>>2;
  171.     sum = pix_sum(&current_mb[1][0], uvstride, block_w>>1);
  172.     cb= (sum + block_s/2)/block_s;
  173. //    iscore += pix_norm1(&current_mb[1][0], uvstride, block_w>>1) - 2*cb*sum + cb*cb*block_s;
  174.     sum = pix_sum(&current_mb[2][0], uvstride, block_w>>1);
  175.     cr= (sum + block_s/2)/block_s;
  176. //    iscore += pix_norm1(&current_mb[2][0], uvstride, block_w>>1) - 2*cr*sum + cr*cr*block_s;
  177.     ic= s->c;
  178.     ic.bytestream_start=
  179.     ic.bytestream= i_buffer; //FIXME end/start? and at the other stoo
  180.     memcpy(i_state, s->block_state, sizeof(s->block_state));
  181.     if(level!=s->block_max_depth)
  182.         put_rac(&ic, &i_state[4 + s_context], 1);
  183.     put_rac(&ic, &i_state[1 + left->type + top->type], 1);
  184.     put_symbol(&ic, &i_state[32],  l-pl , 1);
  185.     put_symbol(&ic, &i_state[64], cb-pcb, 1);
  186.     put_symbol(&ic, &i_state[96], cr-pcr, 1);
  187.     i_len= ic.bytestream - ic.bytestream_start;
  188.     iscore += (s->lambda2*(i_len*8
  189.               + (ic.outstanding_count - s->c.outstanding_count)*8
  190.               + (-av_log2(ic.range)    + av_log2(s->c.range))
  191.              ))>>FF_LAMBDA_SHIFT;
  192. //    assert(score==256*256*256*64-1);
  193.     assert(iscore < 255*255*256 + s->lambda2*10);
  194.     assert(iscore >= 0);
  195.     assert(l>=0 && l<=255);
  196.     assert(pl>=0 && pl<=255);
  197.     if(level==0){
  198.         int varc= iscore >> 8;
  199.         int vard= score >> 8;
  200.         if (vard <= 64 || vard < varc)
  201.             c->scene_change_score+= ff_sqrt(vard) - ff_sqrt(varc);
  202.         else
  203.             c->scene_change_score+= s->m.qscale;
  204.     }
  205.         
  206.     if(level!=s->block_max_depth){
  207.         put_rac(&s->c, &s->block_state[4 + s_context], 0);
  208.         score2 = encode_q_branch(s, level+1, 2*x+0, 2*y+0);
  209.         score2+= encode_q_branch(s, level+1, 2*x+1, 2*y+0);
  210.         score2+= encode_q_branch(s, level+1, 2*x+0, 2*y+1);
  211.         score2+= encode_q_branch(s, level+1, 2*x+1, 2*y+1);
  212.         score2+= s->lambda2>>FF_LAMBDA_SHIFT; //FIXME exact split overhead
  213.     
  214.         if(score2 < score && score2 < iscore)
  215.             return score2;
  216.     }
  217.     
  218.     if(iscore < score){
  219.         memcpy(pbbak, i_buffer, i_len);
  220.         s->c= ic;
  221.         s->c.bytestream_start= pbbak_start;
  222.         s->c.bytestream= pbbak + i_len;
  223.         set_blocks(s, level, x, y, l, cb, cr, pmx, pmy, BLOCK_INTRA);
  224.         memcpy(s->block_state, i_state, sizeof(s->block_state));
  225.         return iscore;
  226.     }else{
  227.         memcpy(pbbak, p_buffer, p_len);
  228.         s->c= pc;
  229.         s->c.bytestream_start= pbbak_start;
  230.         s->c.bytestream= pbbak + p_len;
  231.         set_blocks(s, level, x, y, pl, pcb, pcr, mx, my, 0);
  232.         memcpy(s->block_state, p_state, sizeof(s->block_state));
  233.         return score;
  234.     }
  235. }
  236. static void decode_q_branch(SnowContext *s, int level, int x, int y){
  237.     const int w= s->b_width << s->block_max_depth;
  238.     const int rem_depth= s->block_max_depth - level;
  239.     const int index= (x + y*w) << rem_depth;
  240.     static BlockNode null_block= { //FIXME add border maybe
  241.         .color= {128,128,128},
  242.         .mx= 0,
  243.         .my= 0,
  244.         .type= 0,
  245.         .level= 0,
  246.     };
  247.     int trx= (x+1)<<rem_depth;
  248.     BlockNode *left  = x ? &s->block[index-1] : &null_block;
  249.     BlockNode *top   = y ? &s->block[index-w] : &null_block;
  250.     BlockNode *tl    = y && x ? &s->block[index-w-1] : left;
  251.     BlockNode *tr    = y && trx<w && ((x&1)==0 || level==0) ? &s->block[index-w+(1<<rem_depth)] : tl; //FIXME use lt
  252.     int s_context= 2*left->level + 2*top->level + tl->level + tr->level;
  253.     
  254.     if(s->keyframe){
  255.         set_blocks(s, level, x, y, null_block.color[0], null_block.color[1], null_block.color[2], null_block.mx, null_block.my, BLOCK_INTRA);
  256.         return;
  257.     }
  258.     if(level==s->block_max_depth || get_rac(&s->c, &s->block_state[4 + s_context])){
  259.         int type;
  260.         int l = left->color[0];
  261.         int cb= left->color[1];
  262.         int cr= left->color[2];
  263.         int mx= mid_pred(left->mx, top->mx, tr->mx);
  264.         int my= mid_pred(left->my, top->my, tr->my);
  265.         int mx_context= av_log2(2*ABS(left->mx - top->mx)) + 0*av_log2(2*ABS(tr->mx - top->mx));
  266.         int my_context= av_log2(2*ABS(left->my - top->my)) + 0*av_log2(2*ABS(tr->my - top->my));
  267.         
  268.         type= get_rac(&s->c, &s->block_state[1 + left->type + top->type]) ? BLOCK_INTRA : 0;
  269.         if(type){
  270.             l += get_symbol(&s->c, &s->block_state[32], 1);
  271.             cb+= get_symbol(&s->c, &s->block_state[64], 1);
  272.             cr+= get_symbol(&s->c, &s->block_state[96], 1);
  273.         }else{
  274.             mx+= get_symbol(&s->c, &s->block_state[128 + 32*mx_context], 1);
  275.             my+= get_symbol(&s->c, &s->block_state[128 + 32*my_context], 1);
  276.         }
  277.         set_blocks(s, level, x, y, l, cb, cr, mx, my, type);
  278.     }else{
  279.         decode_q_branch(s, level+1, 2*x+0, 2*y+0);
  280.         decode_q_branch(s, level+1, 2*x+1, 2*y+0);
  281.         decode_q_branch(s, level+1, 2*x+0, 2*y+1);
  282.         decode_q_branch(s, level+1, 2*x+1, 2*y+1);
  283.     }
  284. }
  285. static void encode_blocks(SnowContext *s){
  286.     int x, y;
  287.     int w= s->b_width;
  288.     int h= s->b_height;
  289.     for(y=0; y<h; y++){
  290.         if(s->c.bytestream_end - s->c.bytestream < w*MB_SIZE*MB_SIZE*3){ //FIXME nicer limit
  291.             av_log(s->avctx, AV_LOG_ERROR, "encoded frame too largen");
  292.             return;
  293.         }
  294.         for(x=0; x<w; x++){
  295.             encode_q_branch(s, 0, x, y);
  296.         }
  297.     }
  298. }
  299. static void decode_blocks(SnowContext *s){
  300.     int x, y;
  301.     int w= s->b_width;
  302.     int h= s->b_height;
  303.     for(y=0; y<h; y++){
  304.         for(x=0; x<w; x++){
  305.             decode_q_branch(s, 0, x, y);
  306.         }
  307.     }
  308. }
  309. static void mc_block(uint8_t *dst, uint8_t *src, uint8_t *tmp, int stride, int b_w, int b_h, int dx, int dy){
  310.     int x, y;
  311. START_TIMER
  312.     for(y=0; y < b_h+5; y++){
  313.         for(x=0; x < b_w; x++){
  314.             int a0= src[x    ];
  315.             int a1= src[x + 1];
  316.             int a2= src[x + 2];
  317.             int a3= src[x + 3];
  318.             int a4= src[x + 4];
  319.             int a5= src[x + 5];
  320. //            int am= 9*(a1+a2) - (a0+a3);
  321.             int am= 20*(a2+a3) - 5*(a1+a4) + (a0+a5);
  322. //            int am= 18*(a2+a3) - 2*(a1+a4);
  323. //             int aL= (-7*a0 + 105*a1 + 35*a2 - 5*a3)>>3;
  324. //             int aR= (-7*a3 + 105*a2 + 35*a1 - 5*a0)>>3;
  325. //            if(b_w==16) am= 8*(a1+a2);
  326.             if(dx<8) am = (32*a2*( 8-dx) +    am* dx    + 128)>>8;
  327.             else     am = (   am*(16-dx) + 32*a3*(dx-8) + 128)>>8;
  328.             
  329.             /* FIXME Try increasing tmp buffer to 16 bits and not clipping here. Should give marginally better results. - Robert*/
  330.             if(am&(~255)) am= ~(am>>31);
  331.             
  332.             tmp[x] = am;
  333. /*            if     (dx< 4) tmp[x + y*stride]= (16*a1*( 4-dx) +    aL* dx     + 32)>>6;
  334.             else if(dx< 8) tmp[x + y*stride]= (   aL*( 8-dx) +    am*(dx- 4) + 32)>>6;
  335.             else if(dx<12) tmp[x + y*stride]= (   am*(12-dx) +    aR*(dx- 8) + 32)>>6;
  336.             else           tmp[x + y*stride]= (   aR*(16-dx) + 16*a2*(dx-12) + 32)>>6;*/
  337.         }
  338.         tmp += stride;
  339.         src += stride;
  340.     }
  341.     tmp -= (b_h+5)*stride;
  342.     
  343.     for(y=0; y < b_h; y++){
  344.         for(x=0; x < b_w; x++){
  345.             int a0= tmp[x + 0*stride];
  346.             int a1= tmp[x + 1*stride];
  347.             int a2= tmp[x + 2*stride];
  348.             int a3= tmp[x + 3*stride];
  349.             int a4= tmp[x + 4*stride];
  350.             int a5= tmp[x + 5*stride];
  351.             int am= 20*(a2+a3) - 5*(a1+a4) + (a0+a5);
  352. //            int am= 18*(a2+a3) - 2*(a1+a4);
  353. /*            int aL= (-7*a0 + 105*a1 + 35*a2 - 5*a3)>>3;
  354.             int aR= (-7*a3 + 105*a2 + 35*a1 - 5*a0)>>3;*/
  355.             
  356. //            if(b_w==16) am= 8*(a1+a2);
  357.             if(dy<8) am =  (32*a2*( 8-dy) +    am* dy    + 128)>>8;
  358.             else     am = (   am*(16-dy) + 32*a3*(dy-8) + 128)>>8;
  359.             if(am&(~255)) am= ~(am>>31);
  360.             
  361.             dst[x] = am;
  362. /*            if     (dy< 4) tmp[x + y*stride]= (16*a1*( 4-dy) +    aL* dy     + 32)>>6;
  363.             else if(dy< 8) tmp[x + y*stride]= (   aL*( 8-dy) +    am*(dy- 4) + 32)>>6;
  364.             else if(dy<12) tmp[x + y*stride]= (   am*(12-dy) +    aR*(dy- 8) + 32)>>6;
  365.             else           tmp[x + y*stride]= (   aR*(16-dy) + 16*a2*(dy-12) + 32)>>6;*/
  366.         }
  367.         dst += stride;
  368.         tmp += stride;
  369.     }
  370. STOP_TIMER("mc_block")
  371. }
  372. #define mca(dx,dy,b_w)
  373. static void mc_block_hpel ## dx ## dy ## b_w(uint8_t *dst, uint8_t *src, int stride, int h){
  374.     uint8_t tmp[stride*(b_w+5)];
  375.     assert(h==b_w);
  376.     mc_block(dst, src-2-2*stride, tmp, stride, b_w, b_w, dx, dy);
  377. }
  378. mca( 0, 0,16)
  379. mca( 8, 0,16)
  380. mca( 0, 8,16)
  381. mca( 8, 8,16)
  382. mca( 0, 0,8)
  383. mca( 8, 0,8)
  384. mca( 0, 8,8)
  385. mca( 8, 8,8)
  386. static void pred_block(SnowContext *s, uint8_t *dst, uint8_t *src, uint8_t *tmp, int stride, int sx, int sy, int b_w, int b_h, BlockNode *block, int plane_index, int w, int h){
  387.     if(block->type){
  388.         int x, y;
  389.         const int color= block->color[plane_index];
  390.         for(y=0; y < b_h; y++){
  391.             for(x=0; x < b_w; x++){
  392.                 dst[x + y*stride]= color;
  393.             }
  394.         }
  395.     }else{
  396.         const int scale= plane_index ?  s->mv_scale : 2*s->mv_scale;
  397.         int mx= block->mx*scale;
  398.         int my= block->my*scale;
  399.         const int dx= mx&15;
  400.         const int dy= my&15;
  401.         sx += (mx>>4) - 2;
  402.         sy += (my>>4) - 2;
  403.         src += sx + sy*stride;
  404.         if(   (unsigned)sx >= w - b_w - 4
  405.            || (unsigned)sy >= h - b_h - 4){
  406.             ff_emulated_edge_mc(tmp + MB_SIZE, src, stride, b_w+5, b_h+5, sx, sy, w, h);
  407.             src= tmp + MB_SIZE;
  408.         }
  409.         if((dx&3) || (dy&3) || b_w!=b_h || (b_w!=4 && b_w!=8 && b_w!=16))
  410.             mc_block(dst, src, tmp, stride, b_w, b_h, dx, dy);
  411.         else
  412.             s->dsp.put_h264_qpel_pixels_tab[2-(b_w>>3)][dy+(dx>>2)](dst,src + 2 + 2*stride,stride);
  413.     }
  414. }
  415. static always_inline int same_block(BlockNode *a, BlockNode *b){
  416.     return !((a->mx - b->mx) | (a->my - b->my) | a->type | b->type);
  417. }
  418. //FIXME name clenup (b_w, block_w, b_width stuff)
  419. static always_inline void add_yblock_buffered(SnowContext *s, slice_buffer * sb, DWTELEM *old_dst, uint8_t *dst8, uint8_t *src, uint8_t *obmc, int src_x, int src_y, int b_w, int b_h, int w, int h, int dst_stride, int src_stride, int obmc_stride, int b_x, int b_y, int add, int plane_index){
  420.     DWTELEM * dst = NULL;
  421.     const int b_width = s->b_width  << s->block_max_depth;
  422.     const int b_height= s->b_height << s->block_max_depth;
  423.     const int b_stride= b_width;
  424.     BlockNode *lt= &s->block[b_x + b_y*b_stride];
  425.     BlockNode *rt= lt+1;
  426.     BlockNode *lb= lt+b_stride;
  427.     BlockNode *rb= lb+1;
  428.     uint8_t *block[4]; 
  429.     int tmp_step= src_stride >= 7*MB_SIZE ? MB_SIZE : MB_SIZE*src_stride;
  430.     uint8_t tmp[src_stride*7*MB_SIZE]; //FIXME align
  431.     uint8_t *ptmp;
  432.     int x,y;
  433.     if(b_x<0){
  434.         lt= rt;
  435.         lb= rb;
  436.     }else if(b_x + 1 >= b_width){
  437.         rt= lt;
  438.         rb= lb;
  439.     }
  440.     if(b_y<0){
  441.         lt= lb;
  442.         rt= rb;
  443.     }else if(b_y + 1 >= b_height){
  444.         lb= lt;
  445.         rb= rt;
  446.     }
  447.         
  448.     if(src_x<0){ //FIXME merge with prev & always round internal width upto *16
  449.         obmc -= src_x;
  450.         b_w += src_x;
  451.         src_x=0;
  452.     }else if(src_x + b_w > w){
  453.         b_w = w - src_x;
  454.     }
  455.     if(src_y<0){
  456.         obmc -= src_y*obmc_stride;
  457.         b_h += src_y;
  458.         src_y=0;
  459.     }else if(src_y + b_h> h){
  460.         b_h = h - src_y;
  461.     }
  462.     
  463.     if(b_w<=0 || b_h<=0) return;
  464. assert(src_stride > 2*MB_SIZE + 5);
  465. //    old_dst += src_x + src_y*dst_stride;
  466.     dst8+= src_x + src_y*src_stride;
  467. //    src += src_x + src_y*src_stride;
  468.     ptmp= tmp + 3*tmp_step;
  469.     block[0]= ptmp;
  470.     ptmp+=tmp_step;
  471.     pred_block(s, block[0], src, tmp, src_stride, src_x, src_y, b_w, b_h, lt, plane_index, w, h);    
  472.     if(same_block(lt, rt)){
  473.         block[1]= block[0];
  474.     }else{
  475.         block[1]= ptmp;
  476.         ptmp+=tmp_step;
  477.         pred_block(s, block[1], src, tmp, src_stride, src_x, src_y, b_w, b_h, rt, plane_index, w, h);
  478.     }
  479.         
  480.     if(same_block(lt, lb)){
  481.         block[2]= block[0];
  482.     }else if(same_block(rt, lb)){
  483.         block[2]= block[1];
  484.     }else{
  485.         block[2]= ptmp;
  486.         ptmp+=tmp_step;
  487.         pred_block(s, block[2], src, tmp, src_stride, src_x, src_y, b_w, b_h, lb, plane_index, w, h);
  488.     }
  489.     if(same_block(lt, rb) ){
  490.         block[3]= block[0];
  491.     }else if(same_block(rt, rb)){
  492.         block[3]= block[1];
  493.     }else if(same_block(lb, rb)){
  494.         block[3]= block[2];
  495.     }else{
  496.         block[3]= ptmp;
  497.         pred_block(s, block[3], src, tmp, src_stride, src_x, src_y, b_w, b_h, rb, plane_index, w, h);
  498.     }
  499. #if 0
  500.     for(y=0; y<b_h; y++){
  501.         for(x=0; x<b_w; x++){
  502.             int v=   obmc [x + y*obmc_stride] * block[3][x + y*src_stride] * (256/OBMC_MAX);
  503.             if(add) dst[x + y*dst_stride] += v;
  504.             else    dst[x + y*dst_stride] -= v;
  505.         }
  506.     }
  507.     for(y=0; y<b_h; y++){
  508.         uint8_t *obmc2= obmc + (obmc_stride>>1);
  509.         for(x=0; x<b_w; x++){
  510.             int v=   obmc2[x + y*obmc_stride] * block[2][x + y*src_stride] * (256/OBMC_MAX);
  511.             if(add) dst[x + y*dst_stride] += v;
  512.             else    dst[x + y*dst_stride] -= v;
  513.         }
  514.     }
  515.     for(y=0; y<b_h; y++){
  516.         uint8_t *obmc3= obmc + obmc_stride*(obmc_stride>>1);
  517.         for(x=0; x<b_w; x++){
  518.             int v=   obmc3[x + y*obmc_stride] * block[1][x + y*src_stride] * (256/OBMC_MAX);
  519.             if(add) dst[x + y*dst_stride] += v;
  520.             else    dst[x + y*dst_stride] -= v;
  521.         }
  522.     }
  523.     for(y=0; y<b_h; y++){
  524.         uint8_t *obmc3= obmc + obmc_stride*(obmc_stride>>1);
  525.         uint8_t *obmc4= obmc3+ (obmc_stride>>1);
  526.         for(x=0; x<b_w; x++){
  527.             int v=   obmc4[x + y*obmc_stride] * block[0][x + y*src_stride] * (256/OBMC_MAX);
  528.             if(add) dst[x + y*dst_stride] += v;
  529.             else    dst[x + y*dst_stride] -= v;
  530.         }
  531.     }
  532. #else
  533. {
  534.     START_TIMER
  535.     
  536.     int block_index = 0;
  537.     for(y=0; y<b_h; y++){
  538.         //FIXME ugly missue of obmc_stride
  539.         uint8_t *obmc1= obmc + y*obmc_stride;
  540.         uint8_t *obmc2= obmc1+ (obmc_stride>>1);
  541.         uint8_t *obmc3= obmc1+ obmc_stride*(obmc_stride>>1);
  542.         uint8_t *obmc4= obmc3+ (obmc_stride>>1);
  543.         dst = slice_buffer_get_line(sb, src_y + y);
  544.         for(x=0; x<b_w; x++){
  545.             int v=   obmc1[x] * block[3][x + y*src_stride]
  546.                     +obmc2[x] * block[2][x + y*src_stride]
  547.                     +obmc3[x] * block[1][x + y*src_stride]
  548.                     +obmc4[x] * block[0][x + y*src_stride];
  549.             v <<= 8 - LOG2_OBMC_MAX;
  550.             if(FRAC_BITS != 8){
  551.                 v += 1<<(7 - FRAC_BITS);
  552.                 v >>= 8 - FRAC_BITS;
  553.             }
  554.             if(add){
  555. //                v += old_dst[x + y*dst_stride];
  556.                 v += dst[x + src_x];
  557.                 v = (v + (1<<(FRAC_BITS-1))) >> FRAC_BITS;
  558.                 if(v&(~255)) v= ~(v>>31);
  559.                 dst8[x + y*src_stride] = v;
  560.             }else{
  561. //                old_dst[x + y*dst_stride] -= v;
  562.                 dst[x + src_x] -= v;
  563.             }
  564.         }
  565.     }
  566.         STOP_TIMER("Inner add y block")
  567. }
  568. #endif
  569. }
  570. //FIXME name clenup (b_w, block_w, b_width stuff)
  571. static always_inline void add_yblock(SnowContext *s, DWTELEM *dst, uint8_t *dst8, uint8_t *src, uint8_t *obmc, int src_x, int src_y, int b_w, int b_h, int w, int h, int dst_stride, int src_stride, int obmc_stride, int b_x, int b_y, int add, int plane_index){
  572.     const int b_width = s->b_width  << s->block_max_depth;
  573.     const int b_height= s->b_height << s->block_max_depth;
  574.     const int b_stride= b_width;
  575.     BlockNode *lt= &s->block[b_x + b_y*b_stride];
  576.     BlockNode *rt= lt+1;
  577.     BlockNode *lb= lt+b_stride;
  578.     BlockNode *rb= lb+1;
  579.     uint8_t *block[4]; 
  580.     int tmp_step= src_stride >= 7*MB_SIZE ? MB_SIZE : MB_SIZE*src_stride;
  581.     uint8_t tmp[src_stride*7*MB_SIZE]; //FIXME align
  582.     uint8_t *ptmp;
  583.     int x,y;
  584.     if(b_x<0){
  585.         lt= rt;
  586.         lb= rb;
  587.     }else if(b_x + 1 >= b_width){
  588.         rt= lt;
  589.         rb= lb;
  590.     }
  591.     if(b_y<0){
  592.         lt= lb;
  593.         rt= rb;
  594.     }else if(b_y + 1 >= b_height){
  595.         lb= lt;
  596.         rb= rt;
  597.     }
  598.         
  599.     if(src_x<0){ //FIXME merge with prev & always round internal width upto *16
  600.         obmc -= src_x;
  601.         b_w += src_x;
  602.         src_x=0;
  603.     }else if(src_x + b_w > w){
  604.         b_w = w - src_x;
  605.     }
  606.     if(src_y<0){
  607.         obmc -= src_y*obmc_stride;
  608.         b_h += src_y;
  609.         src_y=0;
  610.     }else if(src_y + b_h> h){
  611.         b_h = h - src_y;
  612.     }
  613.     
  614.     if(b_w<=0 || b_h<=0) return;
  615. assert(src_stride > 2*MB_SIZE + 5);
  616.     dst += src_x + src_y*dst_stride;
  617.     dst8+= src_x + src_y*src_stride;
  618. //    src += src_x + src_y*src_stride;
  619.     ptmp= tmp + 3*tmp_step;
  620.     block[0]= ptmp;
  621.     ptmp+=tmp_step;
  622.     pred_block(s, block[0], src, tmp, src_stride, src_x, src_y, b_w, b_h, lt, plane_index, w, h);    
  623.     if(same_block(lt, rt)){
  624.         block[1]= block[0];
  625.     }else{
  626.         block[1]= ptmp;
  627.         ptmp+=tmp_step;
  628.         pred_block(s, block[1], src, tmp, src_stride, src_x, src_y, b_w, b_h, rt, plane_index, w, h);
  629.     }
  630.         
  631.     if(same_block(lt, lb)){
  632.         block[2]= block[0];
  633.     }else if(same_block(rt, lb)){
  634.         block[2]= block[1];
  635.     }else{
  636.         block[2]= ptmp;
  637.         ptmp+=tmp_step;
  638.         pred_block(s, block[2], src, tmp, src_stride, src_x, src_y, b_w, b_h, lb, plane_index, w, h);
  639.     }
  640.     if(same_block(lt, rb) ){
  641.         block[3]= block[0];
  642.     }else if(same_block(rt, rb)){
  643.         block[3]= block[1];
  644.     }else if(same_block(lb, rb)){
  645.         block[3]= block[2];
  646.     }else{
  647.         block[3]= ptmp;
  648.         pred_block(s, block[3], src, tmp, src_stride, src_x, src_y, b_w, b_h, rb, plane_index, w, h);
  649.     }
  650. #if 0
  651.     for(y=0; y<b_h; y++){
  652.         for(x=0; x<b_w; x++){
  653.             int v=   obmc [x + y*obmc_stride] * block[3][x + y*src_stride] * (256/OBMC_MAX);
  654.             if(add) dst[x + y*dst_stride] += v;
  655.             else    dst[x + y*dst_stride] -= v;
  656.         }
  657.     }
  658.     for(y=0; y<b_h; y++){
  659.         uint8_t *obmc2= obmc + (obmc_stride>>1);
  660.         for(x=0; x<b_w; x++){
  661.             int v=   obmc2[x + y*obmc_stride] * block[2][x + y*src_stride] * (256/OBMC_MAX);
  662.             if(add) dst[x + y*dst_stride] += v;
  663.             else    dst[x + y*dst_stride] -= v;
  664.         }
  665.     }
  666.     for(y=0; y<b_h; y++){
  667.         uint8_t *obmc3= obmc + obmc_stride*(obmc_stride>>1);
  668.         for(x=0; x<b_w; x++){
  669.             int v=   obmc3[x + y*obmc_stride] * block[1][x + y*src_stride] * (256/OBMC_MAX);
  670.             if(add) dst[x + y*dst_stride] += v;
  671.             else    dst[x + y*dst_stride] -= v;
  672.         }
  673.     }
  674.     for(y=0; y<b_h; y++){
  675.         uint8_t *obmc3= obmc + obmc_stride*(obmc_stride>>1);
  676.         uint8_t *obmc4= obmc3+ (obmc_stride>>1);
  677.         for(x=0; x<b_w; x++){
  678.             int v=   obmc4[x + y*obmc_stride] * block[0][x + y*src_stride] * (256/OBMC_MAX);
  679.             if(add) dst[x + y*dst_stride] += v;
  680.             else    dst[x + y*dst_stride] -= v;
  681.         }
  682.     }
  683. #else
  684.     for(y=0; y<b_h; y++){
  685.         //FIXME ugly missue of obmc_stride
  686.         uint8_t *obmc1= obmc + y*obmc_stride;
  687.         uint8_t *obmc2= obmc1+ (obmc_stride>>1);
  688.         uint8_t *obmc3= obmc1+ obmc_stride*(obmc_stride>>1);
  689.         uint8_t *obmc4= obmc3+ (obmc_stride>>1);
  690.         for(x=0; x<b_w; x++){
  691.             int v=   obmc1[x] * block[3][x + y*src_stride]
  692.                     +obmc2[x] * block[2][x + y*src_stride]
  693.                     +obmc3[x] * block[1][x + y*src_stride]
  694.                     +obmc4[x] * block[0][x + y*src_stride];
  695.             
  696.             v <<= 8 - LOG2_OBMC_MAX;
  697.             if(FRAC_BITS != 8){
  698.                 v += 1<<(7 - FRAC_BITS);
  699.                 v >>= 8 - FRAC_BITS;
  700.             }
  701.             if(add){
  702.                 v += dst[x + y*dst_stride];
  703.                 v = (v + (1<<(FRAC_BITS-1))) >> FRAC_BITS;
  704.                 if(v&(~255)) v= ~(v>>31);
  705.                 dst8[x + y*src_stride] = v;
  706.             }else{
  707.                 dst[x + y*dst_stride] -= v;
  708.             }
  709.         }
  710.     }
  711. #endif
  712. }
  713. static always_inline void predict_slice_buffered(SnowContext *s, slice_buffer * sb, DWTELEM * old_buffer, int plane_index, int add, int mb_y){
  714.     Plane *p= &s->plane[plane_index];
  715.     const int mb_w= s->b_width  << s->block_max_depth;
  716.     const int mb_h= s->b_height << s->block_max_depth;
  717.     int x, y, mb_x;
  718.     int block_size = MB_SIZE >> s->block_max_depth;
  719.     int block_w    = plane_index ? block_size/2 : block_size;
  720.     const uint8_t *obmc  = plane_index ? obmc_tab[s->block_max_depth+1] : obmc_tab[s->block_max_depth];
  721.     int obmc_stride= plane_index ? block_size : 2*block_size;
  722.     int ref_stride= s->current_picture.linesize[plane_index];
  723.     uint8_t *ref  = s->last_picture.data[plane_index];
  724.     uint8_t *dst8= s->current_picture.data[plane_index];
  725.     int w= p->width;
  726.     int h= p->height;
  727.     START_TIMER
  728.     
  729.     if(s->keyframe || (s->avctx->debug&512)){
  730.         if(mb_y==mb_h)
  731.             return;
  732.         if(add){
  733.             for(y=block_w*mb_y; y<FFMIN(h,block_w*(mb_y+1)); y++)
  734.             {
  735. //                DWTELEM * line = slice_buffer_get_line(sb, y);
  736.                 DWTELEM * line = sb->line[y];
  737.                 for(x=0; x<w; x++)
  738.                 {
  739. //                    int v= buf[x + y*w] + (128<<FRAC_BITS) + (1<<(FRAC_BITS-1));
  740.                     int v= line[x] + (128<<FRAC_BITS) + (1<<(FRAC_BITS-1));
  741.                     v >>= FRAC_BITS;
  742.                     if(v&(~255)) v= ~(v>>31);
  743.                     dst8[x + y*ref_stride]= v;
  744.                 }
  745.             }
  746.         }else{
  747.             for(y=block_w*mb_y; y<FFMIN(h,block_w*(mb_y+1)); y++)
  748.             {
  749. //                DWTELEM * line = slice_buffer_get_line(sb, y);
  750.                 DWTELEM * line = sb->line[y];
  751.                 for(x=0; x<w; x++)
  752.                 {
  753.                     line[x] -= 128 << FRAC_BITS;
  754. //                    buf[x + y*w]-= 128<<FRAC_BITS;
  755.                 }
  756.             }
  757.         }
  758.         return;
  759.     }
  760.     
  761.         for(mb_x=0; mb_x<=mb_w; mb_x++){
  762.             START_TIMER
  763.             add_yblock_buffered(s, sb, old_buffer, dst8, ref, obmc, 
  764.                        block_w*mb_x - block_w/2,
  765.                        block_w*mb_y - block_w/2,
  766.                        block_w, block_w,
  767.                        w, h,
  768.                        w, ref_stride, obmc_stride,
  769.                        mb_x - 1, mb_y - 1,
  770.                        add, plane_index);
  771.             
  772.             STOP_TIMER("add_yblock")
  773.         }
  774.     
  775.     STOP_TIMER("predict_slice")
  776. }
  777. static always_inline void predict_slice(SnowContext *s, DWTELEM *buf, int plane_index, int add, int mb_y){
  778.     Plane *p= &s->plane[plane_index];
  779.     const int mb_w= s->b_width  << s->block_max_depth;
  780.     const int mb_h= s->b_height << s->block_max_depth;
  781.     int x, y, mb_x;
  782.     int block_size = MB_SIZE >> s->block_max_depth;
  783.     int block_w    = plane_index ? block_size/2 : block_size;
  784.     const uint8_t *obmc  = plane_index ? obmc_tab[s->block_max_depth+1] : obmc_tab[s->block_max_depth];
  785.     int obmc_stride= plane_index ? block_size : 2*block_size;
  786.     int ref_stride= s->current_picture.linesize[plane_index];
  787.     uint8_t *ref  = s->last_picture.data[plane_index];
  788.     uint8_t *dst8= s->current_picture.data[plane_index];
  789.     int w= p->width;
  790.     int h= p->height;
  791.     START_TIMER
  792.     
  793.     if(s->keyframe || (s->avctx->debug&512)){
  794.         if(mb_y==mb_h)
  795.             return;
  796.         if(add){
  797.             for(y=block_w*mb_y; y<FFMIN(h,block_w*(mb_y+1)); y++){
  798.                 for(x=0; x<w; x++){
  799.                     int v= buf[x + y*w] + (128<<FRAC_BITS) + (1<<(FRAC_BITS-1));
  800.                     v >>= FRAC_BITS;
  801.                     if(v&(~255)) v= ~(v>>31);
  802.                     dst8[x + y*ref_stride]= v;
  803.                 }
  804.             }
  805.         }else{
  806.             for(y=block_w*mb_y; y<FFMIN(h,block_w*(mb_y+1)); y++){
  807.                 for(x=0; x<w; x++){
  808.                     buf[x + y*w]-= 128<<FRAC_BITS;
  809.                 }
  810.             }
  811.         }
  812.         return;
  813.     }
  814.     
  815.         for(mb_x=0; mb_x<=mb_w; mb_x++){
  816.             START_TIMER
  817.             add_yblock(s, buf, dst8, ref, obmc, 
  818.                        block_w*mb_x - block_w/2,
  819.                        block_w*mb_y - block_w/2,
  820.                        block_w, block_w,
  821.                        w, h,
  822.                        w, ref_stride, obmc_stride,
  823.                        mb_x - 1, mb_y - 1,
  824.                        add, plane_index);
  825.             
  826.             STOP_TIMER("add_yblock")
  827.         }
  828.     
  829.     STOP_TIMER("predict_slice")
  830. }
  831. static always_inline void predict_plane(SnowContext *s, DWTELEM *buf, int plane_index, int add){
  832.     const int mb_h= s->b_height << s->block_max_depth;
  833.     int mb_y;
  834.     for(mb_y=0; mb_y<=mb_h; mb_y++)
  835.         predict_slice(s, buf, plane_index, add, mb_y);
  836. }
  837. static void quantize(SnowContext *s, SubBand *b, DWTELEM *src, int stride, int bias){
  838.     const int level= b->level;
  839.     const int w= b->width;
  840.     const int h= b->height;
  841.     const int qlog= clip(s->qlog + b->qlog, 0, QROOT*16);
  842.     const int qmul= qexp[qlog&(QROOT-1)]<<(qlog>>QSHIFT);
  843.     int x,y, thres1, thres2;
  844.     START_TIMER
  845.     if(s->qlog == LOSSLESS_QLOG) return;
  846.  
  847.     bias= bias ? 0 : (3*qmul)>>3;
  848.     thres1= ((qmul - bias)>>QEXPSHIFT) - 1;
  849.     thres2= 2*thres1;
  850.     
  851.     if(!bias){
  852.         for(y=0; y<h; y++){
  853.             for(x=0; x<w; x++){
  854.                 int i= src[x + y*stride];
  855.                 
  856.                 if((unsigned)(i+thres1) > thres2){
  857.                     if(i>=0){
  858.                         i<<= QEXPSHIFT;
  859.                         i/= qmul; //FIXME optimize
  860.                         src[x + y*stride]=  i;
  861.                     }else{
  862.                         i= -i;
  863.                         i<<= QEXPSHIFT;
  864.                         i/= qmul; //FIXME optimize
  865.                         src[x + y*stride]= -i;
  866.                     }
  867.                 }else
  868.                     src[x + y*stride]= 0;
  869.             }
  870.         }
  871.     }else{
  872.         for(y=0; y<h; y++){
  873.             for(x=0; x<w; x++){
  874.                 int i= src[x + y*stride]; 
  875.                 
  876.                 if((unsigned)(i+thres1) > thres2){
  877.                     if(i>=0){
  878.                         i<<= QEXPSHIFT;
  879.                         i= (i + bias) / qmul; //FIXME optimize
  880.                         src[x + y*stride]=  i;
  881.                     }else{
  882.                         i= -i;
  883.                         i<<= QEXPSHIFT;
  884.                         i= (i + bias) / qmul; //FIXME optimize
  885.                         src[x + y*stride]= -i;
  886.                     }
  887.                 }else
  888.                     src[x + y*stride]= 0;
  889.             }
  890.         }
  891.     }
  892.     if(level+1 == s->spatial_decomposition_count){
  893. //        STOP_TIMER("quantize")
  894.     }
  895. }
  896. static void dequantize_slice_buffered(SnowContext *s, slice_buffer * sb, SubBand *b, DWTELEM *src, int stride, int start_y, int end_y){
  897.     const int w= b->width;
  898.     const int h= b->height;
  899.     const int qlog= clip(s->qlog + b->qlog, 0, QROOT*16);
  900.     const int qmul= qexp[qlog&(QROOT-1)]<<(qlog>>QSHIFT);
  901.     const int qadd= (s->qbias*qmul)>>QBIAS_SHIFT;
  902.     int x,y;
  903.     START_TIMER
  904.     
  905.     if(s->qlog == LOSSLESS_QLOG) return;
  906.     
  907.     for(y=start_y; y<end_y; y++){
  908. //        DWTELEM * line = slice_buffer_get_line_from_address(sb, src + (y * stride));
  909.         DWTELEM * line = slice_buffer_get_line(sb, (y * b->stride_line) + b->buf_y_offset) + b->buf_x_offset;
  910.         for(x=0; x<w; x++){
  911.             int i= line[x];
  912.             if(i<0){
  913.                 line[x]= -((-i*qmul + qadd)>>(QEXPSHIFT)); //FIXME try different bias
  914.             }else if(i>0){
  915.                 line[x]=  (( i*qmul + qadd)>>(QEXPSHIFT));
  916.             }
  917.         }
  918.     }
  919.     if(w > 200 /*level+1 == s->spatial_decomposition_count*/){
  920.         STOP_TIMER("dquant")
  921.     }
  922. }
  923. static void dequantize(SnowContext *s, SubBand *b, DWTELEM *src, int stride){
  924.     const int w= b->width;
  925.     const int h= b->height;
  926.     const int qlog= clip(s->qlog + b->qlog, 0, QROOT*16);
  927.     const int qmul= qexp[qlog&(QROOT-1)]<<(qlog>>QSHIFT);
  928.     const int qadd= (s->qbias*qmul)>>QBIAS_SHIFT;
  929.     int x,y;
  930.     START_TIMER
  931.     
  932.     if(s->qlog == LOSSLESS_QLOG) return;
  933.     
  934.     for(y=0; y<h; y++){
  935.         for(x=0; x<w; x++){
  936.             int i= src[x + y*stride];
  937.             if(i<0){
  938.                 src[x + y*stride]= -((-i*qmul + qadd)>>(QEXPSHIFT)); //FIXME try different bias
  939.             }else if(i>0){
  940.                 src[x + y*stride]=  (( i*qmul + qadd)>>(QEXPSHIFT));
  941.             }
  942.         }
  943.     }
  944.     if(w > 200 /*level+1 == s->spatial_decomposition_count*/){
  945.         STOP_TIMER("dquant")
  946.     }
  947. }
  948. static void decorrelate(SnowContext *s, SubBand *b, DWTELEM *src, int stride, int inverse, int use_median){
  949.     const int w= b->width;
  950.     const int h= b->height;
  951.     int x,y;
  952.     
  953.     for(y=h-1; y>=0; y--){
  954.         for(x=w-1; x>=0; x--){
  955.             int i= x + y*stride;
  956.             
  957.             if(x){
  958.                 if(use_median){
  959.                     if(y && x+1<w) src[i] -= mid_pred(src[i - 1], src[i - stride], src[i - stride + 1]);
  960.                     else  src[i] -= src[i - 1];
  961.                 }else{
  962.                     if(y) src[i] -= mid_pred(src[i - 1], src[i - stride], src[i - 1] + src[i - stride] - src[i - 1 - stride]);
  963.                     else  src[i] -= src[i - 1];
  964.                 }
  965.             }else{
  966.                 if(y) src[i] -= src[i - stride];
  967.             }
  968.         }
  969.     }
  970. }
  971. static void correlate_slice_buffered(SnowContext *s, slice_buffer * sb, SubBand *b, DWTELEM *src, int stride, int inverse, int use_median, int start_y, int end_y){
  972.     const int w= b->width;
  973.     const int h= b->height;
  974.     int x,y;
  975.     
  976. //    START_TIMER
  977.     
  978.     DWTELEM * line;
  979.     DWTELEM * prev;
  980.     
  981.     if (start_y != 0)
  982.         line = slice_buffer_get_line(sb, ((start_y - 1) * b->stride_line) + b->buf_y_offset) + b->buf_x_offset;
  983.     
  984.     for(y=start_y; y<end_y; y++){
  985.         prev = line;
  986. //        line = slice_buffer_get_line_from_address(sb, src + (y * stride));
  987.         line = slice_buffer_get_line(sb, (y * b->stride_line) + b->buf_y_offset) + b->buf_x_offset;
  988.         for(x=0; x<w; x++){
  989.             if(x){
  990.                 if(use_median){
  991.                     if(y && x+1<w) line[x] += mid_pred(line[x - 1], prev[x], prev[x + 1]);
  992.                     else  line[x] += line[x - 1];
  993.                 }else{
  994.                     if(y) line[x] += mid_pred(line[x - 1], prev[x], line[x - 1] + prev[x] - prev[x - 1]);
  995.                     else  line[x] += line[x - 1];
  996.                 }
  997.             }else{
  998.                 if(y) line[x] += prev[x];
  999.             }
  1000.         }
  1001.     }
  1002.     
  1003. //    STOP_TIMER("correlate")
  1004. }
  1005. static void correlate(SnowContext *s, SubBand *b, DWTELEM *src, int stride, int inverse, int use_median){
  1006.     const int w= b->width;
  1007.     const int h= b->height;
  1008.     int x,y;
  1009.     
  1010.     for(y=0; y<h; y++){
  1011.         for(x=0; x<w; x++){
  1012.             int i= x + y*stride;
  1013.             
  1014.             if(x){
  1015.                 if(use_median){
  1016.                     if(y && x+1<w) src[i] += mid_pred(src[i - 1], src[i - stride], src[i - stride + 1]);
  1017.                     else  src[i] += src[i - 1];
  1018.                 }else{
  1019.                     if(y) src[i] += mid_pred(src[i - 1], src[i - stride], src[i - 1] + src[i - stride] - src[i - 1 - stride]);
  1020.                     else  src[i] += src[i - 1];
  1021.                 }
  1022.             }else{
  1023.                 if(y) src[i] += src[i - stride];
  1024.             }
  1025.         }
  1026.     }
  1027. }
  1028. static void encode_header(SnowContext *s){
  1029.     int plane_index, level, orientation;
  1030.     uint8_t kstate[32]; 
  1031.     
  1032.     memset(kstate, MID_STATE, sizeof(kstate));   
  1033.     put_rac(&s->c, kstate, s->keyframe);
  1034.     if(s->keyframe || s->always_reset)
  1035.         reset_contexts(s);
  1036.     if(s->keyframe){
  1037.         put_symbol(&s->c, s->header_state, s->version, 0);
  1038.         put_rac(&s->c, s->header_state, s->always_reset);
  1039.         put_symbol(&s->c, s->header_state, s->temporal_decomposition_type, 0);
  1040.         put_symbol(&s->c, s->header_state, s->temporal_decomposition_count, 0);
  1041.         put_symbol(&s->c, s->header_state, s->spatial_decomposition_count, 0);
  1042.         put_symbol(&s->c, s->header_state, s->colorspace_type, 0);
  1043.         put_symbol(&s->c, s->header_state, s->chroma_h_shift, 0);
  1044.         put_symbol(&s->c, s->header_state, s->chroma_v_shift, 0);
  1045.         put_rac(&s->c, s->header_state, s->spatial_scalability);
  1046. //        put_rac(&s->c, s->header_state, s->rate_scalability);
  1047.         for(plane_index=0; plane_index<2; plane_index++){
  1048.             for(level=0; level<s->spatial_decomposition_count; level++){
  1049.                 for(orientation=level ? 1:0; orientation<4; orientation++){
  1050.                     if(orientation==2) continue;
  1051.                     put_symbol(&s->c, s->header_state, s->plane[plane_index].band[level][orientation].qlog, 1);
  1052.                 }
  1053.             }
  1054.         }
  1055.     }
  1056.     put_symbol(&s->c, s->header_state, s->spatial_decomposition_type, 0);
  1057.     put_symbol(&s->c, s->header_state, s->qlog, 1); 
  1058.     put_symbol(&s->c, s->header_state, s->mv_scale, 0); 
  1059.     put_symbol(&s->c, s->header_state, s->qbias, 1);
  1060.     put_symbol(&s->c, s->header_state, s->block_max_depth, 0);
  1061. }
  1062. static int decode_header(SnowContext *s){
  1063.     int plane_index, level, orientation;
  1064.     uint8_t kstate[32];
  1065.     memset(kstate, MID_STATE, sizeof(kstate));   
  1066.     s->keyframe= get_rac(&s->c, kstate);
  1067.     if(s->keyframe || s->always_reset)
  1068.         reset_contexts(s);
  1069.     if(s->keyframe){
  1070.         s->version= get_symbol(&s->c, s->header_state, 0);
  1071.         if(s->version>0){
  1072.             av_log(s->avctx, AV_LOG_ERROR, "version %d not supported", s->version);
  1073.             return -1;
  1074.         }
  1075.         s->always_reset= get_rac(&s->c, s->header_state);
  1076.         s->temporal_decomposition_type= get_symbol(&s->c, s->header_state, 0);
  1077.         s->temporal_decomposition_count= get_symbol(&s->c, s->header_state, 0);
  1078.         s->spatial_decomposition_count= get_symbol(&s->c, s->header_state, 0);
  1079.         s->colorspace_type= get_symbol(&s->c, s->header_state, 0);
  1080.         s->chroma_h_shift= get_symbol(&s->c, s->header_state, 0);
  1081.         s->chroma_v_shift= get_symbol(&s->c, s->header_state, 0);
  1082.         s->spatial_scalability= get_rac(&s->c, s->header_state);
  1083. //        s->rate_scalability= get_rac(&s->c, s->header_state);
  1084.         for(plane_index=0; plane_index<3; plane_index++){
  1085.             for(level=0; level<s->spatial_decomposition_count; level++){
  1086.                 for(orientation=level ? 1:0; orientation<4; orientation++){
  1087.                     int q;
  1088.                     if     (plane_index==2) q= s->plane[1].band[level][orientation].qlog;
  1089.                     else if(orientation==2) q= s->plane[plane_index].band[level][1].qlog;
  1090.                     else                    q= get_symbol(&s->c, s->header_state, 1);
  1091.                     s->plane[plane_index].band[level][orientation].qlog= q;
  1092.                 }
  1093.             }
  1094.         }
  1095.     }
  1096.     
  1097.     s->spatial_decomposition_type= get_symbol(&s->c, s->header_state, 0);
  1098.     if(s->spatial_decomposition_type > 2){
  1099.         av_log(s->avctx, AV_LOG_ERROR, "spatial_decomposition_type %d not supported", s->spatial_decomposition_type);
  1100.         return -1;
  1101.     }
  1102.     
  1103.     s->qlog= get_symbol(&s->c, s->header_state, 1);
  1104.     s->mv_scale= get_symbol(&s->c, s->header_state, 0);
  1105.     s->qbias= get_symbol(&s->c, s->header_state, 1);
  1106.     s->block_max_depth= get_symbol(&s->c, s->header_state, 0);
  1107.     return 0;
  1108. }
  1109. static void init_qexp(){
  1110.     int i;
  1111.     double v=128;
  1112.     for(i=0; i<QROOT; i++){
  1113.         qexp[i]= lrintf(v);
  1114.         v *= pow(2, 1.0 / QROOT); 
  1115.     }
  1116. }
  1117. static int common_init(AVCodecContext *avctx){
  1118.     SnowContext *s = avctx->priv_data;
  1119.     int width, height;
  1120.     int level, orientation, plane_index, dec;
  1121.     s->avctx= avctx;
  1122.         
  1123.     dsputil_init(&s->dsp, avctx);
  1124. #define mcf(dx,dy)
  1125.     s->dsp.put_qpel_pixels_tab       [0][dy+dx/4]=
  1126.     s->dsp.put_no_rnd_qpel_pixels_tab[0][dy+dx/4]=
  1127.         s->dsp.put_h264_qpel_pixels_tab[0][dy+dx/4];
  1128.     s->dsp.put_qpel_pixels_tab       [1][dy+dx/4]=
  1129.     s->dsp.put_no_rnd_qpel_pixels_tab[1][dy+dx/4]=
  1130.         s->dsp.put_h264_qpel_pixels_tab[1][dy+dx/4];
  1131.     mcf( 0, 0)
  1132.     mcf( 4, 0)
  1133.     mcf( 8, 0)
  1134.     mcf(12, 0)
  1135.     mcf( 0, 4)
  1136.     mcf( 4, 4)
  1137.     mcf( 8, 4)
  1138.     mcf(12, 4)
  1139.     mcf( 0, 8)
  1140.     mcf( 4, 8)
  1141.     mcf( 8, 8)
  1142.     mcf(12, 8)
  1143.     mcf( 0,12)
  1144.     mcf( 4,12)
  1145.     mcf( 8,12)
  1146.     mcf(12,12)
  1147. #define mcfh(dx,dy)
  1148.     s->dsp.put_pixels_tab       [0][dy/4+dx/8]=
  1149.     s->dsp.put_no_rnd_pixels_tab[0][dy/4+dx/8]=
  1150.         mc_block_hpel ## dx ## dy ## 16;
  1151.     s->dsp.put_pixels_tab       [1][dy/4+dx/8]=
  1152.     s->dsp.put_no_rnd_pixels_tab[1][dy/4+dx/8]=
  1153.         mc_block_hpel ## dx ## dy ## 8;
  1154.     mcfh(0, 0)
  1155.     mcfh(8, 0)
  1156.     mcfh(0, 8)
  1157.     mcfh(8, 8)
  1158.     if(!qexp[0])
  1159.         init_qexp();
  1160.     dec= s->spatial_decomposition_count= 5;
  1161.     s->spatial_decomposition_type= avctx->prediction_method; //FIXME add decorrelator type r transform_type
  1162.     
  1163.     s->chroma_h_shift= 1; //FIXME XXX
  1164.     s->chroma_v_shift= 1;
  1165.     
  1166. //    dec += FFMAX(s->chroma_h_shift, s->chroma_v_shift);
  1167.     
  1168.     width= s->avctx->width;
  1169.     height= s->avctx->height;
  1170.     s->spatial_dwt_buffer= av_mallocz(width*height*sizeof(DWTELEM));
  1171.     
  1172.     s->mv_scale= (s->avctx->flags & CODEC_FLAG_QPEL) ? 2 : 4;
  1173.     s->block_max_depth= (s->avctx->flags & CODEC_FLAG_4MV) ? 1 : 0;
  1174.     
  1175.     for(plane_index=0; plane_index<3; plane_index++){    
  1176.         int w= s->avctx->width;
  1177.         int h= s->avctx->height;
  1178.         if(plane_index){
  1179.             w>>= s->chroma_h_shift;
  1180.             h>>= s->chroma_v_shift;
  1181.         }
  1182.         s->plane[plane_index].width = w;
  1183.         s->plane[plane_index].height= h;
  1184. //av_log(NULL, AV_LOG_DEBUG, "%d %dn", w, h);
  1185.         for(level=s->spatial_decomposition_count-1; level>=0; level--){
  1186.             for(orientation=level ? 1 : 0; orientation<4; orientation++){
  1187.                 SubBand *b= &s->plane[plane_index].band[level][orientation];
  1188.                 
  1189.                 b->buf= s->spatial_dwt_buffer;
  1190.                 b->level= level;
  1191.                 b->stride= s->plane[plane_index].width << (s->spatial_decomposition_count - level);
  1192.                 b->width = (w + !(orientation&1))>>1;
  1193.                 b->height= (h + !(orientation>1))>>1;
  1194.                 
  1195.                 b->stride_line = 1 << (s->spatial_decomposition_count - level);
  1196.                 b->buf_x_offset = 0;
  1197.                 b->buf_y_offset = 0;
  1198.                 
  1199.                 if(orientation&1){
  1200.                     b->buf += (w+1)>>1;
  1201.                     b->buf_x_offset = (w+1)>>1;
  1202.                 }
  1203.                 if(orientation>1){
  1204.                     b->buf += b->stride>>1;
  1205.                     b->buf_y_offset = b->stride_line >> 1;
  1206.                 }
  1207.                 
  1208.                 if(level)
  1209.                     b->parent= &s->plane[plane_index].band[level-1][orientation];
  1210.                 b->x_coeff=av_mallocz(((b->width+1) * b->height+1)*sizeof(x_and_coeff));
  1211.             }
  1212.             w= (w+1)>>1;
  1213.             h= (h+1)>>1;
  1214.         }
  1215.     }
  1216.     
  1217.     reset_contexts(s);
  1218. /*    
  1219.     width= s->width= avctx->width;
  1220.     height= s->height= avctx->height;
  1221.     
  1222.     assert(width && height);
  1223. */
  1224.     s->avctx->get_buffer(s->avctx, &s->mconly_picture);
  1225.     
  1226.     return 0;
  1227. }
  1228. static void calculate_vissual_weight(SnowContext *s, Plane *p){
  1229.     int width = p->width;
  1230.     int height= p->height;
  1231.     int level, orientation, x, y;
  1232.     for(level=0; level<s->spatial_decomposition_count; level++){
  1233.         for(orientation=level ? 1 : 0; orientation<4; orientation++){
  1234.             SubBand *b= &p->band[level][orientation];
  1235.             DWTELEM *buf= b->buf;
  1236.             int64_t error=0;
  1237.             
  1238.             memset(s->spatial_dwt_buffer, 0, sizeof(int)*width*height);
  1239.             buf[b->width/2 + b->height/2*b->stride]= 256*256;
  1240.             ff_spatial_idwt(s->spatial_dwt_buffer, width, height, width, s->spatial_decomposition_type, s->spatial_decomposition_count);
  1241.             for(y=0; y<height; y++){
  1242.                 for(x=0; x<width; x++){
  1243.                     int64_t d= s->spatial_dwt_buffer[x + y*width];
  1244.                     error += d*d;
  1245.                 }
  1246.             }
  1247.             b->qlog= (int)(log(352256.0/sqrt(error)) / log(pow(2.0, 1.0/QROOT))+0.5);
  1248. //            av_log(NULL, AV_LOG_DEBUG, "%d %d %dn", level, orientation, b->qlog/*, sqrt(error)*/);
  1249.         }
  1250.     }
  1251. }
  1252. static int encode_init(AVCodecContext *avctx)
  1253. {
  1254.     SnowContext *s = avctx->priv_data;
  1255.     int plane_index;
  1256.     if(avctx->strict_std_compliance > FF_COMPLIANCE_EXPERIMENTAL){
  1257.         av_log(avctx, AV_LOG_ERROR, "this codec is under development, files encoded with it may not be decodable with future versions!!!n"
  1258.                "use vstrict=-2 / -strict -2 to use it anywayn");
  1259.         return -1;
  1260.     }
  1261.  
  1262.     common_init(avctx);
  1263.     alloc_blocks(s);
  1264.  
  1265.     s->version=0;
  1266.     
  1267.     s->m.avctx   = avctx;
  1268.     s->m.flags   = avctx->flags;
  1269.     s->m.bit_rate= avctx->bit_rate;
  1270.     s->m.me.scratchpad= av_mallocz((avctx->width+64)*2*16*2*sizeof(uint8_t));
  1271.     s->m.me.map       = av_mallocz(ME_MAP_SIZE*sizeof(uint32_t));
  1272.     s->m.me.score_map = av_mallocz(ME_MAP_SIZE*sizeof(uint32_t));
  1273.     h263_encode_init(&s->m); //mv_penalty
  1274.     if(avctx->flags&CODEC_FLAG_PASS1){
  1275.         if(!avctx->stats_out)
  1276.             avctx->stats_out = av_mallocz(256);
  1277.     }
  1278.     if(avctx->flags&CODEC_FLAG_PASS2){
  1279.         if(ff_rate_control_init(&s->m) < 0)
  1280.             return -1;
  1281.     }
  1282.     for(plane_index=0; plane_index<3; plane_index++){
  1283.         calculate_vissual_weight(s, &s->plane[plane_index]);
  1284.     }
  1285.     
  1286.     
  1287.     avctx->coded_frame= &s->current_picture;
  1288.     switch(avctx->pix_fmt){
  1289. //    case PIX_FMT_YUV444P:
  1290. //    case PIX_FMT_YUV422P:
  1291.     case PIX_FMT_YUV420P:
  1292.     case PIX_FMT_GRAY8:
  1293. //    case PIX_FMT_YUV411P:
  1294. //    case PIX_FMT_YUV410P:
  1295.         s->colorspace_type= 0;
  1296.         break;
  1297. /*    case PIX_FMT_RGBA32:
  1298.         s->colorspace= 1;
  1299.         break;*/
  1300.     default:
  1301.         av_log(avctx, AV_LOG_ERROR, "format not supportedn");
  1302.         return -1;
  1303.     }
  1304. //    avcodec_get_chroma_sub_sample(avctx->pix_fmt, &s->chroma_h_shift, &s->chroma_v_shift);
  1305.     s->chroma_h_shift= 1;
  1306.     s->chroma_v_shift= 1;
  1307.     return 0;
  1308. }
  1309. static int frame_start(SnowContext *s){
  1310.    AVFrame tmp;
  1311.    int w= s->avctx->width; //FIXME round up to x16 ?
  1312.    int h= s->avctx->height;
  1313.     if(s->current_picture.data[0]){
  1314.         draw_edges(s->current_picture.data[0], s->current_picture.linesize[0], w   , h   , EDGE_WIDTH  );
  1315.         draw_edges(s->current_picture.data[1], s->current_picture.linesize[1], w>>1, h>>1, EDGE_WIDTH/2);
  1316.         draw_edges(s->current_picture.data[2], s->current_picture.linesize[2], w>>1, h>>1, EDGE_WIDTH/2);
  1317.     }
  1318.     tmp= s->last_picture;
  1319.     s->last_picture= s->current_picture;
  1320.     s->current_picture= tmp;
  1321.     
  1322.     s->current_picture.reference= 1;
  1323.     if(s->avctx->get_buffer(s->avctx, &s->current_picture) < 0){
  1324.         av_log(s->avctx, AV_LOG_ERROR, "get_buffer() failedn");
  1325.         return -1;
  1326.     }
  1327.     
  1328.     return 0;
  1329. }
  1330. static int encode_frame(AVCodecContext *avctx, unsigned char *buf, int buf_size, void *data){
  1331.     SnowContext *s = avctx->priv_data;
  1332.     RangeCoder * const c= &s->c;
  1333.     AVFrame *pict = data;
  1334.     const int width= s->avctx->width;
  1335.     const int height= s->avctx->height;
  1336.     int level, orientation, plane_index;
  1337.     ff_init_range_encoder(c, buf, buf_size);
  1338.     ff_build_rac_states(c, 0.05*(1LL<<32), 256-8);
  1339.     
  1340.     s->input_picture = *pict;
  1341.     if(avctx->flags&CODEC_FLAG_PASS2){
  1342.         s->m.pict_type =
  1343.         pict->pict_type= s->m.rc_context.entry[avctx->frame_number].new_pict_type;
  1344.         s->keyframe= pict->pict_type==FF_I_TYPE;
  1345.         s->m.picture_number= avctx->frame_number;
  1346.         pict->quality= ff_rate_estimate_qscale(&s->m);
  1347.     }else{
  1348.         s->keyframe= avctx->gop_size==0 || avctx->frame_number % avctx->gop_size == 0;
  1349.         pict->pict_type= s->keyframe ? FF_I_TYPE : FF_P_TYPE;
  1350.     }
  1351.     
  1352.     if(pict->quality){
  1353.         s->qlog= rint(QROOT*log(pict->quality / (float)FF_QP2LAMBDA)/log(2));
  1354.         //<64 >60
  1355.         s->qlog += 61*QROOT/8;
  1356.     }else{
  1357.         s->qlog= LOSSLESS_QLOG;
  1358.     }
  1359.     frame_start(s);
  1360.     s->current_picture.key_frame= s->keyframe;
  1361.     s->m.current_picture_ptr= &s->m.current_picture;
  1362.     if(pict->pict_type == P_TYPE){
  1363.         int block_width = (width +15)>>4;
  1364.         int block_height= (height+15)>>4;
  1365.         int stride= s->current_picture.linesize[0];
  1366.         
  1367.         assert(s->current_picture.data[0]);
  1368.         assert(s->last_picture.data[0]);
  1369.      
  1370.         s->m.avctx= s->avctx;
  1371.         s->m.current_picture.data[0]= s->current_picture.data[0];
  1372.         s->m.   last_picture.data[0]= s->   last_picture.data[0];
  1373.         s->m.    new_picture.data[0]= s->  input_picture.data[0];
  1374.         s->m.   last_picture_ptr= &s->m.   last_picture;
  1375.         s->m.linesize=
  1376.         s->m.   last_picture.linesize[0]=
  1377.         s->m.    new_picture.linesize[0]=
  1378.         s->m.current_picture.linesize[0]= stride;
  1379.         s->m.uvlinesize= s->current_picture.linesize[1];
  1380.         s->m.width = width;
  1381.         s->m.height= height;
  1382.         s->m.mb_width = block_width;
  1383.         s->m.mb_height= block_height;
  1384.         s->m.mb_stride=   s->m.mb_width+1;
  1385.         s->m.b8_stride= 2*s->m.mb_width+1;
  1386.         s->m.f_code=1;
  1387.         s->m.pict_type= pict->pict_type;
  1388.         s->m.me_method= s->avctx->me_method;
  1389.         s->m.me.scene_change_score=0;
  1390.         s->m.flags= s->avctx->flags;
  1391.         s->m.quarter_sample= (s->avctx->flags & CODEC_FLAG_QPEL)!=0;
  1392.         s->m.out_format= FMT_H263;
  1393.         s->m.unrestricted_mv= 1;
  1394.         s->lambda = s->m.lambda= pict->quality * 3/2; //FIXME bug somewhere else
  1395.         s->m.qscale= (s->m.lambda*139 + FF_LAMBDA_SCALE*64) >> (FF_LAMBDA_SHIFT + 7);
  1396.         s->lambda2= s->m.lambda2= (s->m.lambda*s->m.lambda + FF_LAMBDA_SCALE/2) >> FF_LAMBDA_SHIFT;
  1397.         s->m.dsp= s->dsp; //move
  1398.         ff_init_me(&s->m);
  1399.     }
  1400.     
  1401. redo_frame:
  1402.         
  1403.     s->qbias= pict->pict_type == P_TYPE ? 2 : 0;
  1404.     encode_header(s);
  1405.     s->m.misc_bits = 8*(s->c.bytestream - s->c.bytestream_start);
  1406.     encode_blocks(s);
  1407.     s->m.mv_bits = 8*(s->c.bytestream - s->c.bytestream_start) - s->m.misc_bits;
  1408.       
  1409.     for(plane_index=0; plane_index<3; plane_index++){
  1410.         Plane *p= &s->plane[plane_index];
  1411.         int w= p->width;
  1412.         int h= p->height;
  1413.         int x, y;
  1414. //        int bits= put_bits_count(&s->c.pb);
  1415.         //FIXME optimize
  1416.      if(pict->data[plane_index]) //FIXME gray hack
  1417.         for(y=0; y<h; y++){
  1418.             for(x=0; x<w; x++){
  1419.                 s->spatial_dwt_buffer[y*w + x]= pict->data[plane_index][y*pict->linesize[plane_index] + x]<<FRAC_BITS;
  1420.             }
  1421.         }
  1422.         predict_plane(s, s->spatial_dwt_buffer, plane_index, 0);
  1423.         
  1424.         if(   plane_index==0 
  1425.            && pict->pict_type == P_TYPE 
  1426.            && s->m.me.scene_change_score > s->avctx->scenechange_threshold){
  1427.             ff_init_range_encoder(c, buf, buf_size);
  1428.             ff_build_rac_states(c, 0.05*(1LL<<32), 256-8);
  1429.             pict->pict_type= FF_I_TYPE;
  1430.             s->keyframe=1;
  1431.             reset_contexts(s);
  1432.             goto redo_frame;
  1433.         }
  1434.         
  1435.         if(s->qlog == LOSSLESS_QLOG){
  1436.             for(y=0; y<h; y++){
  1437.                 for(x=0; x<w; x++){
  1438.                     s->spatial_dwt_buffer[y*w + x]= (s->spatial_dwt_buffer[y*w + x] + (1<<(FRAC_BITS-1))-1)>>FRAC_BITS;
  1439.                 }
  1440.             }
  1441.         }
  1442.  
  1443.         ff_spatial_dwt(s->spatial_dwt_buffer, w, h, w, s->spatial_decomposition_type, s->spatial_decomposition_count);
  1444.         for(level=0; level<s->spatial_decomposition_count; level++){
  1445.             for(orientation=level ? 1 : 0; orientation<4; orientation++){
  1446.                 SubBand *b= &p->band[level][orientation];
  1447.                 
  1448.                 quantize(s, b, b->buf, b->stride, s->qbias);
  1449.                 if(orientation==0)
  1450.                     decorrelate(s, b, b->buf, b->stride, pict->pict_type == P_TYPE, 0);
  1451.                 encode_subband(s, b, b->buf, b->parent ? b->parent->buf : NULL, b->stride, orientation);
  1452.                 assert(b->parent==NULL || b->parent->stride == b->stride*2);
  1453.                 if(orientation==0)
  1454.                     correlate(s, b, b->buf, b->stride, 1, 0);
  1455.             }
  1456.         }
  1457. //        av_log(NULL, AV_LOG_DEBUG, "plane:%d bits:%dn", plane_index, put_bits_count(&s->c.pb) - bits);
  1458.         for(level=0; level<s->spatial_decomposition_count; level++){
  1459.             for(orientation=level ? 1 : 0; orientation<4; orientation++){
  1460.                 SubBand *b= &p->band[level][orientation];
  1461.                 dequantize(s, b, b->buf, b->stride);
  1462.             }
  1463.         }
  1464.         ff_spatial_idwt(s->spatial_dwt_buffer, w, h, w, s->spatial_decomposition_type, s->spatial_decomposition_count);
  1465.         if(s->qlog == LOSSLESS_QLOG){
  1466.             for(y=0; y<h; y++){
  1467.                 for(x=0; x<w; x++){
  1468.                     s->spatial_dwt_buffer[y*w + x]<<=FRAC_BITS;
  1469.                 }
  1470.             }
  1471.         }
  1472. {START_TIMER
  1473.         predict_plane(s, s->spatial_dwt_buffer, plane_index, 1);
  1474. STOP_TIMER("pred-conv")}
  1475.         if(s->avctx->flags&CODEC_FLAG_PSNR){
  1476.             int64_t error= 0;
  1477.             
  1478.     if(pict->data[plane_index]) //FIXME gray hack
  1479.             for(y=0; y<h; y++){
  1480.                 for(x=0; x<w; x++){
  1481.                     int d= s->current_picture.data[plane_index][y*s->current_picture.linesize[plane_index] + x] - pict->data[plane_index][y*pict->linesize[plane_index] + x];
  1482.                     error += d*d;
  1483.                 }
  1484.             }
  1485.             s->avctx->error[plane_index] += error;
  1486.             s->current_picture.error[plane_index] = error;
  1487.         }
  1488.     }
  1489.     if(s->last_picture.data[0])
  1490.         avctx->release_buffer(avctx, &s->last_picture);
  1491.     s->current_picture.coded_picture_number = avctx->frame_number;
  1492.     s->current_picture.pict_type = pict->pict_type;
  1493.     s->current_picture.quality = pict->quality;
  1494.     if(avctx->flags&CODEC_FLAG_PASS1){
  1495.         s->m.p_tex_bits = 8*(s->c.bytestream - s->c.bytestream_start) - s->m.misc_bits - s->m.mv_bits;
  1496.         s->m.current_picture.display_picture_number =
  1497.         s->m.current_picture.coded_picture_number = avctx->frame_number;
  1498.         s->m.pict_type = pict->pict_type;
  1499.         s->m.current_picture.quality = pict->quality;
  1500.         ff_write_pass1_stats(&s->m);
  1501.     }
  1502.     if(avctx->flags&CODEC_FLAG_PASS2){
  1503.         s->m.total_bits += 8*(s->c.bytestream - s->c.bytestream_start);
  1504.     }
  1505.     emms_c();
  1506.     
  1507.     return ff_rac_terminate(c);
  1508. }
  1509. static void common_end(SnowContext *s){
  1510.     int plane_index, level, orientation;
  1511.     av_freep(&s->spatial_dwt_buffer);
  1512.     av_freep(&s->m.me.scratchpad);    
  1513.     av_freep(&s->m.me.map);
  1514.     av_freep(&s->m.me.score_map);
  1515.  
  1516.     av_freep(&s->block);
  1517.     for(plane_index=0; plane_index<3; plane_index++){    
  1518.         for(level=s->spatial_decomposition_count-1; level>=0; level--){
  1519.             for(orientation=level ? 1 : 0; orientation<4; orientation++){
  1520.                 SubBand *b= &s->plane[plane_index].band[level][orientation];
  1521.                 
  1522.                 av_freep(&b->x_coeff);
  1523.             }
  1524.         }
  1525.     }
  1526. }
  1527. static int encode_end(AVCodecContext *avctx)
  1528. {
  1529.     SnowContext *s = avctx->priv_data;
  1530.     common_end(s);
  1531.     av_free(avctx->stats_out);
  1532.     return 0;
  1533. }
  1534. static int decode_init(AVCodecContext *avctx)
  1535. {
  1536.     SnowContext *s = avctx->priv_data;
  1537.     int block_size;
  1538.     
  1539.     avctx->pix_fmt= PIX_FMT_YUV420P;
  1540.     common_init(avctx);
  1541.     
  1542.     block_size = MB_SIZE >> s->block_max_depth;
  1543.     slice_buffer_init(&s->sb, s->plane[0].height, (block_size) + (s->spatial_decomposition_count * (s->spatial_decomposition_count + 2)) + 1, s->plane[0].width, s->spatial_dwt_buffer);
  1544.     
  1545.     return 0;
  1546. }
  1547. static int decode_frame(AVCodecContext *avctx, void *data, int *data_size, uint8_t *buf, int buf_size){
  1548.     SnowContext *s = avctx->priv_data;
  1549.     RangeCoder * const c= &s->c;
  1550.     int bytes_read;
  1551.     AVFrame *picture = data;
  1552.     int level, orientation, plane_index;
  1553.     ff_init_range_decoder(c, buf, buf_size);
  1554.     ff_build_rac_states(c, 0.05*(1LL<<32), 256-8);
  1555.     s->current_picture.pict_type= FF_I_TYPE; //FIXME I vs. P
  1556.     decode_header(s);
  1557.     if(!s->block) alloc_blocks(s);
  1558.     frame_start(s);
  1559.     //keyframe flag dupliaction mess FIXME
  1560.     if(avctx->debug&FF_DEBUG_PICT_INFO)
  1561.         av_log(avctx, AV_LOG_ERROR, "keyframe:%d qlog:%dn", s->keyframe, s->qlog);
  1562.     
  1563.     decode_blocks(s);
  1564.     for(plane_index=0; plane_index<3; plane_index++){
  1565.         Plane *p= &s->plane[plane_index];
  1566.         int w= p->width;
  1567.         int h= p->height;
  1568.         int x, y;
  1569.         int decode_state[MAX_DECOMPOSITIONS][4][1]; /* Stored state info for unpack_coeffs. 1 variable per instance. */
  1570.         
  1571. if(s->avctx->debug&2048){
  1572.         memset(s->spatial_dwt_buffer, 0, sizeof(DWTELEM)*w*h);
  1573.         predict_plane(s, s->spatial_dwt_buffer, plane_index, 1);
  1574.         for(y=0; y<h; y++){
  1575.             for(x=0; x<w; x++){
  1576.                 int v= s->current_picture.data[plane_index][y*s->current_picture.linesize[plane_index] + x];
  1577.                 s->mconly_picture.data[plane_index][y*s->mconly_picture.linesize[plane_index] + x]= v;
  1578.             }
  1579.         }
  1580. }
  1581. {   START_TIMER
  1582.     for(level=0; level<s->spatial_decomposition_count; level++){
  1583.         for(orientation=level ? 1 : 0; orientation<4; orientation++){
  1584.             SubBand *b= &p->band[level][orientation];
  1585.             unpack_coeffs(s, b, b->parent, orientation);
  1586.         }
  1587.     }
  1588.     STOP_TIMER("unpack coeffs");
  1589. }
  1590. {START_TIMER
  1591.     const int mb_h= s->b_height << s->block_max_depth;
  1592.     const int block_size = MB_SIZE >> s->block_max_depth;
  1593.     const int block_w    = plane_index ? block_size/2 : block_size;
  1594.     int mb_y;
  1595.     dwt_compose_t cs[MAX_DECOMPOSITIONS];
  1596.     int yd=0, yq=0;
  1597.     int y;
  1598.     int end_y;
  1599.     ff_spatial_idwt_buffered_init(cs, &s->sb, w, h, 1, s->spatial_decomposition_type, s->spatial_decomposition_count);
  1600.     for(mb_y=0; mb_y<=mb_h; mb_y++){
  1601.         
  1602.         int slice_starty = block_w*mb_y;
  1603.         int slice_h = block_w*(mb_y+1);
  1604.         if (!(s->keyframe || s->avctx->debug&512)){
  1605.             slice_starty = FFMAX(0, slice_starty - (block_w >> 1));
  1606.             slice_h -= (block_w >> 1);
  1607.         }
  1608.         {        
  1609.         START_TIMER
  1610.         for(level=0; level<s->spatial_decomposition_count; level++){
  1611.             for(orientation=level ? 1 : 0; orientation<4; orientation++){
  1612.                 SubBand *b= &p->band[level][orientation];
  1613.                 int start_y;
  1614.                 int end_y;
  1615.                 int our_mb_start = mb_y;
  1616.                 int our_mb_end = (mb_y + 1);
  1617.                 start_y = (mb_y ? ((block_w * our_mb_start) >> (s->spatial_decomposition_count - level)) + s->spatial_decomposition_count - level + 2: 0);
  1618.                 end_y = (((block_w * our_mb_end) >> (s->spatial_decomposition_count - level)) + s->spatial_decomposition_count - level + 2);
  1619.                 if (!(s->keyframe || s->avctx->debug&512)){
  1620.                     start_y = FFMAX(0, start_y - (block_w >> (1+s->spatial_decomposition_count - level)));
  1621.                     end_y = FFMAX(0, end_y - (block_w >> (1+s->spatial_decomposition_count - level)));
  1622.                 }
  1623.                 start_y = FFMIN(b->height, start_y);
  1624.                 end_y = FFMIN(b->height, end_y);
  1625.                 
  1626.                 if (start_y != end_y){
  1627.                     if (orientation == 0){
  1628.                         SubBand * correlate_band = &p->band[0][0];
  1629.                         int correlate_end_y = FFMIN(b->height, end_y + 1);
  1630.                         int correlate_start_y = FFMIN(b->height, (start_y ? start_y + 1 : 0));
  1631.                         decode_subband_slice_buffered(s, correlate_band, &s->sb, correlate_start_y, correlate_end_y, decode_state[0][0]);
  1632.                         correlate_slice_buffered(s, &s->sb, correlate_band, correlate_band->buf, correlate_band->stride, 1, 0, correlate_start_y, correlate_end_y);
  1633.                         dequantize_slice_buffered(s, &s->sb, correlate_band, correlate_band->buf, correlate_band->stride, start_y, end_y);
  1634.                     }
  1635.                     else
  1636.                         decode_subband_slice_buffered(s, b, &s->sb, start_y, end_y, decode_state[level][orientation]);
  1637.                 }
  1638.             }
  1639.         }
  1640.         STOP_TIMER("decode_subband_slice");
  1641.         }
  1642.         
  1643. {   START_TIMER
  1644.         for(; yd<slice_h; yd+=4){
  1645.             ff_spatial_idwt_buffered_slice(cs, &s->sb, w, h, 1, s->spatial_decomposition_type, s->spatial_decomposition_count, yd);
  1646.         }
  1647.     STOP_TIMER("idwt slice");}
  1648.         
  1649.         if(s->qlog == LOSSLESS_QLOG){
  1650.             for(; yq<slice_h && yq<h; yq++){
  1651.                 DWTELEM * line = slice_buffer_get_line(&s->sb, yq);
  1652.                 for(x=0; x<w; x++){
  1653.                     line[x] <<= FRAC_BITS;
  1654.                 }
  1655.             }
  1656.         }
  1657.         predict_slice_buffered(s, &s->sb, s->spatial_dwt_buffer, plane_index, 1, mb_y);
  1658.         
  1659.         y = FFMIN(p->height, slice_starty);
  1660.         end_y = FFMIN(p->height, slice_h);
  1661.         while(y < end_y)
  1662.             slice_buffer_release(&s->sb, y++);
  1663.     }
  1664.     
  1665.     slice_buffer_flush(&s->sb);
  1666.     
  1667. STOP_TIMER("idwt + predict_slices")}
  1668.     }
  1669.             
  1670.     emms_c();
  1671.     if(s->last_picture.data[0])
  1672.         avctx->release_buffer(avctx, &s->last_picture);
  1673. if(!(s->avctx->debug&2048))        
  1674.     *picture= s->current_picture;
  1675. else
  1676.     *picture= s->mconly_picture;
  1677.     
  1678.     *data_size = sizeof(AVFrame);
  1679.     
  1680.     bytes_read= c->bytestream - c->bytestream_start;
  1681.     if(bytes_read ==0) av_log(s->avctx, AV_LOG_ERROR, "error at end of framen"); //FIXME
  1682.     return bytes_read;
  1683. }
  1684. static int decode_end(AVCodecContext *avctx)
  1685. {
  1686.     SnowContext *s = avctx->priv_data;
  1687.     slice_buffer_destroy(&s->sb);
  1688.     
  1689.     common_end(s);
  1690.     return 0;
  1691. }
  1692. AVCodec snow_decoder = {
  1693.     "snow",
  1694.     CODEC_TYPE_VIDEO,
  1695.     CODEC_ID_SNOW,
  1696.     sizeof(SnowContext),
  1697.     decode_init,
  1698.     NULL,
  1699.     decode_end,
  1700.     decode_frame,
  1701.     0 /*CODEC_CAP_DR1*/ /*| CODEC_CAP_DRAW_HORIZ_BAND*/,
  1702.     NULL
  1703. };
  1704. #ifdef CONFIG_ENCODERS
  1705. AVCodec snow_encoder = {
  1706.     "snow",
  1707.     CODEC_TYPE_VIDEO,
  1708.     CODEC_ID_SNOW,
  1709.     sizeof(SnowContext),
  1710.     encode_init,
  1711.     encode_frame,
  1712.     encode_end,
  1713. };
  1714. #endif
  1715. #if 0
  1716. #undef malloc
  1717. #undef free
  1718. #undef printf
  1719. int main(){
  1720.     int width=256;
  1721.     int height=256;
  1722.     int buffer[2][width*height];
  1723.     SnowContext s;
  1724.     int i;
  1725.     s.spatial_decomposition_count=6;
  1726.     s.spatial_decomposition_type=1;
  1727.     
  1728.     printf("testing 5/3 DWTn");
  1729.     for(i=0; i<width*height; i++)
  1730.         buffer[0][i]= buffer[1][i]= random()%54321 - 12345;
  1731.     
  1732.     ff_spatial_dwt(buffer[0], width, height, width, s->spatial_decomposition_type, s->spatial_decomposition_count);
  1733.     ff_spatial_idwt(buffer[0], width, height, width, s->spatial_decomposition_type, s->spatial_decomposition_count);
  1734.     
  1735.     for(i=0; i<width*height; i++)
  1736.         if(buffer[0][i]!= buffer[1][i]) printf("fsck: %d %d %dn",i, buffer[0][i], buffer[1][i]);
  1737.     printf("testing 9/7 DWTn");
  1738.     s.spatial_decomposition_type=0;
  1739.     for(i=0; i<width*height; i++)
  1740.         buffer[0][i]= buffer[1][i]= random()%54321 - 12345;
  1741.     
  1742.     ff_spatial_dwt(buffer[0], width, height, width, s->spatial_decomposition_type, s->spatial_decomposition_count);
  1743.     ff_spatial_idwt(buffer[0], width, height, width, s->spatial_decomposition_type, s->spatial_decomposition_count);
  1744.     
  1745.     for(i=0; i<width*height; i++)
  1746.         if(buffer[0][i]!= buffer[1][i]) printf("fsck: %d %d %dn",i, buffer[0][i], buffer[1][i]);
  1747.         
  1748.     printf("testing AC codern");
  1749.     memset(s.header_state, 0, sizeof(s.header_state));
  1750.     ff_init_range_encoder(&s.c, buffer[0], 256*256);
  1751.     ff_init_cabac_states(&s.c, ff_h264_lps_range, ff_h264_mps_state, ff_h264_lps_state, 64);
  1752.         
  1753.     for(i=-256; i<256; i++){
  1754. START_TIMER
  1755.         put_symbol(&s.c, s.header_state, i*i*i/3*ABS(i), 1);
  1756. STOP_TIMER("put_symbol")
  1757.     }
  1758.     ff_rac_terminate(&s.c);
  1759.     memset(s.header_state, 0, sizeof(s.header_state));
  1760.     ff_init_range_decoder(&s.c, buffer[0], 256*256);
  1761.     ff_init_cabac_states(&s.c, ff_h264_lps_range, ff_h264_mps_state, ff_h264_lps_state, 64);
  1762.     
  1763.     for(i=-256; i<256; i++){
  1764.         int j;
  1765. START_TIMER
  1766.         j= get_symbol(&s.c, s.header_state, 1);
  1767. STOP_TIMER("get_symbol")
  1768.         if(j!=i*i*i/3*ABS(i)) printf("fsck: %d != %dn", i, j);
  1769.     }
  1770. {
  1771. int level, orientation, x, y;
  1772. int64_t errors[8][4];
  1773. int64_t g=0;
  1774.     memset(errors, 0, sizeof(errors));
  1775.     s.spatial_decomposition_count=3;
  1776.     s.spatial_decomposition_type=0;
  1777.     for(level=0; level<s.spatial_decomposition_count; level++){
  1778.         for(orientation=level ? 1 : 0; orientation<4; orientation++){
  1779.             int w= width  >> (s.spatial_decomposition_count-level);
  1780.             int h= height >> (s.spatial_decomposition_count-level);
  1781.             int stride= width  << (s.spatial_decomposition_count-level);
  1782.             DWTELEM *buf= buffer[0];
  1783.             int64_t error=0;
  1784.             if(orientation&1) buf+=w;
  1785.             if(orientation>1) buf+=stride>>1;
  1786.             
  1787.             memset(buffer[0], 0, sizeof(int)*width*height);
  1788.             buf[w/2 + h/2*stride]= 256*256;
  1789.             ff_spatial_idwt(buffer[0], width, height, width, s->spatial_decomposition_type, s->spatial_decomposition_count);
  1790.             for(y=0; y<height; y++){
  1791.                 for(x=0; x<width; x++){
  1792.                     int64_t d= buffer[0][x + y*width];
  1793.                     error += d*d;
  1794.                     if(ABS(width/2-x)<9 && ABS(height/2-y)<9 && level==2) printf("%8lld ", d);
  1795.                 }
  1796.                 if(ABS(height/2-y)<9 && level==2) printf("n");
  1797.             }
  1798.             error= (int)(sqrt(error)+0.5);
  1799.             errors[level][orientation]= error;
  1800.             if(g) g=ff_gcd(g, error);
  1801.             else g= error;
  1802.         }
  1803.     }
  1804.     printf("static int const visual_weight[][4]={n");
  1805.     for(level=0; level<s.spatial_decomposition_count; level++){
  1806.         printf("  {");
  1807.         for(orientation=0; orientation<4; orientation++){
  1808.             printf("%8lld,", errors[level][orientation]/g);
  1809.         }
  1810.         printf("},n");
  1811.     }
  1812.     printf("};n");
  1813.     {
  1814.             int level=2;
  1815.             int orientation=3;
  1816.             int w= width  >> (s.spatial_decomposition_count-level);
  1817.             int h= height >> (s.spatial_decomposition_count-level);
  1818.             int stride= width  << (s.spatial_decomposition_count-level);
  1819.             DWTELEM *buf= buffer[0];
  1820.             int64_t error=0;
  1821.             buf+=w;
  1822.             buf+=stride>>1;
  1823.             
  1824.             memset(buffer[0], 0, sizeof(int)*width*height);
  1825. #if 1
  1826.             for(y=0; y<height; y++){
  1827.                 for(x=0; x<width; x++){
  1828.                     int tab[4]={0,2,3,1};
  1829.                     buffer[0][x+width*y]= 256*256*tab[(x&1) + 2*(y&1)];
  1830.                 }
  1831.             }
  1832.             ff_spatial_dwt(buffer[0], width, height, width, s->spatial_decomposition_type, s->spatial_decomposition_count);
  1833. #else
  1834.             for(y=0; y<h; y++){
  1835.                 for(x=0; x<w; x++){
  1836.                     buf[x + y*stride  ]=169;
  1837.                     buf[x + y*stride-w]=64;
  1838.                 }
  1839.             }
  1840.             ff_spatial_idwt(buffer[0], width, height, width, s->spatial_decomposition_type, s->spatial_decomposition_count);
  1841. #endif
  1842.             for(y=0; y<height; y++){
  1843.                 for(x=0; x<width; x++){
  1844.                     int64_t d= buffer[0][x + y*width];
  1845.                     error += d*d;
  1846.                     if(ABS(width/2-x)<9 && ABS(height/2-y)<9) printf("%8lld ", d);
  1847.                 }
  1848.                 if(ABS(height/2-y)<9) printf("n");
  1849.             }
  1850.     }
  1851. }
  1852.     return 0;
  1853. }
  1854. #endif