dmo.c
上传用户:riyaled888
上传日期:2009-03-27
资源大小:7338k
文件大小:48k
源码类别:

多媒体

开发平台:

MultiPlatform

  1. /*****************************************************************************
  2.  * dmo.c : DirectMedia Object decoder module for vlc
  3.  *****************************************************************************
  4.  * Copyright (C) 2002, 2003 VideoLAN
  5.  * $Id: dmo.c 9329 2004-11-14 19:36:40Z gbazin $
  6.  *
  7.  * Author: Gildas Bazin <gbazin@videolan.org>
  8.  *
  9.  * This program is free software; you can redistribute it and/or modify
  10.  * it under the terms of the GNU General Public License as published by
  11.  * the Free Software Foundation; either version 2 of the License, or
  12.  * (at your option) any later version.
  13.  *
  14.  * This program is distributed in the hope that it will be useful,
  15.  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  16.  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  17.  * GNU General Public License for more details.
  18.  *
  19.  * You should have received a copy of the GNU General Public License
  20.  * along with this program; if not, write to the Free Software
  21.  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA  02111, USA.
  22.  *****************************************************************************/
  23. /*****************************************************************************
  24.  * Preamble
  25.  *****************************************************************************/
  26. #include <stdlib.h>
  27. #include <stdio.h>
  28. #include <string.h>
  29. #include <vlc/vlc.h>
  30. #include <vlc/decoder.h>
  31. #include <vlc/vout.h>
  32. #ifndef WIN32
  33. #    define LOADER
  34. #else
  35. #   include <objbase.h>
  36. #endif
  37. #ifdef LOADER
  38. /* Need the w32dll loader from mplayer */
  39. #   include <wine/winerror.h>
  40. #   include <ldt_keeper.h>
  41. #   include <wine/windef.h>
  42. #endif
  43. #include "codecs.h"
  44. #include "dmo.h"
  45. //#define DMO_DEBUG 1
  46. #ifdef LOADER
  47. /* Not Needed */
  48. long CoInitialize( void *pvReserved ) { return -1; }
  49. void CoUninitialize( void ) { }
  50. /* A few prototypes */
  51. HMODULE WINAPI LoadLibraryA(LPCSTR);
  52. #define LoadLibrary LoadLibraryA
  53. FARPROC WINAPI GetProcAddress(HMODULE,LPCSTR);
  54. int     WINAPI FreeLibrary(HMODULE);
  55. #endif /* LOADER */
  56. typedef long (STDCALL *GETCLASS) ( const GUID*, const GUID*, void** );
  57. static int pi_channels_maps[7] =
  58. {
  59.     0,
  60.     AOUT_CHAN_CENTER,
  61.     AOUT_CHAN_LEFT | AOUT_CHAN_RIGHT,
  62.     AOUT_CHAN_CENTER | AOUT_CHAN_LEFT | AOUT_CHAN_RIGHT,
  63.     AOUT_CHAN_LEFT | AOUT_CHAN_RIGHT | AOUT_CHAN_REARLEFT
  64.      | AOUT_CHAN_REARRIGHT,
  65.     AOUT_CHAN_LEFT | AOUT_CHAN_RIGHT | AOUT_CHAN_CENTER
  66.      | AOUT_CHAN_REARLEFT | AOUT_CHAN_REARRIGHT,
  67.     AOUT_CHAN_LEFT | AOUT_CHAN_RIGHT | AOUT_CHAN_CENTER
  68.      | AOUT_CHAN_REARLEFT | AOUT_CHAN_REARRIGHT | AOUT_CHAN_LFE
  69. };
  70. /*****************************************************************************
  71.  * Module descriptor
  72.  *****************************************************************************/
  73. static int  DecoderOpen  ( vlc_object_t * );
  74. static int  DecOpen      ( vlc_object_t * );
  75. static void DecoderClose ( vlc_object_t * );
  76. static void *DecodeBlock ( decoder_t *, block_t ** );
  77. static int  EncoderOpen  ( vlc_object_t * );
  78. static int  EncOpen      ( vlc_object_t * );
  79. static void EncoderClose ( vlc_object_t * );
  80. static block_t *EncodeBlock( encoder_t *, void * );
  81. static int LoadDMO( vlc_object_t *, HINSTANCE *, IMediaObject **,
  82.                     es_format_t *, vlc_bool_t );
  83. static void CopyPicture( decoder_t *, picture_t *, uint8_t * );
  84. vlc_module_begin();
  85.     set_description( _("DirectMedia Object decoder") );
  86.     add_shortcut( "dmo" );
  87.     set_capability( "decoder", 1 );
  88.     set_callbacks( DecoderOpen, DecoderClose );
  89. #   define ENC_CFG_PREFIX "sout-dmo-"
  90.     add_submodule();
  91.     set_description( _("DirectMedia Object encoder") );
  92.     set_capability( "encoder", 10 );
  93.     set_callbacks( EncoderOpen, EncoderClose );
  94. vlc_module_end();
  95. /*****************************************************************************
  96.  * Local prototypes
  97.  *****************************************************************************/
  98. /****************************************************************************
  99.  * Decoder descriptor declaration
  100.  ****************************************************************************/
  101. struct decoder_sys_t
  102. {
  103.     HINSTANCE hmsdmo_dll;
  104.     IMediaObject *p_dmo;
  105.     int i_min_output;
  106.     uint8_t *p_buffer;
  107.     date_t end_date;
  108. #ifdef LOADER
  109.     ldt_fs_t    *ldt_fs;
  110. #endif
  111. };
  112. static const GUID guid_wmv9 = { 0x724bb6a4, 0xe526, 0x450f, { 0xaf, 0xfa, 0xab, 0x9b, 0x45, 0x12, 0x91, 0x11 } };
  113. static const GUID guid_wma9 = { 0x27ca0808, 0x01f5, 0x4e7a, { 0x8b, 0x05, 0x87, 0xf8, 0x07, 0xa2, 0x33, 0xd1 } };
  114. static const GUID guid_wmv = { 0x82d353df, 0x90bd, 0x4382, { 0x8b, 0xc2, 0x3f, 0x61, 0x92, 0xb7, 0x6e, 0x34 } };
  115. static const GUID guid_wma = { 0x874131cb, 0x4ecc, 0x443b, { 0x89, 0x48, 0x74, 0x6b, 0x89, 0x59, 0x5d, 0x20 } };
  116. static const GUID guid_wmv_enc = { 0x3181343b, 0x94a2, 0x4feb, { 0xad, 0xef, 0x30, 0xa1, 0xdd, 0xe6, 0x17, 0xb4 } };
  117. static const GUID guid_wma_enc = { 0x70f598e9, 0xf4ab, 0x495a, { 0x99, 0xe2, 0xa7, 0xc4, 0xd3, 0xd8, 0x9a, 0xbf } };
  118. typedef struct
  119. {
  120.     vlc_fourcc_t i_fourcc;
  121.     const char   *psz_dll;
  122.     const GUID   *p_guid;
  123. } codec_dll;
  124. static const codec_dll decoders_table[] =
  125. {
  126.     /* WM3 */
  127.     { VLC_FOURCC('W','M','V','3'), "wmv9dmod.dll", &guid_wmv9 },
  128.     { VLC_FOURCC('w','m','v','3'), "wmv9dmod.dll", &guid_wmv9 },
  129.     /* WMV2 */
  130.     { VLC_FOURCC('W','M','V','2'), "wmvdmod.dll", &guid_wmv },
  131.     { VLC_FOURCC('w','m','v','2'), "wmvdmod.dll", &guid_wmv },
  132.     /* WMV1 */
  133.     { VLC_FOURCC('W','M','V','1'), "wmvdmod.dll", &guid_wmv },
  134.     { VLC_FOURCC('w','m','v','1'), "wmvdmod.dll", &guid_wmv },
  135.     /* WMA 3 */
  136.     { VLC_FOURCC('W','M','A','3'), "wma9dmod.dll", &guid_wma9 },
  137.     { VLC_FOURCC('w','m','a','3'), "wma9dmod.dll", &guid_wma9 },
  138.     /* WMA 2 */
  139.     { VLC_FOURCC('W','M','A','2'), "wma9dmod.dll", &guid_wma9 },
  140.     { VLC_FOURCC('w','m','a','2'), "wma9dmod.dll", &guid_wma9 },
  141.     /* */
  142.     { 0, NULL, NULL }
  143. };
  144. static const codec_dll encoders_table[] =
  145. {
  146.     /* WMV2 */
  147.     { VLC_FOURCC('W','M','V','2'), "wmvdmoe.dll", &guid_wmv_enc },
  148.     { VLC_FOURCC('w','m','v','1'), "wmvdmoe.dll", &guid_wmv_enc },
  149.     /* WMV1 */
  150.     { VLC_FOURCC('W','M','V','1'), "wmvdmoe.dll", &guid_wmv_enc },
  151.     { VLC_FOURCC('w','m','v','1'), "wmvdmoe.dll", &guid_wmv_enc },
  152.     /* WMA 3 */
  153.     { VLC_FOURCC('W','M','A','3'), "wmadmoe.dll", &guid_wma_enc },
  154.     { VLC_FOURCC('w','m','a','3'), "wmadmoe.dll", &guid_wma_enc },
  155.     /* WMA 2 */
  156.     { VLC_FOURCC('W','M','A','2'), "wmadmoe.dll", &guid_wma_enc },
  157.     { VLC_FOURCC('w','m','a','2'), "wmadmoe.dll", &guid_wma_enc },
  158.     /* */
  159.     { 0, NULL, NULL }
  160. };
  161. static void WINAPI DMOFreeMediaType( DMO_MEDIA_TYPE *mt )
  162. {
  163.     if( mt->cbFormat != 0 ) CoTaskMemFree( (PVOID)mt->pbFormat );
  164.     if( mt->pUnk != NULL ) mt->pUnk->vt->Release( (IUnknown *)mt->pUnk );
  165.     mt->cbFormat = 0;
  166.     mt->pbFormat = NULL;
  167.     mt->pUnk = NULL;
  168. }
  169. /*****************************************************************************
  170.  * DecoderOpen: open dmo codec
  171.  *****************************************************************************/
  172. static int DecoderOpen( vlc_object_t *p_this )
  173. {
  174.     decoder_t *p_dec = (decoder_t*)p_this;
  175. #ifndef LOADER
  176.     int i_ret = DecOpen( p_this );
  177.     if( i_ret != VLC_SUCCESS ) return i_ret;
  178. #else
  179.     /* We can't open it now, because of ldt_keeper or something
  180.      * Open/Decode/Close has to be done in the same thread */
  181.     int i;
  182.     p_dec->p_sys = NULL;
  183.     /* Probe if we support it */
  184.     for( i = 0; decoders_table[i].i_fourcc != 0; i++ )
  185.     {
  186.         if( decoders_table[i].i_fourcc == p_dec->fmt_in.i_codec )
  187.         {
  188.             msg_Dbg( p_dec, "DMO codec for %4.4s may work with dll=%s",
  189.                      (char*)&p_dec->fmt_in.i_codec,
  190.                      decoders_table[i].psz_dll );
  191.             break;
  192.         }
  193.     }
  194.     p_dec->p_sys = NULL;
  195.     if( !decoders_table[i].i_fourcc ) return VLC_EGENERIC;
  196. #endif /* LOADER */
  197.     /* Set callbacks */
  198.     p_dec->pf_decode_video = (picture_t *(*)(decoder_t *, block_t **))
  199.         DecodeBlock;
  200.     p_dec->pf_decode_audio = (aout_buffer_t *(*)(decoder_t *, block_t **))
  201.         DecodeBlock;
  202.     return VLC_SUCCESS;
  203. }
  204. /*****************************************************************************
  205.  * DecOpen: open dmo codec
  206.  *****************************************************************************/
  207. static int DecOpen( vlc_object_t *p_this )
  208. {
  209.     decoder_t *p_dec = (decoder_t*)p_this;
  210.     decoder_sys_t *p_sys = NULL;
  211.     DMO_MEDIA_TYPE dmo_input_type, dmo_output_type;
  212.     IMediaObject *p_dmo = NULL;
  213.     HINSTANCE hmsdmo_dll = NULL;
  214.     VIDEOINFOHEADER *p_vih = NULL;
  215.     WAVEFORMATEX *p_wf = NULL;
  216. #ifdef LOADER
  217.     ldt_fs_t *ldt_fs = Setup_LDT_Keeper();
  218. #else
  219.     /* Initialize OLE/COM */
  220.     CoInitialize( 0 );
  221. #endif /* LOADER */
  222.     if( LoadDMO( p_this, &hmsdmo_dll, &p_dmo, &p_dec->fmt_in, VLC_FALSE )
  223.         != VLC_SUCCESS )
  224.     {
  225.         hmsdmo_dll = 0;
  226.         p_dmo = 0;
  227.         goto error;
  228.     }
  229.     /* Setup input format */
  230.     memset( &dmo_input_type, 0, sizeof(dmo_input_type) );
  231.     dmo_input_type.pUnk = 0;
  232.     if( p_dec->fmt_in.i_cat == AUDIO_ES )
  233.     {
  234.         uint16_t i_tag;
  235.         int i_size = sizeof(WAVEFORMATEX) + p_dec->fmt_in.i_extra;
  236.         p_wf = malloc( i_size );
  237.         memset( p_wf, 0, sizeof(WAVEFORMATEX) );
  238.         if( p_dec->fmt_in.i_extra )
  239.             memcpy( &p_wf[1], p_dec->fmt_in.p_extra, p_dec->fmt_in.i_extra );
  240.         dmo_input_type.majortype  = MEDIATYPE_Audio;
  241.         dmo_input_type.subtype    = dmo_input_type.majortype;
  242.         dmo_input_type.subtype.Data1 = p_dec->fmt_in.i_codec;
  243.         fourcc_to_wf_tag( p_dec->fmt_in.i_codec, &i_tag );
  244.         if( i_tag ) dmo_input_type.subtype.Data1 = i_tag;
  245.         p_wf->wFormatTag = dmo_input_type.subtype.Data1;
  246.         p_wf->nSamplesPerSec = p_dec->fmt_in.audio.i_rate;
  247.         p_wf->nChannels = p_dec->fmt_in.audio.i_channels;
  248.         p_wf->wBitsPerSample = p_dec->fmt_in.audio.i_bitspersample;
  249.         p_wf->nBlockAlign = p_dec->fmt_in.audio.i_blockalign;
  250.         p_wf->nAvgBytesPerSec = p_dec->fmt_in.i_bitrate / 8;
  251.         p_wf->cbSize = p_dec->fmt_in.i_extra;
  252.         dmo_input_type.formattype = FORMAT_WaveFormatEx;
  253.         dmo_input_type.cbFormat   = i_size;
  254.         dmo_input_type.pbFormat   = (char *)p_wf;
  255.         dmo_input_type.bFixedSizeSamples = 1;
  256.         dmo_input_type.bTemporalCompression = 0;
  257.         dmo_input_type.lSampleSize = p_wf->nBlockAlign;
  258.     }
  259.     else
  260.     {
  261.         BITMAPINFOHEADER *p_bih;
  262.         int i_size = sizeof(VIDEOINFOHEADER) + p_dec->fmt_in.i_extra;
  263.         p_vih = malloc( i_size );
  264.         memset( p_vih, 0, sizeof(VIDEOINFOHEADER) );
  265.         if( p_dec->fmt_in.i_extra )
  266.             memcpy( &p_vih[1], p_dec->fmt_in.p_extra, p_dec->fmt_in.i_extra );
  267.         p_bih = &p_vih->bmiHeader;
  268.         p_bih->biCompression = p_dec->fmt_in.i_codec;
  269.         p_bih->biWidth = p_dec->fmt_in.video.i_width;
  270.         p_bih->biHeight = p_dec->fmt_in.video.i_height;
  271.         p_bih->biBitCount = p_dec->fmt_in.video.i_bits_per_pixel;
  272.         p_bih->biPlanes = 1;
  273.         p_bih->biSize = i_size - sizeof(VIDEOINFOHEADER) +
  274.             sizeof(BITMAPINFOHEADER);
  275.         p_vih->rcSource.left = p_vih->rcSource.top = 0;
  276.         p_vih->rcSource.right = p_dec->fmt_in.video.i_width;
  277.         p_vih->rcSource.bottom = p_dec->fmt_in.video.i_height;
  278.         p_vih->rcTarget = p_vih->rcSource;
  279.         dmo_input_type.majortype  = MEDIATYPE_Video;
  280.         dmo_input_type.subtype    = dmo_input_type.majortype;
  281.         dmo_input_type.subtype.Data1 = p_dec->fmt_in.i_codec;
  282.         dmo_input_type.formattype = FORMAT_VideoInfo;
  283.         dmo_input_type.bFixedSizeSamples = 0;
  284.         dmo_input_type.bTemporalCompression = 1;
  285.         dmo_input_type.cbFormat = i_size;
  286.         dmo_input_type.pbFormat = (char *)p_vih;
  287.     }
  288.     if( p_dmo->vt->SetInputType( p_dmo, 0, &dmo_input_type, 0 ) )
  289.     {
  290.         msg_Err( p_dec, "can't set DMO input type" );
  291.         goto error;
  292.     }
  293.     msg_Dbg( p_dec, "DMO input type set" );
  294.     /* Setup output format */
  295.     memset( &dmo_output_type, 0, sizeof(dmo_output_type) );
  296.     dmo_output_type.pUnk = 0;
  297.     if( p_dec->fmt_in.i_cat == AUDIO_ES )
  298.     {
  299.         /* Setup the format */
  300.         p_dec->fmt_out.i_codec = AOUT_FMT_S16_NE;
  301.         p_dec->fmt_out.audio.i_rate     = p_dec->fmt_in.audio.i_rate;
  302.         p_dec->fmt_out.audio.i_channels = p_dec->fmt_in.audio.i_channels;
  303.         p_dec->fmt_out.audio.i_bitspersample = 16;//p_dec->fmt_in.audio.i_bitspersample; We request 16
  304.         p_dec->fmt_out.audio.i_physical_channels =
  305.             p_dec->fmt_out.audio.i_original_channels =
  306.                 pi_channels_maps[p_dec->fmt_out.audio.i_channels];
  307.         p_wf->wFormatTag = WAVE_FORMAT_PCM;
  308.         p_wf->nSamplesPerSec = p_dec->fmt_out.audio.i_rate;
  309.         p_wf->nChannels = p_dec->fmt_out.audio.i_channels;
  310.         p_wf->wBitsPerSample = p_dec->fmt_out.audio.i_bitspersample;
  311.         p_wf->nBlockAlign =
  312.             p_wf->wBitsPerSample / 8 * p_wf->nChannels;
  313.         p_wf->nAvgBytesPerSec =
  314.             p_wf->nSamplesPerSec * p_wf->nBlockAlign;
  315.         p_wf->cbSize = 0;
  316.         dmo_output_type.majortype  = MEDIATYPE_Audio;
  317.         dmo_output_type.formattype = FORMAT_WaveFormatEx;
  318.         dmo_output_type.subtype    = MEDIASUBTYPE_PCM;
  319.         dmo_output_type.cbFormat   = sizeof(WAVEFORMATEX);
  320.         dmo_output_type.pbFormat   = (char *)p_wf;
  321.         dmo_output_type.bFixedSizeSamples = 1;
  322.         dmo_output_type.bTemporalCompression = 0;
  323.         dmo_output_type.lSampleSize = p_wf->nBlockAlign;
  324.     }
  325.     else
  326.     {
  327.         BITMAPINFOHEADER *p_bih;
  328.         DMO_MEDIA_TYPE mt;
  329.         int i_chroma = VLC_FOURCC('Y','U','Y','2'), i_planes = 1, i_bpp = 16;
  330.         int i = 0;
  331.         /* Find out which chroma to use */
  332.         while( !p_dmo->vt->GetOutputType( p_dmo, 0, i++, &mt ) )
  333.         {
  334.             if( mt.subtype.Data1 == VLC_FOURCC('Y','V','1','2') )
  335.             {
  336.                 i_chroma = mt.subtype.Data1;
  337.                 i_planes = 3; i_bpp = 12;
  338.             }
  339.             DMOFreeMediaType( &mt );
  340.         }
  341.         p_dec->fmt_out.i_codec = i_chroma == VLC_FOURCC('Y','V','1','2') ?
  342.             VLC_FOURCC('I','4','2','0') : i_chroma;
  343.         p_dec->fmt_out.video.i_width = p_dec->fmt_in.video.i_width;
  344.         p_dec->fmt_out.video.i_height = p_dec->fmt_in.video.i_height;
  345.         p_dec->fmt_out.video.i_bits_per_pixel = i_bpp;
  346.         p_dec->fmt_out.video.i_aspect = VOUT_ASPECT_FACTOR *
  347.             p_dec->fmt_out.video.i_width / p_dec->fmt_out.video.i_height;
  348.         p_bih = &p_vih->bmiHeader;
  349.         p_bih->biCompression = i_chroma;
  350.         p_bih->biHeight *= -1;
  351.         p_bih->biBitCount = p_dec->fmt_out.video.i_bits_per_pixel;
  352.         p_bih->biSizeImage = p_dec->fmt_in.video.i_width *
  353.             p_dec->fmt_in.video.i_height *
  354.             (p_dec->fmt_in.video.i_bits_per_pixel + 7) / 8;
  355.         p_bih->biPlanes = i_planes;
  356.         p_bih->biSize = sizeof(BITMAPINFOHEADER);
  357.         dmo_output_type.majortype = MEDIATYPE_Video;
  358.         dmo_output_type.formattype = FORMAT_VideoInfo;
  359.         dmo_output_type.subtype = dmo_output_type.majortype;
  360.         dmo_output_type.subtype.Data1 = p_bih->biCompression;
  361.         dmo_output_type.bFixedSizeSamples = VLC_TRUE;
  362.         dmo_output_type.bTemporalCompression = 0;
  363.         dmo_output_type.lSampleSize = p_bih->biSizeImage;
  364.         dmo_output_type.cbFormat = sizeof(VIDEOINFOHEADER);
  365.         dmo_output_type.pbFormat = (char *)p_vih;
  366.     }
  367. #ifdef DMO_DEBUG
  368.     /* Enumerate output types */
  369.     if( p_dec->fmt_in.i_cat == VIDEO_ES )
  370.     {
  371.         int i = 0;
  372.         DMO_MEDIA_TYPE mt;
  373.         while( !p_dmo->vt->GetOutputType( p_dmo, 0, i++, &mt ) )
  374.         {
  375.             msg_Dbg( p_dec, "available output chroma: %4.4s",
  376.                      (char *)&mt.subtype.Data1 );
  377.             DMOFreeMediaType( &mt );
  378.         }
  379.     }
  380. #endif
  381.     if( p_dmo->vt->SetOutputType( p_dmo, 0, &dmo_output_type, 0 ) )
  382.     {
  383.         msg_Err( p_dec, "can't set DMO output type" );
  384.         goto error;
  385.     }
  386.     msg_Dbg( p_dec, "DMO output type set" );
  387.     /* Allocate the memory needed to store the decoder's structure */
  388.     if( ( p_dec->p_sys = p_sys =
  389.           (decoder_sys_t *)malloc(sizeof(decoder_sys_t)) ) == NULL )
  390.     {
  391.         msg_Err( p_dec, "out of memory" );
  392.         goto error;
  393.     }
  394.     p_sys->hmsdmo_dll = hmsdmo_dll;
  395.     p_sys->p_dmo = p_dmo;
  396. #ifdef LOADER
  397.     p_sys->ldt_fs = ldt_fs;
  398. #endif
  399.     /* Find out some properties of the output */
  400.     {
  401.         uint32_t i_size, i_align;
  402.         p_sys->i_min_output = 0;
  403.         if( p_dmo->vt->GetOutputSizeInfo( p_dmo, 0, &i_size, &i_align ) )
  404.         {
  405.             msg_Err( p_dec, "GetOutputSizeInfo() failed" );
  406.             goto error;
  407.         }
  408.         else
  409.         {
  410.             msg_Dbg( p_dec, "GetOutputSizeInfo(): bytes %i, align %i",
  411.                      i_size, i_align );
  412.             p_sys->i_min_output = i_size;
  413.             p_sys->p_buffer = malloc( i_size );
  414.             if( !p_sys->p_buffer ) goto error;
  415.         }
  416.     }
  417.     /* Set output properties */
  418.     p_dec->fmt_out.i_cat = p_dec->fmt_in.i_cat;
  419.     if( p_dec->fmt_out.i_cat == AUDIO_ES )
  420.         date_Init( &p_sys->end_date, p_dec->fmt_in.audio.i_rate, 1 );
  421.     else
  422.         date_Init( &p_sys->end_date, 25 /* FIXME */, 1 );
  423.     if( p_vih ) free( p_vih );
  424.     if( p_wf ) free( p_wf );
  425.     return VLC_SUCCESS;
  426.  error:
  427.     if( p_dmo ) p_dmo->vt->Release( (IUnknown *)p_dmo );
  428.     if( hmsdmo_dll ) FreeLibrary( hmsdmo_dll );
  429. #ifdef LOADER
  430.     Restore_LDT_Keeper( ldt_fs );
  431. #else
  432.     /* Uninitialize OLE/COM */
  433.     CoUninitialize();
  434. #endif /* LOADER */
  435.     if( p_vih ) free( p_vih );
  436.     if( p_wf )  free( p_wf );
  437.     if( p_sys ) free( p_sys );
  438.     return VLC_EGENERIC;
  439. }
  440. /*****************************************************************************
  441.  * LoadDMO: Load the DMO object
  442.  *****************************************************************************/
  443. static int LoadDMO( vlc_object_t *p_this, HINSTANCE *p_hmsdmo_dll,
  444.                     IMediaObject **pp_dmo, es_format_t *p_fmt,
  445.                     vlc_bool_t b_out )
  446. {
  447.     DMO_PARTIAL_MEDIATYPE dmo_partial_type;
  448.     int i_err;
  449. #ifndef LOADER
  450.     long (STDCALL *OurDMOEnum)( const GUID *, uint32_t, uint32_t,
  451.                                const DMO_PARTIAL_MEDIATYPE *,
  452.                                uint32_t, const DMO_PARTIAL_MEDIATYPE *,
  453.                                IEnumDMO ** );
  454.     IEnumDMO *p_enum_dmo = NULL;
  455.     WCHAR *psz_dmo_name;
  456.     GUID clsid_dmo;
  457.     uint32_t i_dummy;
  458. #endif
  459.     GETCLASS GetClass;
  460.     IClassFactory *cFactory = NULL;
  461.     IUnknown *cObject = NULL;
  462.     codec_dll *codecs_table = b_out ? encoders_table : decoders_table;
  463.     int i_codec;
  464.     /* Look for a DMO which can handle the requested codec */
  465.     if( p_fmt->i_cat == AUDIO_ES )
  466.     {
  467.         uint16_t i_tag;
  468.         dmo_partial_type.type = MEDIATYPE_Audio;
  469.         dmo_partial_type.subtype = dmo_partial_type.type;
  470.         dmo_partial_type.subtype.Data1 = p_fmt->i_codec;
  471.         fourcc_to_wf_tag( p_fmt->i_codec, &i_tag );
  472.         if( i_tag ) dmo_partial_type.subtype.Data1 = i_tag;
  473.     }
  474.     else
  475.     {
  476.         dmo_partial_type.type = MEDIATYPE_Video;
  477.         dmo_partial_type.subtype = dmo_partial_type.type;
  478.         dmo_partial_type.subtype.Data1 = p_fmt->i_codec;
  479.     }
  480. #ifndef LOADER
  481.     /* Load msdmo DLL */
  482.     *p_hmsdmo_dll = LoadLibrary( "msdmo.dll" );
  483.     if( *p_hmsdmo_dll == NULL )
  484.     {
  485.         msg_Dbg( p_this, "failed loading msdmo.dll" );
  486.         return VLC_EGENERIC;
  487.     }
  488.     OurDMOEnum = (void *)GetProcAddress( *p_hmsdmo_dll, "DMOEnum" );
  489.     if( OurDMOEnum == NULL )
  490.     {
  491.         msg_Dbg( p_this, "GetProcAddress failed to find DMOEnum()" );
  492.         FreeLibrary( *p_hmsdmo_dll );
  493.         return VLC_EGENERIC;
  494.     }
  495.     if( !b_out )
  496.     {
  497.         i_err = OurDMOEnum( &GUID_NULL, 1 /*DMO_ENUMF_INCLUDE_KEYED*/,
  498.                             1, &dmo_partial_type, 0, NULL, &p_enum_dmo );
  499.     }
  500.     else
  501.     {
  502.         i_err = OurDMOEnum( &GUID_NULL, 1 /*DMO_ENUMF_INCLUDE_KEYED*/,
  503.                             0, NULL, 1, &dmo_partial_type, &p_enum_dmo );
  504.     }
  505.     if( i_err )
  506.     {
  507.         FreeLibrary( *p_hmsdmo_dll );
  508.         /* return VLC_EGENERIC; */
  509.         /* Try loading the dll directly */
  510.         goto loader;
  511.     }
  512.     /* Pickup the first available codec */
  513.     if( p_enum_dmo->vt->Next( p_enum_dmo, 1, &clsid_dmo,
  514.             &psz_dmo_name, &i_dummy /* NULL doesn't work */ ) )
  515.     {
  516.         FreeLibrary( *p_hmsdmo_dll );
  517.         return VLC_EGENERIC;
  518.     }
  519.     p_enum_dmo->vt->Release( (IUnknown *)p_enum_dmo );
  520. #if 1
  521.     {
  522.         char psz_temp[MAX_PATH];
  523.         wcstombs( psz_temp, psz_dmo_name, MAX_PATH );
  524.         msg_Dbg( p_this, "found DMO: %s", psz_temp );
  525.     }
  526. #endif
  527.     CoTaskMemFree( psz_dmo_name );
  528.     /* Create DMO */
  529.     if( CoCreateInstance( &clsid_dmo, NULL, CLSCTX_INPROC,
  530.                           &IID_IMediaObject, (void **)pp_dmo ) )
  531.     {
  532.         msg_Err( p_this, "can't create DMO" );
  533.         FreeLibrary( *p_hmsdmo_dll );
  534.         return VLC_EGENERIC;
  535.     }
  536.     return VLC_SUCCESS;
  537. #endif   /* LOADER */
  538.  loader:
  539.     for( i_codec = 0; codecs_table[i_codec].i_fourcc != 0; i_codec++ )
  540.     {
  541.         if( codecs_table[i_codec].i_fourcc == p_fmt->i_codec )
  542.             break;
  543.     }
  544.     if( codecs_table[i_codec].i_fourcc == 0 )
  545.         return VLC_EGENERIC;    /* Can't happen */
  546.     *p_hmsdmo_dll = LoadLibrary( codecs_table[i_codec].psz_dll );
  547.     if( *p_hmsdmo_dll == NULL )
  548.     {
  549.         msg_Dbg( p_this, "failed loading '%s'",
  550.                  codecs_table[i_codec].psz_dll );
  551.         return VLC_EGENERIC;
  552.     }
  553.     GetClass = (GETCLASS)GetProcAddress( *p_hmsdmo_dll, "DllGetClassObject" );
  554.     if (!GetClass)
  555.     {
  556.         msg_Dbg( p_this, "GetProcAddress failed to find DllGetClassObject()" );
  557.         FreeLibrary( *p_hmsdmo_dll );
  558.         return VLC_EGENERIC;
  559.     }
  560.     i_err = GetClass( codecs_table[i_codec].p_guid, &IID_IClassFactory,
  561.                       (void**)&cFactory );
  562.     if( i_err || cFactory == NULL )
  563.     {
  564.         msg_Dbg( p_this, "no such class object" );
  565.         FreeLibrary( *p_hmsdmo_dll );
  566.         return VLC_EGENERIC;
  567.     }
  568.     i_err = cFactory->vt->CreateInstance( cFactory, 0, &IID_IUnknown,
  569.                                           (void**)&cObject );
  570.     cFactory->vt->Release( (IUnknown*)cFactory );
  571.     if( i_err || !cObject )
  572.     {
  573.         msg_Dbg( p_this, "class factory failure" );
  574.         FreeLibrary( *p_hmsdmo_dll );
  575.         return VLC_EGENERIC;
  576.     }
  577.     i_err = cObject->vt->QueryInterface( cObject, &IID_IMediaObject,
  578.                                         (void**)pp_dmo );
  579.     cObject->vt->Release( (IUnknown*)cObject );
  580.     if( i_err || !*pp_dmo )
  581.     {
  582.         msg_Dbg( p_this, "QueryInterface failure" );
  583.         FreeLibrary( *p_hmsdmo_dll );
  584.         return VLC_EGENERIC;
  585.     }
  586.     return VLC_SUCCESS;
  587. }
  588. /*****************************************************************************
  589.  * DecoderClose: close codec
  590.  *****************************************************************************/
  591. void DecoderClose( vlc_object_t *p_this )
  592. {
  593.     decoder_t *p_dec = (decoder_t*)p_this;
  594.     decoder_sys_t *p_sys = p_dec->p_sys;
  595.     if( !p_sys ) return;
  596.     if( p_sys->p_dmo ) p_sys->p_dmo->vt->Release( (IUnknown *)p_sys->p_dmo );
  597.     FreeLibrary( p_sys->hmsdmo_dll );
  598. #ifdef LOADER
  599. #if 0
  600.     Restore_LDT_Keeper( p_sys->ldt_fs );
  601. #endif
  602. #else
  603.     /* Uninitialize OLE/COM */
  604.     CoUninitialize();
  605. #endif
  606.     if( p_sys->p_buffer ) free( p_sys->p_buffer );
  607.     free( p_sys );
  608. }
  609. /****************************************************************************
  610.  * DecodeBlock: the whole thing
  611.  ****************************************************************************
  612.  * This function must be fed with ogg packets.
  613.  ****************************************************************************/
  614. static void *DecodeBlock( decoder_t *p_dec, block_t **pp_block )
  615. {
  616.     decoder_sys_t *p_sys = p_dec->p_sys;
  617.     block_t *p_block;
  618.     int i_result;
  619.     DMO_OUTPUT_DATA_BUFFER db;
  620.     CMediaBuffer *p_out;
  621.     block_t block_out;
  622.     uint32_t i_status;
  623.     if( p_sys == NULL )
  624.     {
  625.         if( DecOpen( VLC_OBJECT(p_dec) ) )
  626.         {
  627.             msg_Err( p_dec, "DecOpen failed" );
  628.             return NULL;
  629.         }
  630.         p_sys = p_dec->p_sys;
  631.     }
  632.     if( !pp_block ) return NULL;
  633.     p_block = *pp_block;
  634.     /* Won't work with streams with B-frames, but do we have any ? */
  635.     if( p_block && p_block->i_pts <= 0 ) p_block->i_pts = p_block->i_dts;
  636.     /* Date management */
  637.     if( p_block && p_block->i_pts > 0 &&
  638.         p_block->i_pts != date_Get( &p_sys->end_date ) )
  639.     {
  640.         date_Set( &p_sys->end_date, p_block->i_pts );
  641.     }
  642. #if 0 /* Breaks the video decoding */
  643.     if( !date_Get( &p_sys->end_date ) )
  644.     {
  645.         /* We've just started the stream, wait for the first PTS. */
  646.         if( p_block ) block_Release( p_block );
  647.         return NULL;
  648.     }
  649. #endif
  650.     /* Feed input to the DMO */
  651.     if( p_block && p_block->i_buffer )
  652.     {
  653.         CMediaBuffer *p_in;
  654.         p_in = CMediaBufferCreate( p_block, p_block->i_buffer, VLC_TRUE );
  655.         i_result = p_sys->p_dmo->vt->ProcessInput( p_sys->p_dmo, 0,
  656.                        (IMediaBuffer *)p_in, DMO_INPUT_DATA_BUFFERF_SYNCPOINT,
  657.                        0, 0 );
  658.         p_in->vt->Release( (IUnknown *)p_in );
  659.         if( i_result == S_FALSE )
  660.         {
  661.             /* No output generated */
  662. #ifdef DMO_DEBUG
  663.             msg_Dbg( p_dec, "ProcessInput(): no output generated" );
  664. #endif
  665.             return NULL;
  666.         }
  667.         else if( i_result == DMO_E_NOTACCEPTING )
  668.         {
  669.             /* Need to call ProcessOutput */
  670.             msg_Dbg( p_dec, "ProcessInput(): not accepting" );
  671.         }
  672.         else if( i_result != S_OK )
  673.         {
  674.             msg_Dbg( p_dec, "ProcessInput(): failed" );
  675.             return NULL;
  676.         }
  677.         else
  678.         {
  679.             //msg_Dbg( p_dec, "ProcessInput(): successful" );
  680.             *pp_block = 0;
  681.         }
  682.     }
  683.     else if( p_block && !p_block->i_buffer )
  684.     {
  685.         block_Release( p_block );
  686.         *pp_block = 0;
  687.     }
  688.     /* Get output from the DMO */
  689.     block_out.p_buffer = p_sys->p_buffer;
  690.     block_out.i_buffer = 0;
  691.     p_out = CMediaBufferCreate( &block_out, p_sys->i_min_output, VLC_FALSE );
  692.     memset( &db, 0, sizeof(db) );
  693.     db.pBuffer = (IMediaBuffer *)p_out;
  694.     i_result = p_sys->p_dmo->vt->ProcessOutput( p_sys->p_dmo,
  695.                    DMO_PROCESS_OUTPUT_DISCARD_WHEN_NO_BUFFER,
  696.                    1, &db, &i_status );
  697.     if( i_result != S_OK )
  698.     {
  699.         if( i_result != S_FALSE )
  700.             msg_Dbg( p_dec, "ProcessOutput(): failed" );
  701. #if DMO_DEBUG
  702.         else
  703.             msg_Dbg( p_dec, "ProcessOutput(): no output" );
  704. #endif
  705.         p_out->vt->Release( (IUnknown *)p_out );
  706.         return NULL;
  707.     }
  708. #if DMO_DEBUG
  709.     msg_Dbg( p_dec, "ProcessOutput(): success" );
  710. #endif
  711.     if( !block_out.i_buffer )
  712.     {
  713. #if DMO_DEBUG
  714.         msg_Dbg( p_dec, "ProcessOutput(): no output (i_buffer_out == 0)" );
  715. #endif
  716.         p_out->vt->Release( (IUnknown *)p_out );
  717.         return NULL;
  718.     }
  719.     if( p_dec->fmt_out.i_cat == VIDEO_ES )
  720.     {
  721.         /* Get a new picture */
  722.         picture_t *p_pic = p_dec->pf_vout_buffer_new( p_dec );
  723.         if( !p_pic ) return NULL;
  724.         CopyPicture( p_dec, p_pic, block_out.p_buffer );
  725.         /* Date management */
  726.         p_pic->date = date_Get( &p_sys->end_date );
  727.         date_Increment( &p_sys->end_date, 1 );
  728.         p_out->vt->Release( (IUnknown *)p_out );
  729.         return p_pic;
  730.     }
  731.     else
  732.     {
  733.         aout_buffer_t *p_aout_buffer;
  734.         int i_samples = block_out.i_buffer /
  735.             ( p_dec->fmt_out.audio.i_bitspersample *
  736.               p_dec->fmt_out.audio.i_channels / 8 );
  737.         p_aout_buffer = p_dec->pf_aout_buffer_new( p_dec, i_samples );
  738.         memcpy( p_aout_buffer->p_buffer,
  739.                 block_out.p_buffer, block_out.i_buffer );
  740.         /* Date management */
  741.         p_aout_buffer->start_date = date_Get( &p_sys->end_date );
  742.         p_aout_buffer->end_date =
  743.             date_Increment( &p_sys->end_date, i_samples );
  744.         p_out->vt->Release( (IUnknown *)p_out );
  745.         return p_aout_buffer;
  746.     }
  747.     return NULL;
  748. }
  749. static void CopyPicture( decoder_t *p_dec, picture_t *p_pic, uint8_t *p_in )
  750. {
  751.     int i_plane, i_line, i_width, i_dst_stride;
  752.     uint8_t *p_dst, *p_src = p_in;
  753.     p_dst = p_pic->p[1].p_pixels;
  754.     p_pic->p[1].p_pixels = p_pic->p[2].p_pixels;
  755.     p_pic->p[2].p_pixels = p_dst;
  756.     for( i_plane = 0; i_plane < p_pic->i_planes; i_plane++ )
  757.     {
  758.         p_dst = p_pic->p[i_plane].p_pixels;
  759.         i_width = p_pic->p[i_plane].i_visible_pitch;
  760.         i_dst_stride  = p_pic->p[i_plane].i_pitch;
  761.         for( i_line = 0; i_line < p_pic->p[i_plane].i_visible_lines; i_line++ )
  762.         {
  763.             p_dec->p_vlc->pf_memcpy( p_dst, p_src, i_width );
  764.             p_src += i_width;
  765.             p_dst += i_dst_stride;
  766.         }
  767.     }
  768.     p_dst = p_pic->p[1].p_pixels;
  769.     p_pic->p[1].p_pixels = p_pic->p[2].p_pixels;
  770.     p_pic->p[2].p_pixels = p_dst;
  771. }
  772. /****************************************************************************
  773.  * Encoder descriptor declaration
  774.  ****************************************************************************/
  775. struct encoder_sys_t
  776. {
  777.     HINSTANCE hmsdmo_dll;
  778.     IMediaObject *p_dmo;
  779.     int i_min_output;
  780.     date_t end_date;
  781. #ifdef LOADER
  782.     ldt_fs_t    *ldt_fs;
  783. #endif
  784. };
  785. /*****************************************************************************
  786.  * EncoderOpen: open dmo codec
  787.  *****************************************************************************/
  788. static int EncoderOpen( vlc_object_t *p_this )
  789. {
  790.     encoder_t *p_enc = (encoder_t*)p_this;
  791. #ifndef LOADER
  792.     int i_ret = EncOpen( p_this );
  793.     if( i_ret != VLC_SUCCESS ) return i_ret;
  794. #else
  795.     /* We can't open it now, because of ldt_keeper or something
  796.      * Open/Encode/Close has to be done in the same thread */
  797.     int i;
  798.     /* Probe if we support it */
  799.     for( i = 0; encoders_table[i].i_fourcc != 0; i++ )
  800.     {
  801.         if( encoders_table[i].i_fourcc == p_enc->fmt_out.i_codec )
  802.         {
  803.             msg_Dbg( p_enc, "DMO codec for %4.4s may work with dll=%s",
  804.                      (char*)&p_enc->fmt_out.i_codec,
  805.                      encoders_table[i].psz_dll );
  806.             break;
  807.         }
  808.     }
  809.     p_enc->p_sys = NULL;
  810.     if( !encoders_table[i].i_fourcc ) return VLC_EGENERIC;
  811. #endif /* LOADER */
  812.     /* Set callbacks */
  813.     p_enc->pf_encode_video = (block_t *(*)(encoder_t *, picture_t *))
  814.         EncodeBlock;
  815.     p_enc->pf_encode_audio = (block_t *(*)(encoder_t *, aout_buffer_t *))
  816.         EncodeBlock;
  817.     return VLC_SUCCESS;
  818. }
  819. /*****************************************************************************
  820.  * EncoderSetVideoType: configures the input and output types of the dmo
  821.  *****************************************************************************/
  822. static int EncoderSetVideoType( encoder_t *p_enc, IMediaObject *p_dmo )
  823. {
  824.     int i, i_selected, i_err;
  825.     DMO_MEDIA_TYPE dmo_type;
  826.     VIDEOINFOHEADER vih, *p_vih;
  827.     BITMAPINFOHEADER *p_bih;
  828.     /* FIXME */
  829.     p_enc->fmt_in.video.i_bits_per_pixel = 
  830.         p_enc->fmt_out.video.i_bits_per_pixel = 12;
  831.     /* Enumerate input format (for debug output) */
  832.     i = 0;
  833.     while( !p_dmo->vt->GetInputType( p_dmo, 0, i++, &dmo_type ) )
  834.     {
  835.         p_vih = (VIDEOINFOHEADER *)dmo_type.pbFormat;
  836.         msg_Dbg( p_enc, "available input chroma: %4.4s",
  837.                  (char *)&dmo_type.subtype.Data1 );
  838.         if( !memcmp( &dmo_type.subtype, &MEDIASUBTYPE_RGB565, 16 ) )
  839.             msg_Dbg( p_enc, "-> MEDIASUBTYPE_RGB565" );
  840.         if( !memcmp( &dmo_type.subtype, &MEDIASUBTYPE_RGB24, 16 ) )
  841.             msg_Dbg( p_enc, "-> MEDIASUBTYPE_RGB24" );
  842.         DMOFreeMediaType( &dmo_type );
  843.     }
  844.     /* Setup input format */
  845.     memset( &dmo_type, 0, sizeof(dmo_type) );
  846.     dmo_type.pUnk = 0;
  847.     memset( &vih, 0, sizeof(VIDEOINFOHEADER) );
  848.     p_bih = &vih.bmiHeader;
  849.     p_bih->biCompression = VLC_FOURCC('I','4','2','0');
  850.     p_bih->biWidth = p_enc->fmt_in.video.i_width;
  851.     p_bih->biHeight = p_enc->fmt_in.video.i_height;
  852.     p_bih->biBitCount = p_enc->fmt_in.video.i_bits_per_pixel;
  853.     p_bih->biSizeImage = p_enc->fmt_in.video.i_width *
  854.         p_enc->fmt_in.video.i_height * p_enc->fmt_in.video.i_bits_per_pixel /8;
  855.     p_bih->biPlanes = 3;
  856.     p_bih->biSize = sizeof(BITMAPINFOHEADER);
  857.     vih.rcSource.left = vih.rcSource.top = 0;
  858.     vih.rcSource.right = p_enc->fmt_in.video.i_width;
  859.     vih.rcSource.bottom = p_enc->fmt_in.video.i_height;
  860.     vih.rcTarget = vih.rcSource;
  861.     vih.AvgTimePerFrame = I64C(10000000) / 25; //FIXME
  862.     dmo_type.majortype = MEDIATYPE_Video;
  863.     //dmo_type.subtype = MEDIASUBTYPE_RGB24;
  864.     dmo_type.subtype = MEDIASUBTYPE_I420;
  865.     //dmo_type.subtype.Data1 = p_bih->biCompression;
  866.     dmo_type.formattype = FORMAT_VideoInfo;
  867.     dmo_type.bFixedSizeSamples = TRUE;
  868.     dmo_type.bTemporalCompression = FALSE;
  869.     dmo_type.lSampleSize = p_bih->biSizeImage;
  870.     dmo_type.cbFormat = sizeof(VIDEOINFOHEADER);
  871.     dmo_type.pbFormat = (char *)&vih;
  872.     if( ( i_err = p_dmo->vt->SetInputType( p_dmo, 0, &dmo_type, 0 ) ) )
  873.     {
  874.         msg_Err( p_enc, "can't set DMO input type: %x", i_err );
  875.         return VLC_EGENERIC;
  876.     }
  877.     msg_Dbg( p_enc, "successfully set input type" );
  878.     /* Setup output format */
  879.     memset( &dmo_type, 0, sizeof(dmo_type) );
  880.     dmo_type.pUnk = 0;
  881.     /* Enumerate output types */
  882.     i = 0, i_selected = -1;
  883.     while( !p_dmo->vt->GetOutputType( p_dmo, 0, i++, &dmo_type ) )
  884.     {
  885.         p_vih = (VIDEOINFOHEADER *)dmo_type.pbFormat;
  886.         msg_Dbg( p_enc, "available output codec: %4.4s",
  887.                  (char *)&dmo_type.subtype.Data1 );
  888.         if( p_vih->bmiHeader.biCompression == p_enc->fmt_out.i_codec )
  889.             i_selected = i - 1;
  890.         DMOFreeMediaType( &dmo_type );
  891.     }
  892.     if( i_selected < 0 )
  893.     {
  894.         msg_Err( p_enc, "couldn't find codec: %4.4s",
  895.                  (char *)&p_enc->fmt_out.i_codec );
  896.         return VLC_EGENERIC;
  897.     }
  898.     p_dmo->vt->GetOutputType( p_dmo, 0, i_selected, &dmo_type );
  899.     ((VIDEOINFOHEADER *)dmo_type.pbFormat)->dwBitRate =
  900.         p_enc->fmt_out.i_bitrate;
  901.     /* Get the private data for the codec */
  902.     while( 1 )
  903.     {
  904.         IWMCodecPrivateData *p_privdata;
  905.         VIDEOINFOHEADER *p_vih;
  906.         uint8_t *p_data = 0;
  907.         uint32_t i_data = 0, i_vih;
  908.         i_err = p_dmo->vt->QueryInterface( (IUnknown *)p_dmo,
  909.                                            &IID_IWMCodecPrivateData,
  910.                                            (void **)&p_privdata );
  911.         if( i_err ) break;
  912.         i_err = p_privdata->vt->SetPartialOutputType( p_privdata, &dmo_type );
  913.         if( i_err )
  914.         {
  915.             msg_Err( p_enc, "SetPartialOutputType() failed" );
  916.             p_privdata->vt->Release( (IUnknown *)p_privdata );
  917.             break;
  918.         }
  919.         i_err = p_privdata->vt->GetPrivateData( p_privdata, NULL, &i_data );
  920.         if( i_err )
  921.         {
  922.             msg_Err( p_enc, "GetPrivateData() failed" );
  923.             p_privdata->vt->Release( (IUnknown *)p_privdata );
  924.             break;
  925.         }
  926.         p_data = malloc( i_data );
  927.         i_err = p_privdata->vt->GetPrivateData( p_privdata, p_data, &i_data );
  928.         /* Update the media type with the private data */
  929.         i_vih = dmo_type.cbFormat + i_data;
  930.         p_vih = CoTaskMemAlloc( i_vih );
  931.         memcpy( p_vih, dmo_type.pbFormat, dmo_type.cbFormat );
  932.         memcpy( ((uint8_t *)p_vih) + dmo_type.cbFormat, p_data, i_data );
  933.         DMOFreeMediaType( &dmo_type );
  934.         dmo_type.pbFormat = p_vih;
  935.         dmo_type.cbFormat = i_vih;
  936.         msg_Dbg( p_enc, "found extra data: %i", i_data );
  937.         p_enc->fmt_out.i_extra = i_data;
  938.         p_enc->fmt_out.p_extra = p_data;
  939.         break;
  940.     }
  941.     i_err = p_dmo->vt->SetOutputType( p_dmo, 0, &dmo_type, 0 );
  942.     p_vih = (VIDEOINFOHEADER *)dmo_type.pbFormat;
  943.     p_enc->fmt_in.i_codec = VLC_FOURCC('I','4','2','0');
  944.     DMOFreeMediaType( &dmo_type );
  945.     if( i_err )
  946.     {
  947.         msg_Err( p_enc, "can't set DMO output type: %i", i_err );
  948.         return VLC_EGENERIC;
  949.     }
  950.     msg_Dbg( p_enc, "successfully set output type" );
  951.     return VLC_SUCCESS;
  952. }
  953. /*****************************************************************************
  954.  * EncoderSetAudioType: configures the input and output types of the dmo
  955.  *****************************************************************************/
  956. static int EncoderSetAudioType( encoder_t *p_enc, IMediaObject *p_dmo )
  957. {
  958.     int i, i_selected, i_err;
  959.     unsigned int i_last_byterate;
  960.     uint16_t i_tag;
  961.     DMO_MEDIA_TYPE dmo_type;
  962.     WAVEFORMATEX *p_wf;
  963.     /* Setup the format structure */
  964.     fourcc_to_wf_tag( p_enc->fmt_out.i_codec, &i_tag );
  965.     if( i_tag == 0 ) return VLC_EGENERIC;
  966.     p_enc->fmt_in.i_codec = AOUT_FMT_S16_NE;
  967.     p_enc->fmt_in.audio.i_bitspersample = 16;
  968.     /* We first need to choose an output type from the predefined
  969.      * list of choices (we cycle through the list to select the best match) */
  970.     i = 0; i_selected = -1; i_last_byterate = 0;
  971.     while( !p_dmo->vt->GetOutputType( p_dmo, 0, i++, &dmo_type ) )
  972.     {
  973.         p_wf = (WAVEFORMATEX *)dmo_type.pbFormat;
  974.         msg_Dbg( p_enc, "available format :%i, sample rate: %i, channels: %i, "
  975.                  "bits per sample: %i, bitrate: %i, blockalign: %i",
  976.                  (int) p_wf->wFormatTag, (int)p_wf->nSamplesPerSec,
  977.                  (int)p_wf->nChannels, (int)p_wf->wBitsPerSample,
  978.                  (int)p_wf->nAvgBytesPerSec * 8, (int)p_wf->nBlockAlign );
  979.         if( p_wf->wFormatTag == i_tag &&
  980.             p_wf->nSamplesPerSec == p_enc->fmt_in.audio.i_rate &&
  981.             p_wf->nChannels == p_enc->fmt_in.audio.i_channels &&
  982.             p_wf->wBitsPerSample == p_enc->fmt_in.audio.i_bitspersample )
  983.         {
  984.             if( (int)p_wf->nAvgBytesPerSec <
  985.                 p_enc->fmt_out.i_bitrate * 110 / 800 /* + 10% */ &&
  986.                 p_wf->nAvgBytesPerSec > i_last_byterate )
  987.             {
  988.                 i_selected = i - 1;
  989.                 i_last_byterate = p_wf->nAvgBytesPerSec;
  990.                 msg_Dbg( p_enc, "selected entry %i (bitrate: %i)",
  991.                          i_selected, p_wf->nAvgBytesPerSec * 8 );
  992.             }
  993.         }
  994.         DMOFreeMediaType( &dmo_type );
  995.     }
  996.     if( i_selected < 0 )
  997.     {
  998.         msg_Err( p_enc, "couldn't find a matching ouput" );
  999.         return VLC_EGENERIC;
  1000.     }
  1001.     p_dmo->vt->GetOutputType( p_dmo, 0, i_selected, &dmo_type );
  1002.     p_wf = (WAVEFORMATEX *)dmo_type.pbFormat;
  1003.     msg_Dbg( p_enc, "selected format: %i, sample rate:%i, "
  1004.              "channels: %i, bits per sample: %i, bitrate: %i, blockalign: %i",
  1005.              (int)p_wf->wFormatTag, (int)p_wf->nSamplesPerSec,
  1006.              (int)p_wf->nChannels, (int)p_wf->wBitsPerSample,
  1007.              (int)p_wf->nAvgBytesPerSec * 8, (int)p_wf->nBlockAlign );
  1008.     p_enc->fmt_out.audio.i_rate = p_wf->nSamplesPerSec;
  1009.     p_enc->fmt_out.audio.i_channels = p_wf->nChannels;
  1010.     p_enc->fmt_out.audio.i_bitspersample = p_wf->wBitsPerSample;
  1011.     p_enc->fmt_out.audio.i_blockalign = p_wf->nBlockAlign;
  1012.     p_enc->fmt_out.i_bitrate = p_wf->nAvgBytesPerSec * 8;
  1013.     if( p_wf->cbSize )
  1014.     {
  1015.         msg_Dbg( p_enc, "found cbSize: %i", p_wf->cbSize );
  1016.         p_enc->fmt_out.i_extra = p_wf->cbSize;
  1017.         p_enc->fmt_out.p_extra = malloc( p_enc->fmt_out.i_extra );
  1018.         memcpy( p_enc->fmt_out.p_extra, &p_wf[1], p_enc->fmt_out.i_extra );
  1019.     }
  1020.     i_err = p_dmo->vt->SetOutputType( p_dmo, 0, &dmo_type, 0 );
  1021.     DMOFreeMediaType( &dmo_type );
  1022.     if( i_err )
  1023.     {
  1024.         msg_Err( p_enc, "can't set DMO output type: %i", i_err );
  1025.         return VLC_EGENERIC;
  1026.     }
  1027.     msg_Dbg( p_enc, "successfully set output type" );
  1028.     /* Setup the input type */
  1029.     i = 0; i_selected = -1;
  1030.     while( !p_dmo->vt->GetInputType( p_dmo, 0, i++, &dmo_type ) )
  1031.     {
  1032.         p_wf = (WAVEFORMATEX *)dmo_type.pbFormat;
  1033.         msg_Dbg( p_enc, "available format :%i, sample rate: %i, channels: %i, "
  1034.                  "bits per sample: %i, bitrate: %i, blockalign: %i",
  1035.                  (int) p_wf->wFormatTag, (int)p_wf->nSamplesPerSec,
  1036.                  (int)p_wf->nChannels, (int)p_wf->wBitsPerSample,
  1037.                  (int)p_wf->nAvgBytesPerSec * 8, (int)p_wf->nBlockAlign );
  1038.         if( p_wf->wFormatTag == WAVE_FORMAT_PCM &&
  1039.             p_wf->nSamplesPerSec == p_enc->fmt_in.audio.i_rate &&
  1040.             p_wf->nChannels == p_enc->fmt_in.audio.i_channels &&
  1041.             p_wf->wBitsPerSample == p_enc->fmt_in.audio.i_bitspersample )
  1042.         {
  1043.             i_selected = i - 1;
  1044.         }
  1045.         DMOFreeMediaType( &dmo_type );
  1046.     }
  1047.     if( i_selected < 0 )
  1048.     {
  1049.         msg_Err( p_enc, "couldn't find a matching input" );
  1050.         return VLC_EGENERIC;
  1051.     }
  1052.     p_dmo->vt->GetInputType( p_dmo, 0, i_selected, &dmo_type );
  1053.     i_err = p_dmo->vt->SetInputType( p_dmo, 0, &dmo_type, 0 );
  1054.     DMOFreeMediaType( &dmo_type );
  1055.     if( i_err )
  1056.     {
  1057.         msg_Err( p_enc, "can't set DMO input type: %x", i_err );
  1058.         return VLC_EGENERIC;
  1059.     }
  1060.     msg_Dbg( p_enc, "successfully set input type" );
  1061.     return VLC_SUCCESS;
  1062. }
  1063. /*****************************************************************************
  1064.  * EncOpen: open dmo codec
  1065.  *****************************************************************************/
  1066. static int EncOpen( vlc_object_t *p_this )
  1067. {
  1068.     encoder_t *p_enc = (encoder_t*)p_this;
  1069.     encoder_sys_t *p_sys = NULL;
  1070.     IMediaObject *p_dmo = NULL;
  1071.     HINSTANCE hmsdmo_dll = NULL;
  1072. #ifdef LOADER
  1073.     ldt_fs_t *ldt_fs = Setup_LDT_Keeper();
  1074. #else
  1075.     /* Initialize OLE/COM */
  1076.     CoInitialize( 0 );
  1077. #endif /* LOADER */
  1078.     if( LoadDMO( p_this, &hmsdmo_dll, &p_dmo, &p_enc->fmt_out, VLC_TRUE )
  1079.         != VLC_SUCCESS )
  1080.     {
  1081.         hmsdmo_dll = 0;
  1082.         p_dmo = 0;
  1083.         goto error;
  1084.     }
  1085.     if( p_enc->fmt_in.i_cat == VIDEO_ES )
  1086.     {
  1087.         if( EncoderSetVideoType( p_enc, p_dmo ) != VLC_SUCCESS ) goto error;
  1088.     }
  1089.     else
  1090.     {
  1091.         if( EncoderSetAudioType( p_enc, p_dmo ) != VLC_SUCCESS ) goto error;
  1092.     }
  1093.     /* Allocate the memory needed to store the decoder's structure */
  1094.     if( ( p_enc->p_sys = p_sys =
  1095.           (encoder_sys_t *)malloc(sizeof(encoder_sys_t)) ) == NULL )
  1096.     {
  1097.         msg_Err( p_enc, "out of memory" );
  1098.         goto error;
  1099.     }
  1100.     p_sys->hmsdmo_dll = hmsdmo_dll;
  1101.     p_sys->p_dmo = p_dmo;
  1102. #ifdef LOADER
  1103.     p_sys->ldt_fs = ldt_fs;
  1104. #endif
  1105.     /* Find out some properties of the inputput */
  1106.     {
  1107.         uint32_t i_size, i_align, dum;
  1108.         if( p_dmo->vt->GetInputSizeInfo( p_dmo, 0, &i_size, &i_align, &dum ) )
  1109.             msg_Err( p_enc, "GetInputSizeInfo() failed" );
  1110.         else
  1111.             msg_Dbg( p_enc, "GetInputSizeInfo(): bytes %i, align %i, %i",
  1112.                      i_size, i_align, dum );
  1113.     }
  1114.     /* Find out some properties of the output */
  1115.     {
  1116.         uint32_t i_size, i_align;
  1117.         p_sys->i_min_output = 0;
  1118.         if( p_dmo->vt->GetOutputSizeInfo( p_dmo, 0, &i_size, &i_align ) )
  1119.         {
  1120.             msg_Err( p_enc, "GetOutputSizeInfo() failed" );
  1121.             goto error;
  1122.         }
  1123.         else
  1124.         {
  1125.             msg_Dbg( p_enc, "GetOutputSizeInfo(): bytes %i, align %i",
  1126.                      i_size, i_align );
  1127.             p_sys->i_min_output = i_size;
  1128.         }
  1129.     }
  1130.     /* Set output properties */
  1131.     p_enc->fmt_out.i_cat = p_enc->fmt_out.i_cat;
  1132.     if( p_enc->fmt_out.i_cat == AUDIO_ES )
  1133.         date_Init( &p_sys->end_date, p_enc->fmt_out.audio.i_rate, 1 );
  1134.     else
  1135.         date_Init( &p_sys->end_date, 25 /* FIXME */, 1 );
  1136.     return VLC_SUCCESS;
  1137.  error:
  1138.     if( p_dmo ) p_dmo->vt->Release( (IUnknown *)p_dmo );
  1139.     if( hmsdmo_dll ) FreeLibrary( hmsdmo_dll );
  1140. #ifdef LOADER
  1141.     Restore_LDT_Keeper( ldt_fs );
  1142. #else
  1143.     /* Uninitialize OLE/COM */
  1144.     CoUninitialize();
  1145. #endif /* LOADER */
  1146.     if( p_sys ) free( p_sys );
  1147.     return VLC_EGENERIC;
  1148. }
  1149. /****************************************************************************
  1150.  * Encode: the whole thing
  1151.  ****************************************************************************/
  1152. static block_t *EncodeBlock( encoder_t *p_enc, void *p_data )
  1153. {
  1154.     encoder_sys_t *p_sys = p_enc->p_sys;
  1155.     CMediaBuffer *p_in;
  1156.     block_t *p_chain = NULL;
  1157.     block_t *p_block_in;
  1158.     uint32_t i_status;
  1159.     int i_result;
  1160.     mtime_t i_pts;
  1161.     if( p_sys == NULL )
  1162.     {
  1163.         if( EncOpen( VLC_OBJECT(p_enc) ) )
  1164.         {
  1165.             msg_Err( p_enc, "EncOpen failed" );
  1166.             return NULL;
  1167.         }
  1168.         p_sys = p_enc->p_sys;
  1169.     }
  1170.     if( !p_data ) return NULL;
  1171.     if( p_enc->fmt_out.i_cat == VIDEO_ES )
  1172.     {
  1173.         /* Get picture data */
  1174.         int i_plane, i_line, i_width, i_src_stride;
  1175.         picture_t *p_pic = (picture_t *)p_data;
  1176.         uint8_t *p_dst;
  1177.         int i_buffer = p_enc->fmt_in.video.i_width *
  1178.             p_enc->fmt_in.video.i_height *
  1179.             p_enc->fmt_in.video.i_bits_per_pixel / 8;
  1180.         p_block_in = block_New( p_enc, i_buffer );
  1181.         /* Copy picture stride by stride */
  1182.         p_dst = p_block_in->p_buffer;
  1183.         for( i_plane = 0; i_plane < p_pic->i_planes; i_plane++ )
  1184.         {
  1185.             uint8_t *p_src = p_pic->p[i_plane].p_pixels;
  1186.             i_width = p_pic->p[i_plane].i_visible_pitch;
  1187.             i_src_stride = p_pic->p[i_plane].i_pitch;
  1188.             for( i_line = 0; i_line < p_pic->p[i_plane].i_visible_lines;
  1189.                  i_line++ )
  1190.             {
  1191.                 p_enc->p_vlc->pf_memcpy( p_dst, p_src, i_width );
  1192.                 p_dst += i_width;
  1193.                 p_src += i_src_stride;
  1194.             }
  1195.         }
  1196.         i_pts = p_pic->date;
  1197.     }
  1198.     else
  1199.     {
  1200.         aout_buffer_t *p_aout_buffer = (aout_buffer_t *)p_data;
  1201.         p_block_in = block_New( p_enc, p_aout_buffer->i_nb_bytes );
  1202.         memcpy( p_block_in->p_buffer, p_aout_buffer->p_buffer,
  1203.                 p_block_in->i_buffer );
  1204.         i_pts = p_aout_buffer->start_date;
  1205.     }
  1206.     /* Feed input to the DMO */
  1207.     p_in = CMediaBufferCreate( p_block_in, p_block_in->i_buffer, VLC_TRUE );
  1208.     i_result = p_sys->p_dmo->vt->ProcessInput( p_sys->p_dmo, 0,
  1209.        (IMediaBuffer *)p_in, DMO_INPUT_DATA_BUFFERF_TIME, i_pts * 10, 0 );
  1210.     p_in->vt->Release( (IUnknown *)p_in );
  1211.     if( i_result == S_FALSE )
  1212.     {
  1213.         /* No output generated */
  1214. #ifdef DMO_DEBUG
  1215.         msg_Dbg( p_enc, "ProcessInput(): no output generated "I64Fd, i_pts );
  1216. #endif
  1217.         return NULL;
  1218.     }
  1219.     else if( i_result == DMO_E_NOTACCEPTING )
  1220.     {
  1221.         /* Need to call ProcessOutput */
  1222.         msg_Dbg( p_enc, "ProcessInput(): not accepting" );
  1223.     }
  1224.     else if( i_result != S_OK )
  1225.     {
  1226.         msg_Dbg( p_enc, "ProcessInput(): failed: %x", i_result );
  1227.         return NULL;
  1228.     }
  1229. #if DMO_DEBUG
  1230.     msg_Dbg( p_enc, "ProcessInput(): success" );
  1231. #endif
  1232.     /* Get output from the DMO */
  1233.     while( 1 )
  1234.     {
  1235.         DMO_OUTPUT_DATA_BUFFER db;
  1236.         block_t *p_block_out;
  1237.         CMediaBuffer *p_out;
  1238.         p_block_out = block_New( p_enc, p_sys->i_min_output );
  1239.         p_block_out->i_buffer = 0;
  1240.         p_out = CMediaBufferCreate(p_block_out, p_sys->i_min_output, VLC_FALSE);
  1241.         memset( &db, 0, sizeof(db) );
  1242.         db.pBuffer = (IMediaBuffer *)p_out;
  1243.         i_result = p_sys->p_dmo->vt->ProcessOutput( p_sys->p_dmo,
  1244.                                                     0, 1, &db, &i_status );
  1245.         if( i_result != S_OK )
  1246.         {
  1247.             if( i_result != S_FALSE )
  1248.                 msg_Dbg( p_enc, "ProcessOutput(): failed: %x", i_result );
  1249. #if DMO_DEBUG
  1250.             else
  1251.                 msg_Dbg( p_enc, "ProcessOutput(): no output" );
  1252. #endif
  1253.             p_out->vt->Release( (IUnknown *)p_out );
  1254.             block_Release( p_block_out );
  1255.             return p_chain;
  1256.         }
  1257.         if( !p_block_out->i_buffer )
  1258.         {
  1259. #if DMO_DEBUG
  1260.             msg_Dbg( p_enc, "ProcessOutput(): no output (i_buffer_out == 0)" );
  1261. #endif
  1262.             p_out->vt->Release( (IUnknown *)p_out );
  1263.             block_Release( p_block_out );
  1264.             return p_chain;
  1265.         }
  1266.         if( db.dwStatus & DMO_OUTPUT_DATA_BUFFERF_TIME )
  1267.         {
  1268. #if DMO_DEBUG
  1269.             msg_Dbg( p_enc, "ProcessOutput(): pts: "I64Fd", "I64Fd,
  1270.                      i_pts, db.rtTimestamp / 10 );
  1271. #endif
  1272.             i_pts = db.rtTimestamp / 10;
  1273.         }
  1274.         if( db.dwStatus & DMO_OUTPUT_DATA_BUFFERF_TIMELENGTH )
  1275.         {
  1276.             p_block_out->i_length = db.rtTimelength / 10;
  1277. #if DMO_DEBUG
  1278.             msg_Dbg( p_enc, "ProcessOutput(): length: "I64Fd,
  1279.                      p_block_out->i_length );
  1280. #endif
  1281.         }
  1282.         if( p_enc->fmt_out.i_cat == VIDEO_ES )
  1283.         {
  1284.             if( db.dwStatus & DMO_OUTPUT_DATA_BUFFERF_SYNCPOINT )
  1285.                 p_block_out->i_flags |= BLOCK_FLAG_TYPE_I;
  1286.             else
  1287.                 p_block_out->i_flags |= BLOCK_FLAG_TYPE_P;
  1288.         }
  1289.         p_block_out->i_dts = p_block_out->i_pts = i_pts;
  1290.         block_ChainAppend( &p_chain, p_block_out );
  1291.     }
  1292. }
  1293. /*****************************************************************************
  1294.  * EncoderClose: close codec
  1295.  *****************************************************************************/
  1296. void EncoderClose( vlc_object_t *p_this )
  1297. {
  1298.     encoder_t *p_enc = (encoder_t*)p_this;
  1299.     encoder_sys_t *p_sys = p_enc->p_sys;
  1300.     if( !p_sys ) return;
  1301.     if( p_sys->p_dmo ) p_sys->p_dmo->vt->Release( (IUnknown *)p_sys->p_dmo );
  1302.     FreeLibrary( p_sys->hmsdmo_dll );
  1303. #ifdef LOADER
  1304. #if 0
  1305.     Restore_LDT_Keeper( p_sys->ldt_fs );
  1306. #endif
  1307. #else
  1308.     /* Uninitialize OLE/COM */
  1309.     CoUninitialize();
  1310. #endif
  1311.     free( p_sys );
  1312. }