Eso es un problema de codecs. Seguramente lo solucionarás si configuras tmpgenc según esto:
www.mundodivx.com/mpeg/tmpgenc.php?p=2
Si no, desinstala todos tus codecs y packs de codecs desde el agregar/quitar programas, reinicia, y te instalas los básicos:
http://codecs.mundodivx.org