El tmpgenc requiere que le hagas una pequeña configuración para que funcione bien, y por otro lado hay algunos formatos de audio que no soporta como son el AC3 y OGG... en estos casos hay que hacer una preparación previa del archivo.
Te recomiendo leer este manual, es todo lo que hay que saber sobre tmpgenc
www.mundodivx.com/mpeg/tmpgenc.php
Saludos