Es un AVI normalito, con la siguiente configuración de tmpgenc no deberías tener ningún problema:
www.mundodivx.com/mpeg/tmpgenc.php?p=2
Una vez configurado con los ffdshow y el lame, y habiendo desactivado el codec mp3 en los ffdshow tal como pone ahi, vuelve a probar. Yo haría una prueba de un par de minutos, lo pararía, vería el resultado, y si funciona entonces ya lo vuelvo a empezar desde el principio.
Suerte