Así funciona el TMPGEnc, llama el video y el audio que en ese caso es el mismo archivo de video, aunque te da la opción de seleccionar otro audio de origen.
Es raro que te lo dejara sin audio. ¿Estas usando los presets? (el wizard o asistente)
Y efectivamente, si metes tus peliculas así nada más no te lo va a reconocer el DVD, deben ser mpeg, no avi, aunque algunos reproductores modernos ya lo aceptan, te recomiendo la conversión a mpeg, intenta con el nero, pero va a quemar el disco y si te lo deja sin audio, pues, habrá muerto un disco