Si quieres calidad y nada más que calidad, hazte con DVD#VCD y el Cinema Craft Encoder 2.50. Este último es el codificador a MPEG-2 que utiliza el primer programa. La forma de usarlos puedes verla aqui:
www.mundodivx.com/mpeg/dvd2mpg.php
En tu caso... configurale un bitrate de como mínimo 6000 Kbps, aunque si no te importa el tamaño hazlo mejor a 8000 Kbps, activa los filtros temporal, espacial y de videos entrelazados, le configuras como poco 3 pasadas con el CCE, y lo comprimes. En lo de los filtros no estoy muy seguro de si es recomendable activar todos, pero al menos el de video entrelazado sí ya que supongo que el AVI te lo entrega AE ya entrelazado, para los otros puedes hacer pruebas activandolos o desactivandolos.
No vas a conseguir mejor calidad que con este método, créeme