Hola
Si quieres dejarlas en AVI, me temo que no es posible hacer eso hoy en día, salvo para un PC, pero no hay nada que funcione en un DVD doméstico (sé que suena raro... pero es así).
La solución es la que comentas, pasarlas a MPG y usar TMPGEnc DVD Author o un programa parecido. Es normal que se pierda calidad ya que para que un MPG tenga la misma calidad que un AVI se suele necesitar unas tres veces su tamaño.