Es que el VCD estandar tiene un bitrate de video de 1150 y uno de audio de 224, por eso "aumenta". Estos bitrate hacen que cada minuto de VCD ocupe 10MB, por eso si tu pelicula ocupó 1.4GB quiere decir que durará unos 140 minutos, aunque el AVI ocupe sólo 700 MB (da igual lo que ocupe el AVI, sólo importa lo que dure). Lo que tú quieres hacer se llama CVCD.
Como tú dices bastaría bajar el bitrate para que ocupe menos. En principio si pones el mismo bitrate de video y audio que trae el AVI, el tamaño del MPG debe ser parecido. Pero recuerda que grabando como cd de video entran hasta 800 MB por CD, por tanto si tienes un AVI de 700 MB, lo que puedes hacer es que al bitrate de video que trae el avi, lo aumentas un poco y usas ese para hacer el MPG, y el del audio lo dejas como venga en el AVI.
Además el tmpgenc, si usas el asistente, en la última pantalla de éste te dice el tamaño que ocupará el MPG, puedes jugar con el bitrate y ver de qué tamaño quedará y así ajustarlo más o menos a los 800 MB que entran (aunque por seguridad coge un poco menos, unos 785 MB).
Luego para grabarlo en Nero, se hace como CD de Video, desmarcando la casilla de "Crear CD conforme al estandar", y usando el sistema PAL si el MPG es de 25 fps o NTSC si es de 23.976 o 29.976 fps.
Por cierto convendría que la primera vez lo grabaras en un CD-RW de 80 minutos, lo digo pq el tmpgenc tiene un bug con los CVCD que hace que luego no entre la grabación en Nero, entonces yo haría la primera prueba en un CD-RW y si me lo graba bien, pues ya lo grabo en un CD-R. Si lo graba mal y da error al final de la grabación, te tocará hacer los CVCD con otro programa, recomendado el Canopus Procoder
Suerte
