Dos cosas: primero mira el tamaño del archivo MPG que ha resultado. Si es del tamaño que esperabas, el fallo está en que al grabar con Nero Burning ROM tienes que desmarcar una casilla que pone "Crear CD conforme al estándar". Pero si el tamaño no es el que esperabas, el fallo lo tienes al convertir con el tmpgenc (me atrevería a decir que el fallo es que, aunque has bajado el bitrate, no has cambiado el stream type a "VideoCD non standard")
