Unos comentarios.
Yo creo que virtual dub trabaja bien con archivos comprimidos con xvid, de hecho puedes editar ciertas cosas sin necesidad de recomprimir, lo que es una excelente opción.
El problema puede ser el codec interno
Cita: lo transformé a avi con el Super de Erightsoft
que está usando esta aplicación.
El codec no oficial, pero sí el bueno está en la página directa de xvid.org.
Como es código abierto probablemente hicieron una implementación defectuosa.
Si tu aplicación Super de Erightsoft tiene opción de convertir sin compresión podrías revisar si no es muy largo, si te sirve y después conviertes a xvid dentro de virtual dub, que sí ocupa el codec original instalado, no una implementación de menor calidad.
En dado caso podrías buscar otro convertidor de flv a avi, que haga mejor las cosas.
Otra opción es que no reconviertas los flv. Yo hace tiempo que no los muevo y los veo con un player de flv, puede ser Jet audio o VLC player, ambos gratuitos. (Jet audio no abre todos los flv)