Aunque un avi puede ser también muy pequeño y de gran calidad. Eso depende de los codecs que tengas instalados en tu compu.
Baja este que es uno de los mejores: "Xvid"
www.xvid.org/ e instálalo.
No todos los programas lo pueden manejar, Reivisa si tu programa de captura tiene alguna opción para escoger el codec. En dado caso que no, lo capturas y luego lo conviertes ya sea con "Virtual Dub"
www.virtualdub.org o con "Super"
www.erightsoft.com/SUPER.html.