Tienes de dos, usar el formato WMV, o el FLV... en ambos casos te permiten seleccionar el tipo de transmisión para lo que los vas a usar, y ajustan el bitrate manteniendo la calidad hasta donde se puede... Y para no perder calidad puedes bajar la cantidad de cuadros por segundo
(hasta un límite)