Debes hacer pruebas con la calidad de la captura, si eliges un nivel alto puede suceder eso, mala calidad, y si es muy bajo también.
No recuerdo si ese soft que usas tiene presets de captura, de ser así selecciona uno medio-bajo. Si te deja hacerle ajustes manuales, selecciona un formato mpeg1 con bitrate de unos 1000 para empezar y prueba
