Hola, ¿Cómo estás?
Bueno, primero tengo que decir que deberías instalar un buen pack de códecs como
K-Lite Codec Pack, puede ser que tengas una versión anterior del códec utilizado por el programa que mencionas y no tenga la posibilidad de procesar y comprimir para lograr un tamaño menor de archivo.
Free Screen To Video es una solución alternativa muy confiable para lo que buscas. Guarda el vídeo en distintos formatos y tiene otras opciones de edición simples muy buenas.
Espero te sirvan.
Saludos.