El problema es la aceleración de vídeo de la tarjeta gráfica, si la desactivas te funcionará. Pero como no es recomendable hacerlo, lo mejor es que te busques un reproductor que tenga la opción de capturar imagen. Te recomiendo el Media Player Classic porque con él reproduces cualquier cosa y por tanto puedes capturar cualquier cosa
Saludos
