Yo empezaria por ver que no sea problema de la placa de video, si es dedicada y aparte tenes el video integrado en el mother, proba con el integrado, sacando la dedicada, limpia las memorias, los coolers. Si tenes la posibilidad de probar el disco en otra maquina hacelo, y ahi te sacas la duda q sea el S.O..
Si probas el disco en otra maquina y pasa lo mismo, ahi ves de reinstalar el S.O. Hace las pruebas y comenta a ver que paso.