Se me ocurren 4 cosas:
1.- La memoria RAM
2.- Que el monitor no aguante la resolución que le hayas puesto.
3.- La tarjeta de video
4.- El monitor
Prueba con otra memoria RAM, o quitandole una (en caso de que use dos) o simplemente verifica que esté bien puesta.
Si no es la RAM entonces enciende la pc, presiona F8 de inmediato y varias veces, y cuando te salgan las opciones de acceso a windows del modo seguro, y modo seguro con funciones de red, etc... utiliza la que dice algo asi como: Compatibilidad con VGA, o algo asi, no recuerdo bien...
Si logras entrar así, baja la resolución, reinicia y prueba.
En el caso de la tarjeta de video, obviamente necesitarías probar con otra y de igual modo si se trata del monitor, aunque si fuera este último, pudiera ser solamente el cable VGA que esté dañado, o quizá se le rompió un pin..
En fin, posibles causas son muchas, pero tambien hay muchas posibles soluciones, solo tienes que ir descartando...
