Claro, el memtest es un programa que checa la memoria, pero no corre desde windows. Una vez que bajas el programa ejecutas el programa que te crea un disco de arranque (creo que es un archivo .BAT)
Ese programa te crea el disco de arranque; debes de insertarlo y reiniciar la maquina, esta debe de arrancar con el disquete (si no lo hace revisa el BIOS) y automaticamente inicia el test.
Ojo, el test tarda varias horas, pero es ciclico, terminado una vez, reinicia de manera infinita, para salir es necesario apagar la maquina. Yo por lo general lo dejo 2 o 3 pasadas maximo.
Aqui puedes encontrar unos screenshots de como se ve el programa en funcionamiento
http://www.memtest.org/#screen