La imagen la tienes que poner entre las etiquetas de la liga. Para que la propia imagen sea un link. Y en el href de la liga pones el codigo de javascript, que indica que vas a abrir una nueva ventana. Esa ventana esta direccionada a una página llamada popup.asp y en la cual recibe una variable enviado por el metodo get llamado fotografia, de esa forma tienes la direccion de donde debes de obtener la imagen para ponerla grande.
En la pagina de popup lo unico que tienes que hacer es recibir la variable y poner una imagen que despliegue el valor de la variable
Espero te sirva.
Lo que quieres es similar a esta página
http://www.mundovid.com
Dale clic en cualquier imagen
Si necesitas mas ayuda avisame
Saludos