en las faqs hay un script que hace eso....
Código:
<script language="javascript">
//script por Tunait
var ventana
var cont=0
var titulopordefecto = "Imagen" //texto por defecto a mostrar en la barra de título en caso de omitir el argumento titulo
function afoto(cual,titulo)
{
if(cont==1){ventana.close();ventana=null}
if(titulo==null){titulo=titulopordefecto}
ventana=window.open('','ventana','resizable=yes,sc rollbars=no')
ventana.document.write('<html><head><title>' + titulo + '</title></head><body style="overflow:hidden" marginwidth="0" marginheight="0" topmargin="0" bottommargin="0" leftmargin="0" rightmargin="0" scroll="no" onUnload="opener.cont=0"><img src="imagenes/' + cual + '" onLoad="opener.redimensionar(this.width, this.height)">')
ventana.document.close()
cont++
}
function redimensionar(ancho,alto)
{
ventana.resizeTo(ancho+12,alto+28)
ventana.moveTo((screen.width-ancho)/2,(screen.height-alto)/2) //centra la ventana. Eliminar si no se quiere centrar el popup
}
</script>
y lo llamas asi:
<a href="#" onClick="afoto('nombrefoto.jpg','titulodelpopup'); return false">
Espero que te sirva saludos y suerte