Eso se hace con JavaScript.
escribe esto:
<script type="text/javascript" language="javascript">
function popup(url,title,width,height) {
var width = 'width='+width;
var height = 'height='+height
window.open(url,title,'width,height,scrollbars=no, resizable=no,status=no,location=no,toolbar=no');
};
</script>
y en el link de la foto ponle como destino '#' y agregale el atributo onclick="popup('direccion de la pagina a abrir', 'titulo', 'altura', 'ancho')"
asi: <a href="#" onclick="popup('1.html','foto 1' , '400' , '400'); return false;">
