Si lo quieres hacer con php, lo primero que tienes que hacer es modificar la extensión, tiene que ser php.
Para lo que buscas, la función que te valdrá será
filemtime, que te da la fecha de la última modificación de un fichero. Sólo tienes que recorrer el directorio fotos y ver cuál de los ficheros tiene un mtime menor. El fichero que tenga el mtime menor será la foto que más recientemente ha sido modificada (o creada), luego sólo tienes que mostrarla en el href del tag <img>.
Espero que te sirva, un saludo.