Creo que te entendí.
 
Primero que nada, generas los links. de la A a la Z pero aprovechas a enviar la letra como una variable. (mostrar.php?letra=A)
Cada uno te lleva a la pagina donde mostras los resultados.
En esa pagina, lees la letra ($_GET_VARS["letra"]) y haces el select.  
 Código PHP:
    <?
$sql = mysql_connect("Host", "User","password"); // conexion con el seridor
mysql_select_db("base de datos",$sql); // seleccionar Base de Datos
 
$busqueda = "SELECT * FROM tabl WHERE nombre LIKE '". $letra ." %'"; 
$res = mysql_query($busqueda); //ejecuta la sentencia en Mysql
 
?>    
  LIKE acepta comodines, por ejemplo, podrías filtrar Nombres que comienzen con A y terminen con R  (
'A%R') o los que terminen con O (
'%O') 
Podés conseguir mas informacion sobre el LIKE o mas comandos SQL en 
http://www.1keydata.com/sql/sqllike.html  
Suerte!! 
pbaldovi