He avanzado algo, he usado uno de los códigos que aporta ramonjosegn que en principio no entendía muy bien y ya he pillado la idea.
 
En el documento HTML he puesto el link de la siguiente forma:
<a href="descargar.php?doc=documento.pdf">Pincha para descargar</a> 
y aparte un documento php llamado descargar.php con el codigo: 
<?php  
    $sUrlDescargas = ""; //Introducir directorio de descargas
    $vBarras = array("/", "\\");
    $sDocumento = str_replace($vBarras, "_", $sUrlDescargas.$_GET["doc"]);  
    header("Content-type: application/force-download");
    header("Content-Disposition: filename=".basename($_GET["doc"]));
    header("Content-Transfer-Encoding: binary");
    //header("Content-Length: ".filesize(sDocumento));  
    if (!@readfile($sDocumento))
        echo "Ha sido imposible descargar el fichero"; 
?> 
Lo he subido al server (en mi pc no funcionaba) y con Mozilla Firefox funciona bien, saca la ventana de "Guardar como..." pero con IE sigue abriendome el documento para leerlo 
 
 
  
Alguien sabe que puede pasar? 
Gracias y un saludo