depende de donde lo subas en tu servidor... ej:
tu página es
http://www.tusitio.com/index.html
tu pdf está en
http://www.tusitio.com/carpeta/archivo.pdf
En el html podés poner dos tipos de ruta (que en la práctica, funcionan en la misma forma). La
ruta absoluta sería poner toda la dirección completa, osea
http://www...../archivo.pdf . La
ruta relativa sería relativa a donde está tu html. En este ejemplo quedaría "/carpeta/archivo.pdf"
PD: tené cuidado de no hacer enlaces del tipo "C://.." porque de esa forma estarías enlazando a archivos que se encuentran en tu PC, por lo que el resto de las personas no los van a poder ver.