la verdad esta un poco dificil lo que pides ya que no es un solo programa son varios yo te recomendaria que vieras la documentacion de cada uno , normalmente hay un hoeto entre la misma documentacion, eso tambien depende de el programa que uses para el trabajo en si
como por ejemplo :
FTP = > ProFTPD
SMTP => PostFix,SendMail,Qmail,exim
POP => Cyrus,courier
dominios(dns) => BIND
compartir archivos => Samba
web => apache
entre otros te recomiendo que busques documentacion sobre ellos , google en eso es tu mejor aliado
, aver con cual te llevas mejor
Saludos