Todavia no me queda claro, voy a dar por hecho que quieres montar tu propio server, por diversion, por la experiencia o por algo parecido y no por ahorrar $$$.
En tal caso necesitas instalarte un alguna distribucion de linux que para el caso que no tengas conocimientos previos, redhat (
http://fedora.redhat.com/ ) te iria muy bien.
Tambien lo puedes hacer en windows con algun paquete tipo Foxserv (creo que se baja desde sourceforge) o similar, se instala con 3 clicks, pero no creo que te deje nada como experiencia.
Si te interesa la primera opcion solo pregunta y te orientamos sobre el tema, no te vas a arrepentir.
Saludos.