No se necesita un servidor a no ser que vayas a hacer aplicaciones web o cliente/servidor. En ese sentido tienes que instalarte como minimo el kit de desarrollo (JDK) y luego lo que necesites segun el programa que quieras hacer: Librerias, dirvers de acceso a BDD, servidores para aplicaciones web...
Te recomendaria empezar por lo básico:
http://programacion.com/java/tutoriales/New2Java/
y luego segun lo que quieras hacer, puedes buscar mas cosas. Por ejemplo aqui:
http://www.greeneyed.org/guide/java/
Un saludo