Madre de Dios...
Dicen que a punta de tropezones se aprende a levantar los pies... Tarde o temprano el usuario aprende que no se trata de conseguir lo "más barato" sino el servicio y el conocimiento, que no se obtienen de la noche a la mañana.
Pero bueno, para que no todo sea sermón: bájate un cliente SSH como por ejemplo Putty, búscalo en el súper-Google. Así podrás acceder vía SSH.
Ah, y luego cruza los dedos para que todo te funcione a la primera y que no vayan a comprometer la seguridad de tu servidor... pues un VPS para efectos prácticos es un servidor de todas maneras.
Saludos,