Yo uso un Pentium 233Mhz, 128 de RAM y un disco de 2GB, Windows98 y anda de 10.
Lo tengo instalado con PHPTriad (que te instala todo de una sola vez), pero existen varios instaladores muy faciles, tambien puedes hacerlo por separado, aunque se complica un poco.
Mira en el foro, los 3 primeros temas son de ayuda, leelos y encontraras de todo para programar PHP.
Te aconsejo que leas:
http://www.rinconastur.net/ y vayas a la seccion informatica/Memoria de un aprendiz de PHP, esta muy bueno, simple y a mi me ha servido muucho.