Tu desinstalastes la versión anterior? ..
Revisa este tutorial:
http://www.php.net/manual/en/install...ll.unix.apache
También fijate o decide que tipo de instalación de PHP vas hacer .. Al parecer por los comandos que indicas vas a confirgurar PHP como CGI. Si es así .. y antes tenías Apache como "módulo" .. tal vez tengas ahí el conflicto (Apache está usando la anterior versión de PHP como "módulo" (shared) y ahora estás instalado PHP como CGI (static)).
Un saludo,