Apache, PHP, MySQL.
Una vez los tengas instalados, tendrás el servidor funcionando.
Dependiendo de la distribución que uses, la raíz del sitio irá en un lugar o en otro (creo recordar que por defecto es /var/www) y quizás tengas que configurar alguna cosilla.
Pero sí, una vez que esos tres componentes funcionen, podés instalar cualquier cosa de la misma forma que en Windows (descomprimís el contenido del paquete en la carpeta raíz del sitio, y vas con el navegador a
http://localhost)
Saludos y suerte