El uso de memoria es generalmente normal, esto debido a que Linux utiliza una gran cantidad de memoria para cache y buffers, mientras que no haya swap o el swap sea muy pequeño todo estará bien.
Concuerdo contigo, tienes un potente servidor que debe manejar la carga correctamente, si utilizas cPanel o algún otro panel probablemente ya incluye o tiene listo para instalar algún tipo de cache.
Si quieres compilarlo tu mismo (no es nada difícil) las instrucciones están aquí
http://eaccelerator.net/wiki/InstallFromSource
Otro comando que deberías postear es la salida de iostat si el comando aparece como no instalado, puedes instalar el paquete
sysstat yum sysstat install # suponiendo que estes en Centos/fedora/RedHat