Hay plugins que te ayudan en la caché, modificando el htaccess, para hacer que las siguientes visitas tarden menos, ya que ya tienen los ficheros en local.
Hay que trabajar también la parte del tamaño de los ficheros, ya que normalmente estos plugins ayudan mucho en las segundas (o posteriores) cargas, pero la primera carga, que es la primera vez que el usuario visita el sitio (o cuando borra los archivos temporales del navegador) es MUY importante.
Esto puedes hacerlo modificando imágenes, uniendo js y css para que hayan menos peticiones a ficheros, quitando caracteres no necesarios (saltos de línea, etc, ...), usando precompiladores de css como sass o less, eliminando plugins innecesarios (o sustotuibles por cambios en el código), etc... En definitiva, trabajando el WPO de los sitios web.
Con respecto a los plugins de caché de WP, mírate
w3totalcaché,
wp super caché, etc.
Supongo que lo que comentas del header son las cabeceras del tiempo de vida, como max-age, ...
Código Apache:
Ver originalHTTP/1.1 200 OK
Server: Apache
X-Rack-Cache: miss
ETag: "e6811cdbcedf972c5e8105a89f637d39-gzip"
Status: 200
Content-Type: text/html; charset=utf-8
Expires: Mon, 29 Apr 2013 21:44:55 GMT
Cache-Control: max-age=0, no-cache, no-store
Pragma: no-cache
Date: Mon, 29 Apr 2013 21:44:55 GMT
Saludos