Las cabeceras de la funcion mail() .. son las descritas en las RFC acerca del los formatos MIME y SMTP.
Es lógico que no lo encuentres en un manual de PHP (ni en el oficial de www.php.net).
Aqui te dejo una traduccion de (algunas) RFC oficiales:
<a href='ir.asp?http://www.rfc-es.org/descargas.php' target='_blank'>http://www.rfc-es.org/descargas.php...</a>
y mas el listado completo oficial en:
<a href='ir.asp?http://rfc.net/rfc-index.html' target='_blank'>http://rfc.net/rfc-index.html...</a>
En concreto revisa las RFC:
2045, 2046, 2047 (acerca de MIME)
821 (y mas q hay) sobre SMTP.
Un saludo,