PHP y Mails

[Cluster]

PHP usa el MTA que definas en su configuración php.ini

Concretamente si quieres usar sendmail .. lo indicas en la directiva:
sendmail_path = .. donde tengas tu sendmail

Si quieres usar SMTP directo u otro servidor SMTP (o MTA en general) que tal vez no esté corriendo en tu servidor .. puedes indicar la IP de donde tengas tu servidor SMTP en la directiva:

SMTP = (olvidate que hace un comentario para Windows .. funciona igual en Linux)

El detalle es que si usas ese método, mail() de PHP este no permite autentificación (que es lo normal .. usar).

Ahora .. sobre tus problemas concretos:
1) Revisa en tu php.ini la ruta hacia tu sendmail que sea correcta.
2) No indicas si al probar tus ejemplos (que no nos indicas ni el código de los mismos) que error obtienes si es que lo obtienes.
3) Si dices usar tu própio servidor de correo (MTA) .. revisa sus log´s de activida y mira si el e-mail llega a el desde PHP .. (si pasó el punto 2 sin error). Por qué PHP en sí con su función mail() no envia el e-mail a su destinatario sino que sólo lo entrega a tu MTA (sendmail en tu caso si es que lo usas) y este hace su resto .. los problemas que tenga sendmail ya son de sendmail no de PHP ..

Un saludo,