Hola,
¿Te servidor SMTP requiere autentificacion? Porque si requiere autentificacion, mail() y PHP no pueden cominicarse con un SMTP que requiera autentificacion.
Podrias usar una clase como phpmailer() (
http://phpmailer.sourceforge.net) en lugar de mail() y configurarlo para que use ese SMTP con el usuario/pass. O podrias instalar en el servidor PHP un miniservidor SMTP que no requiera autentificacion y configurarlo para que reenvie todos los emails al SMTP actual, usando autentificacion.
Saludos.