mail() en principio es una función de PHP .. Si el S.O. de tu servidor tiene un comando similar (en cuanto a parámetros y uso) .. eso sería otra cosa y que primeramente deberías comprobar que funcione.
De hecho el error te dice que mail() como tal no existe como comando del S.O. que usas .. tal vez en Linux si .. pero no en Windows (o tu no tienes instalado la aplicación que lo simule).
Lo que pretendes hacer no es cosa de "ejecutar" una función PHP por línea de comandos directo (pues no existen!) sino en crear un Script PHP que lo llames en modalidad "CLI" (Command Line Interface).
Revisa la documentación oficial:
http://www.php.net/features.commandline
Un saludo,