Pero que sistema operativo usas? (por lo que has dejado suponemos que Linux) ..
Usas un servicio de hosting? .. te lo comento por qué las rutas exactas a tu mysqldump e incluso el poder ejecutar system() depende de los permisos que tengas en ese servidor .. No en todos se puede hacer así.
Por otro lado .. la función system() sólo devuelve un "true/false" si consiguió ejecutarse .. pero no más información.
Si quieres ... puedes usar exec() en lugar de system() (usando sus correspondientes parámetros) para ver que mensaje de error te está arrojando (supongo que algo tipo "no está tal cosa en tal ruta . o no tienes permisos .. etc).
exec()
www.php.net/exec
Un saludo,