Hola,
Como dice Cain, parece que estas pasando a exec() una cadena vacia. Puede ser que sea que no recoges bien el campo del formulario (register_globlas y todo eso). Prueba con:
Código PHP:
exec ($_POST['nombre']);
Recuerda que si el ejecutable no esta en el path de windows, tienes que mandarle la ruta completa al ejecutable.
Saludos.