Supongo que estás capturando la salida y luego sacándola...
Código PHP:
$salida = shell_exec("java -jar blabla/talycual.jar");
echo $salida;
¿no? Quizá también necesites especificar el classpath (con la opción -cp del comando java). Mira el valor del classpath cuando ejecutas el comando directamente y usa ese valor.
Pero aún así, como decía no es una buena solución. Cada vez tiene que arrancar la máquina de Java y si tienes unas cuantas peticiones simultáneas eso se va a notar mucho.
Una pregunta, cuando dices que ya hay un servidor de aplicaciones Java... ¿lo que pretendes ejecutar está funcionando sobre ese servidor? Quiero decir, ¿se podría llamar a través de una URL?