En realidad, no creo que puedas con javascript; ya que el mismo no tiene acceso a cualquier cosa que esté fuera del ámbito del navegador (como los programas). Pero si nos dices qué es lo que quieres lograr, quizás podamos ayudarte. Evidentemente, no terminas de tener claro qué es programación en el servidor y qué es programación en el cliente, ya que te resulta casi indistinto con qué lenguaje lo haces. Los archivos PHP no pueden ejecutar JAVA y los archivos JAVA (.jsp, .class, .java) no pueden ejecutar PHP: no se pueden mezclar ambas cosas en un solo archivo. Además, la configuración del servidor es distinta según quieras soportar PHP, JAVA o ambas. El ejemplo que pusiste en JAVA supongo que puede hacerse con PHP (obviamente, sin usar eso del método main, que es propio de JAVA). Te recomiendo que investigues un poco sobre qué es programación en el cliente, qué es programación en el servidor, cuál es el proceso usual de navegación (petición http, respuesta http, etc.) y cuáles son las limitaciones de javascript. No te lo tomes a mal, pero lo más importante para que podamos ayudarte es que sepamos qué es exactamente lo que quieres hacer y para qué (¿o el fin en sí mismo es abrir un programa, no importa si en el servidor o en el cliente?). ¡Suerte!
