deberias buscar la forma de detectar los procesos q se ejecutan en el sistema operativo...
en windows serian los q estan en la estaña "aplicaciones" del "administrador de tareas de windows" y despues buscar como son los comandos de windows para apagar una aplicacion... por ej en linux podrias ejecutar un comando "kill Xproceso" y apagaria el proceso o aplicacion en curso...
por mi parte nunca intente apagar una aplicacion... pero si ejecutar por ejemplo una calculadora de windows, utilizando el comando Runtime.exec() de java ... se sabe q para cada aplicacion hay un comando especial del sistema operativo o de la misma aplicacion para apagarla... por ejemplo para encender el mySQL se utilizaria el comando D.O.S. "mysqld.exe" y para apagar el mySQL seria "mysqladmin -u root -pcontraseña shutdown"...
espero q hayas entendido lo q quise explicar...
saludos