si estas utilizando un JFRAME, y no quieres que salga de esta ventana hasta que el usuario alla escogido una opcion, deshabilita el boton de cerrar (X) y oculta el formulario (hide) del cual haces la invocacion al formulario de dialogo, el codigo para evitar el cierre del Jframe es es:
setDefaultCloseOperation(DO_NOTHING_ON_CLOSE);
que va en el constructor del JFRAME que sirve para escoger la opcion.
