Hola:
Usar showModalDialog puede crear ventanas muy bonitas pero no funcionan en todos los navegadores, así que no te lo recomiendo... Las ventanas modales estándar son alert para mostrar un mensaje "a secas", confirm que devuelve true/false según la selección, y prompt que entrega el texto que se introduce en el recuadro de texto de la ventana...
Si es una página "formateada" o con código php/asp/CGI (incluso html) creo conveneiente las ventanas que se abren con window.open...
Para pasar datos, tan solo debes usar un script con opener por delante del elemento de la página donde quieras recibirlos, luego sencillamente puedes usar un window.close() para cerrar la ventana...
Saludos
