para abrir una ventana(modal) desde otra (padre) usas la funcion 
  window.open()  
luego para pasar el valor desde esta ventana(modal) havia la ventana padre utilizas la forma que te indique anteriormente  
window.opener.document.ELFORMULARIO.ELTEXTBOX.valu  e