Hola:
Las ventanas modales detienen el flujo de la página hasta que se recibe la respuesta deseada (si/no... etc)... no se inventaron con javascript, así que así son las cosas... por cierto, otro tipo de ventana modal es la que pide un fichero del sistema... en resúmen, son las ventanas del sistema... pero se ha generalizado el vicio de decir modal a alguna ventana "especial", programada, como las lightbox y similares...
Como ventana no-modal solo existen los popus... todo lo demás son simulaciones...
Si es una ventana fuera de la página, es un popup, y si es dentro es un iframe... creo que te refieres al segundo de los casos.
Saludos