Hola:
Empecemos hablando con propiedad... solo hay 3 tipos de ventanas modales estándar: alert, confirm y prompt... y por definición las modales detienen el flujo de datos esperando respuestas de usuario. Seguramente estás tratando de ventanas que simulan el comportamiento de las ventanas modales como las lightbox, greybox, etc...
Como respuesta a la capa de fondo; simplemente debería tener determinados estilos: position absolute; top, left, width, height específicos y el grado de opacidad que te parezca conveniente (0.1, 0.5...)
Saludos
