Hola liru:
Cuando abras la ventana, hazlo con una variable, y luego usas esa variable para cerrar la ventana:
var ventana = false;
function abrir() {
ventana = window.open("miPagina.html");
}
function cerrar() {
ventana.close();
ventana = false;
}
Espero que te sirva.
Saludos