Asegúrate de abrir la popup como te indica andreumic, osea, usando miventana = window.open(etc....)
top.left.miventana.close()
Pero para cerrar usa la formula que te dí.
andreumic, desde un iframe a una ventana que abrió otro iframe hay que mencionar al iframe que abrió la ventana