Para los login de FB, tenés que crear un popup con esta url:
Código:
https://www.facebook.com/login.php?api_key=APIID&cancel_url=URLCANCELACION&display=page&fbconnect=1&next=URLOK
Donde APIID es el id de tu api key de facebook, URLCANCELACION es la url a la que facebook redirige cuando el usuario cancela y URLOK es la url donde facebook redirige si el usuario se loguea. No podés saber si el usuario cierra la ventana.
Lo que podés detectar es si Facebook deriva a URLOK o a URLCANCELACION. También podés detectar si el usuario está logueado o no, como seguramente lo estarás haciendo para mostrar o no el botón de login.