No es tan simple como crear un enlace y asignar un target (atributo considerado obsoleto); requieres un poco de conocimientos de CSS y AJAX para lograr tu objetivo.
Ejemplo de ventana modal:
http://www.scriptiny.com/2008/04/cus...-dialog-boxes/
Para tratar de aprender AJAX, te sugiero esta búsqueda:
https://www.google.com.mx/#q=site:fo...+tutorial+ajax