Este lo pones donde va ir el boton
<A href="#" onCLick="window.open(pagina.htm','x','toolbar=no, menubar=no, status=no, NORESIZABLE, width=x, height=x');"><img src=""></A>
y esto lo pones en el body para que no tenga la barra scroll de la ventana que se va a abrir
<body scroll="no">