Y si lo haces con el hipervinculo entons no t lanza el error??
Mira la verdad no soy un experto en javascript ni nada pero si desde el <a href></a> te funciona pienso que deberia funcionar tambien desde el onclick del botón..
Bueno mira esto:
Public Sub AbrirPopPup(ByVal NombrePagina As String)
Dim script As String = _
"<script language=" + Chr(34) + "javascript" + Chr(34) _
+ ">" + _
"window.open(" + Chr(34) + NombrePagina + Chr(34) + "," + _
Chr(34) + "null" + Chr(34) + "," + Chr(34) + "fullscreen=no,toolbar=no,status=no,menubar=no,scr ollbars=no,resizable=no,directories=no,location=no ,width=400,height=300,left=300,top=200" _
+ Chr(34) + ");" + _
"</script>"
Page.RegisterStartupScript("PopPup", script)
End Sub
En este sub como observas tengo un scrip para abrir una ventana PopPup, luego lo que hago es llamar por ejemplo en el evento click de un boton al procedimiento:
Private Sub Button1_Click(ByVal sender As System.Object, ByVal e As System.EventArgs) Handles Button1.Click
AbrirPopPup("Pagina.aspx")
End Sub
hechale un ojo, quiza puedas hacer algo similar.