Los elementos BUTTON por defecto son del tipo SUBMIT. En tu caso debes definirle al atributo TYPE como BUTTON. Y en el evento ONCLICK activar la función Javascript que generará el POPUP.
Código:
<button type="button" onclick="abrir_popup()">Ventana</button>
pd: obviamente tienes que crear una función que abra el popup, que en el ejemplo he llamado abrir_popup()