Hola
rrufo
Lo que ocurre es que tienes el código JavaScript antes que el <input> es decir estás pidiendo que se desmarque un objeto que todavía no existe. Ponlo de esta forma:
<form name="form1" >
<input name="checkbox" type="checkbox" value="checkbox" checked>
<script language="JScript">
document.forms.form1.checkbox.checked = false;
</script>
</form>
Saludos,