hola, aqui esta un ejemplo, lo probe y funciona... espero te funcione
<script language="JavaScript">
function validar() {
var f = document.form1
if (f.checkbox.checked == false) {
alert("nop")
return false
}
return true
}
</script>
<form name="form1" method="post" action="" onSubmit="return validar()">
<input type="checkbox" name="checkbox" value="1">
<input type="submit" name="Submit" value="Submit">
</form>