Algo raro tienes en tu código. Prueba esto:
Código PHP:
<html>
<head>
<script language="JavaScript">
function marca(n){
with (document.frm){
sel.options[n - 1].selected = !(sel.options[n - 1].selected);
}
}
</script>
</head>
<body>
<form method="get" action="index.php" name="frm">
<select multiple name="sel">
<option>Uno</option>
<option>Dos</option>
<option>Tres</option>
</select><br>
<input type="checkbox" name="uno" onclick="marca(1)">Marca uno<br>
<input type="checkbox" name="dos" onclick="marca(2)">Marca dos<br>
<input type="checkbox" name="tre" onclick="marca(3)">Marca tres<br>
</form>
</body>
</html>
Saludos.