Hola:
Casi, casi ¡Je, je!
Cuando se ponen corchetes, el punto que se ponía "antes" debes omitirlos.
function validacion(formulario, nombre, oculto, tipo)
{
if(tipo == "check"){
if(document[formulario][nombre].value==""){
document[formulario][nombre].border = "red solid 2px"
document[formulario][oculto].value = 0
}
}
}
No sé el sentido del script, pero mira como se tratan los valores variables...
Saludos