suponiendo que el primer grupo se llame grupo1 y el otro grupo2 podrías hacer algo así
function valida(cual){
grup1 = 0
grup2 = 0
for(m=0; m<cual.grupo1.length;m++){
if(cual.grupo1[m].checked == true){
grup1++
break;
}
}
for(m=0; m<cual.grupo2.length;m++){
if(cual.grupo2[m].checked == true){
grup2++
break;
}
}
if(grup1>0&&grup2>0){
return true
}
else{
alert('debe escoger al menos una opción de cada categoría');
return false
}
}
y a tu form....
<form name="pepe" action="tuaccion" method="post"
onsubmit="return valida(this)">
algo así sería ...