ya esta ya lo resolvi el error estaba en el cierre del primer if habia que cerrarlo al final de todo yl el else puse el que deje en el comentario de arriba. aca dejo el codigo terminado
$qry = "SELECT COUNT(per_documento) docs FROM personas WHERE per_documento = $doc";
$consultaD=mysql_query($qry);
if($consultaD)
{
$rowD=mysql_fetch_array($consultaD);
if($rowD["docs"] > 0)
{
echo "Ya existe una persona con ese número de DNI: <b>$doc</b><br>";
echo "Haga <a href=usuarios.php>click</a> para volver a intentarlo";
}
else
{
mysql_query("INSERT INTO personas (per_nombre, per_apellido, per_documento, cat_codigo) VALUES ('$nombre', '$apellido', '$doc', '$cat')");
}
}
echo "<br>";