Ver Mensaje Individual
  #6 (permalink)  
Antiguo 01/12/2010, 11:20
Avatar de Willy_N
Willy_N
 
Fecha de Ingreso: diciembre-2009
Ubicación: Cádiz
Mensajes: 334
Antigüedad: 14 años, 5 meses
Puntos: 18
Respuesta: Hacer una web invisible para google

Hay montones de rastreadores que no respetan el robots.txt.

Los que tu mencionas sí lo respetan, pero hay muchos otros que no.

Lo gracioso es que cuando entro en la web de algunos que se intentan colar en la mía suelo encontrar avisos que dicen que su robot respeta el robots.txt. Pero no lo respetan porque si lo harían no hubiera notado su presencia.