Ver Mensaje Individual
  #4 (permalink)  
Antiguo 02/03/2013, 05:58
Avatar de imsitega
imsitega
 
Fecha de Ingreso: marzo-2013
Ubicación: Lugo
Mensajes: 43
Antigüedad: 11 años, 2 meses
Puntos: 3
Respuesta: Las arañas me dejan K.O. el servidor

Cita:
Iniciado por arrasia Ver Mensaje
Como puedo hacer que las arañas de google y buscadores random, no me indexen parte de mi web que no me interesa (y que no aporta visitas)

He probado con <META name="robots" content="NOINDEX"> en la cabecera de esas web, pero aun así veo las ip de google haciendo de las suyas!!!
Prueba modificando el archvio robots.txt a algo parecido a esto:
Código:
User-agent: *
Disallow: /
Crawl-delay: 120
Si tienes un VPS o un dedicado se podrian mirar otrasa opciones.

Un saludo ;)