Tema: robots.txt
Ver Mensaje Individual
  #3 (permalink)  
Antiguo 09/10/2011, 20:18
merino_renato
Usuario no validado
 
Fecha de Ingreso: mayo-2011
Mensajes: 1.231
Antigüedad: 12 años, 11 meses
Puntos: 228
Respuesta: robots.txt

Cita:
Iniciado por rapuig Ver Mensaje
Hola!
Quería saber si estoy teniendo algún problema con el robots.txt ya que google me lo indexo :S
Es necesario dentro del .txt poner que no lo indexe o estoy haciendo algo mal?
Mi robots.txt es:

# robots.txt for http://www.misitio.com/

User-agent: *
Disallow: /unaCarpeta/
Disallow: /404.html
Disallow: /pagina.html


Agrego Disallow: /robots.txt??

Gracias! :)

Hola:

A mi me ha pasado lo mismo me ha indexado el robots txt

lo unico que se me ocurre es borrarlo en las herramientas de google, o poner una linea como la que pusiste en el ejemplo pero me suge la duda de que si le pones

Disallow: /robots.txt ignorara las paginas o carpetas que no debe rastrear...

ojala y alguien nos pueda orientar mejor porque esto creo no es "normal"...

Saludos

Última edición por Daniel Ulczyk; 09/10/2011 a las 21:15 Razón: se remueve URL del enlace - error 404