Ver Mensaje Individual
  #2 (permalink)  
Antiguo 18/03/2013, 13:04
ronnie101984
 
Fecha de Ingreso: diciembre-2011
Ubicación: Barcelona
Mensajes: 746
Antigüedad: 12 años, 3 meses
Puntos: 69
Respuesta: Cómo hacer robots y sitemap

El archivo robots a no ser que quieras algo en concreto como no indexar un directorio, simplemente debes poner dentro de la raiz un archivo llamado robots.txt con el siguiente contenido:

User-agent: *
Disallow: (aquí es donde restringes lo que no quieres que rastree en el caso que lo necesites, puedes crear más de una orden disallow, en caso de no querer restringir nada lo dejas tal cual está)
Sitemap: (tu dirección del sitemap)

En cuanto a sitemap hay herramientas gratuitas por internet que te los generan, busca en google "sitemap generator".

El sitemap también va en la raiz, como el robots.txt

Saludos