Foros del Web » Estrategias Digitales y Negocios Online » SEO »

Consulta sobre robots.txt

Estas en el tema de Consulta sobre robots.txt en el foro de SEO en Foros del Web. Hola y gracias por leerme: Tengo un archivo robots.txt asi: User Agent:* Allow:/ Yo quiero que se indexen todas las paginas en todos los buscadores ...
  #1 (permalink)  
Antiguo 17/04/2007, 13:22
b44
 
Fecha de Ingreso: diciembre-2005
Mensajes: 142
Antigüedad: 18 años, 4 meses
Puntos: 0
Consulta sobre robots.txt

Hola y gracias por leerme:
Tengo un archivo robots.txt asi:

User Agent:*
Allow:/


Yo quiero que se indexen todas las paginas en todos los buscadores posibles y asi es como lo he puesto en una pagina que he entrado que crea archivos robots.txt y me crea este:

User-Agent: *
Disallow:


¿Cuál de los dos archivos esta bien para que todas las paginas de mi sitio se indexen en todos los buscadores.?

Gracias
  #2 (permalink)  
Antiguo 17/04/2007, 14:18
Avatar de Daniel Ulczyk
Super Moderador
 
Fecha de Ingreso: febrero-2005
Ubicación: Buenos Aires
Mensajes: 9.263
Antigüedad: 19 años, 2 meses
Puntos: 2114
Re: Consulta sobre robots.txt

Con la primera ocurrencia, le estás dando instrucciones a los bots para que no entren a tu sitio y, con la segunda estarías logrando lo que vos querés.

A mi entender, la mejor fuente: robotstxt.org (FAQ)
__________________
—Somos lo que hacemos repetidamente. La excelencia, entonces, no es un acto sino un hábito. (Aristóteles dixit)
  #3 (permalink)  
Antiguo 18/04/2007, 15:18
b44
 
Fecha de Ingreso: diciembre-2005
Mensajes: 142
Antigüedad: 18 años, 4 meses
Puntos: 0
Re: Consulta sobre robots.txt

No lo entiendo en
Código:
User Agent:*
Allow:/
significa

usuario agente:todos
Permitir : todos
¿NO?

Y por otro lado esto
Código:
User-Agent: *
Disallow:
significa

usuario agente: todos
No permitir: nada
¿No?

En el post que me envias me he encontrado esto
Código:
How do I prevent robots scanning my site?
The quick way to prevent robots visiting your site is put these two lines into the /robots.txt file on your server:

    User-agent: *
    Disallow: /

but its easy to be more selective than that.
¿Puede que


Allow:/
y
Disallow:
signifiquen lo mismo Permitir todo y no permitir nada señalado?


No lo se yo solo quiero que entre en todos los navegadores sin excepcion e indexe todas las paginas ¿Que Pongo?
  #4 (permalink)  
Antiguo 18/04/2007, 15:37
Avatar de Daniel Ulczyk
Super Moderador
 
Fecha de Ingreso: febrero-2005
Ubicación: Buenos Aires
Mensajes: 9.263
Antigüedad: 19 años, 2 meses
Puntos: 2114
Re: Consulta sobre robots.txt

Ahora te remito a otro documento del mismo sitio:
Web Server Administrator´s Guide to the Robots Exclusion Protocol

Cita:
To exclude all robots from the entire server
User-agent: *
Disallow: /
Cita:
To allow all robots complete access
User-agent: *
Disallow:
Or create an empty "/robots.txt" file.

Suerte!
__________________
—Somos lo que hacemos repetidamente. La excelencia, entonces, no es un acto sino un hábito. (Aristóteles dixit)
  #5 (permalink)  
Antiguo 18/04/2007, 15:58
 
Fecha de Ingreso: agosto-2004
Mensajes: 513
Antigüedad: 19 años, 7 meses
Puntos: 5
Re: Consulta sobre robots.txt

Mira, en mi web tengo un generador de robots.txt muy sencillo:

http://www.cuwhois.com/robots-txt.php

Espero que te sirva.
  #6 (permalink)  
Antiguo 18/04/2007, 17:10
Avatar de Daniel Ulczyk
Super Moderador
 
Fecha de Ingreso: febrero-2005
Ubicación: Buenos Aires
Mensajes: 9.263
Antigüedad: 19 años, 2 meses
Puntos: 2114
Re: Consulta sobre robots.txt

Estimado Ocrum2004:
Utilizo el enlace y cuando completo
All agents
Aceptar indexación de todas la páginas: SI
Sin excluir URLs.
Obtengo por resultado
User-Agent: *
Disallow:
Lo cual es correcto.
Ahora bien, confunde obtener el mismo resultado para
All agents
Aceptar indexación de todas la páginas: NO
Sin excluir URLs.
__________________
—Somos lo que hacemos repetidamente. La excelencia, entonces, no es un acto sino un hábito. (Aristóteles dixit)
  #7 (permalink)  
Antiguo 18/04/2007, 21:36
 
Fecha de Ingreso: febrero-2002
Mensajes: 442
Antigüedad: 22 años, 2 meses
Puntos: 2
Re: Consulta sobre robots.txt

El amigo Daniel cita una URL donde esta muy clarito....

ejemplo:

User-agent: *
Disallow: /cgi-bin/
Disallow: /tmp/
Disallow: /~joe/

Significa que cualquier Robot (user-agent) indexa todo tu sitio... menos las carpetas que estan en "Disallow"

Si dejas el Robot.txt por default..

User-Agent: *
Disallow:

le estas diciendo que cualquier Robot.. indexe todo..

y si le pones la barra..
Disallow: /

.excluye absolutamente todo..

......
ni mas ni menos...
saludos.
__________________
tech-nico.com
  #8 (permalink)  
Antiguo 24/04/2007, 08:54
 
Fecha de Ingreso: agosto-2004
Mensajes: 513
Antigüedad: 19 años, 7 meses
Puntos: 5
Re: Consulta sobre robots.txt

Daniel: Si, cierto, veo innecesaria la opción de "Aceptar indexación de todas las páginas", puedo obtener los datos de "Excluir URLs ". INtentaré cambiarlo en la próxima actualización.

Nuevo recurso:

Obtiene etiquetas metas de un dominio, sirve para comprobar si las etiquetas son accesibles para los buscadores.

Ejemplo:
http://www.cuwhois.com/herramienta-s...orosdelweb.com

Espero que os sea útil
  #9 (permalink)  
Antiguo 27/04/2007, 23:36
 
Fecha de Ingreso: diciembre-2004
Mensajes: 462
Antigüedad: 19 años, 4 meses
Puntos: 3
Re: Consulta sobre robots.txt

También puedes utilizar la propia herramienta de google para comprobar el archivo robots.txt, está en http://www.google.com/webmasters/tools/
__________________
Foro dominios
Cheap Domains - Registro de dominios.
Atención: Estás leyendo un tema que no tiene actividad desde hace más de 6 MESES, te recomendamos abrir un Nuevo tema en lugar de responder al actual.
Respuesta




La zona horaria es GMT -6. Ahora son las 09:48.