Robots.txt Generator

Robots.txt Generator

Predeterminado - Todos los robots son:	Permitido Rechazado
Retardo de rastreo:	Predeterminado - Sin retraso 5 Seconds 10 Seconds 20 Seconds 60 seconds 120 Seconds
Mapa del sitio: (deje en blanco si no tiene)
Robots de búsqueda:	Google	Igual que el predeterminado Permitido Rechazado
	Google Image	Igual que el predeterminado Permitido Rechazado
	Google Mobile	Igual que el predeterminado Permitido Rechazado
	MSN Search	Igual que el predeterminado Permitido Rechazado
	Yahoo	Igual que el predeterminado Permitido Rechazado
	Yahoo MM	Igual que el predeterminado Permitido Rechazado
	Yahoo Blogs	Igual que el predeterminado Permitido Rechazado
	Ask/Teoma	Igual que el predeterminado Permitido Rechazado
	GigaBlast	Igual que el predeterminado Permitido Rechazado
	DMOZ Checker	Igual que el predeterminado Permitido Rechazado
	Nutch	Igual que el predeterminado Permitido Rechazado
	Alexa/Wayback	Igual que el predeterminado Permitido Rechazado
	Baidu	Igual que el predeterminado Permitido Rechazado
	Naver	Igual que el predeterminado Permitido Rechazado
	MSN PicSearch	Igual que el predeterminado Permitido Rechazado
Directorios restringidos:	La ruta es relativa a la raíz y debe contener una barra diagonal. "/"

Ahora, cree el archivo 'robots.txt' en su directorio raíz. Copia el texto anterior y pégalo en el archivo de texto.

Acerca de Robots.txt Generator

Creating a Robots.txt is easy now with the help of Robots.txt Generator. This online tool is important for creating robot.txt files to instruct web robots. 

It is fast, free, and easy to use. You can create your own robot.text files in seconds. 

 

How to use Robots.txt Generator? 

To create Robots.txt files using Robots.txt Generator:

• Determine whether you allow or refuse Default - All Robots.
• Choose the Crawl-Delay
• Sitemap: (leave blank if you don't have) 
• Determine Search Robots wanted
• Determine the Restricted Directories
• Click Robots.text or Create and save as Robots.text