Generador de robots.txt

Procesado en este navegador

Límite de texto: 2000000 caracteres

Esta herramienta no sube tu entrada.

Sales un archivo de texto para subir a la raíz del hosting. Sirve para un blog Astro o un WordPress. No bloquea a los malos de verdad y no sustituye un noindex.

Montas un sitio estático y no quieres que el rastreador se coma /draft/ o el staging. UtiloKit y Wutools generan robots en el navegador; SecureOnlineTools recuerda que el tester de Search Console ya no está. Esta página redacta un borrador.

El motor escribe User-agent: *, tus Allow/Disallow, opcionalmente bloques para bots de IA, y una línea Sitemap: si la pegas (absoluta, https://…/sitemap.xml).

User-agent: *
Allow: /
Disallow: /admin/
Sitemap: https://ejemplo.com/sitemap.xml

Cómo publicarlo

  1. Rellena rutas con barra inicial (/privado/).
  2. Copia el texto. Súbelo a la raíz del dominio (no a /blog/robots.txt si el host es el apex).
  3. Comprueba en el navegador que responde 200. Un 404 se trata como «sin restricciones». Códigos: referencia HTTP.

Límites

  • No simula Googlebot con la lógica RFC 9309 completa de un tester serio.
  • Crawl-delay lo ignoran muchos buscadores grandes.
  • Bloquear CSS/JS puede romper el render; no lo hagas «por si acaso».

Borrador local. Search Console se abre en Google, no aquí.

Preguntas frecuentes

¿Esto es Search Console?

No. Search Console es el panel de Google. El tester oficial de robots.txt se retiró; esta página no lo reemplaza. No envía sitemaps ni pide indexación.

¿Si pongo Disallow: / me saca de Google?

robots.txt pide no *rastrear*. Una URL puede seguir indexada sin snippet. Para no indexar usa noindex (meta o cabecera). El generador de meta no escribe robots.txt.

¿Es seguridad para /wp-admin?

No. Los bots maliciosos ignoran el archivo. El admin se protege con contraseña, no con Disallow.

¿Puedo bloquear GPTBot?

La UI puede añadir grupos para GPTBot, CCBot, Google-Extended y anthropic-ai. Es una petición, no un muro. Google-Extended no es lo mismo que Googlebot.

¿Se sube el archivo al sitio?

No. Copias el texto y lo subes tú a https://tusitio.com/robots.txt.

Herramientas relacionadas