Comprobaciones / Acceso de crawlers de IA
robots.txt bloquea a CCBot
Bloquea a CCBot (Common Crawl), que recopila datos de entrenamiento. Esto mantiene tus páginas fuera del entrenamiento de futuros modelos, no fuera de ChatGPT ni de otras búsquedas con IA.
robots_ccbot · Acceso de crawlers de IA · Aviso
Qué la activa
robots.txt no deja a CCBot leer tu página de inicio (una regla Disallow en su propio grupo, o en el grupo * cuando ningún grupo lo nombra) y no le deja ningún otro camino abierto.
Qué cambiar
Solo si quieres que tus páginas estén en conjuntos de datos de entrenamiento abiertos: elimina la regla Disallow para CCBot.
Ejemplo
Líneas de robots.txt que permiten CCBot:
User-agent: CCBot
Allow: /Cómo confirmar la corrección
- Abre https://example.com/robots.txt: ningún grupo que nombre a CCBot (o el grupo *, si ninguno lo hace) prohíbe la página de inicio
- Lanza un nuevo rastreo: la tabla de crawlers de IA muestra a CCBot como permitido
Sobre CCBot
CCBot es el rastreador de Common Crawl, una organización sin ánimo de lucro que mantiene un repositorio abierto de datos de rastreo web que cualquiera puede consultar y analizar. Common Crawl dice que User-agent: CCBot con Disallow: / impide que rastree un sitio. Avisa también de que otros rastreadores se hacen pasar por CCBot, así que verifica las peticiones.
Common Crawl dice que añadir User-agent: CCBot con Disallow: / a robots.txt impide que Common Crawl rastree el sitio. La página dice también que sabe que hay rastreadores que se identifican falsamente como CCBot y recomienda verificar las cadenas de user agent.
Función: Archivo abierto de rastreo web. Respeta robots.txt: Sí, mediante una regla de robots.txt para CCBot.
CCBot: operador, cadena user-agent y lista de direcciones
Con qué frecuencia aparece
En una muestra, el estudio midió los sitios cuyo robots.txt bloquea CCBot: 11 de 294 sitios de Show HN (4 %) y 0 de 67 sitios de Lovable (0 %).
Descargado los días 20 y 21 de oct. de 2026 como CitedBot, robots.txt respetado, sin JavaScript. Estudio: Launch crawl 2026-10 (inglés).
Sobre esta comprobación
| ID de la comprobación | robots_ccbot |
|---|---|
| Sección del informe | Acceso de crawlers de IA |
| Gravedad | Aviso |
| Cómo se decide | Medida: se lee directamente de la página o de la respuesta del servidor. |
| Añadida | Antes del 19 oct. 2026 (versiones 1 y 2), o una comprobación de todo el sitio sin fecha de versión |
| Estado | Medida en cada informe |
| El informe da el código | Sí, un bloque para todo el sitio |
Ajustes por plataforma
En robots.txt, el sitio del ajuste depende de la plataforma. Nuestras guías cubren 13: ajustes de rastreadores de IA por plataforma.
Comprobaciones relacionadas
- llms.txt apunta a páginas que los rastreadores no pueden usar
- Sin llms.txt (opcional)
- robots.txt bloquea a ClaudeBot
- robots.txt bloquea a Google-Extended
Mira si afecta a tu sitio
Pega tu dirección: rastreamos hasta 10 páginas y mostramos cada problema que encontramos, con su corrección. Sin cuenta, sin tarjeta.
Cada plan rastrea hasta su límite de páginas y lista estas comprobaciones con la corrección: planes.
Cómo funciona una auditoría: método