Comprobaciones / Acceso de crawlers de IA
robots.txt deja a Google-Extended fuera de tu página de inicio y de la mayor parte del sitio
Google-Extended recoge datos de entrenamiento y solo puede leer las rutas que robots.txt le permite. Es una decisión: la mayor parte de tus páginas queda fuera del entrenamiento futuro de modelos, no fuera de la búsqueda con IA.
robots_partial_google_extended · Acceso de crawlers de IA · Aviso
Qué la activa
robots.txt no deja a Google-Extended leer tu página de inicio, pero le deja abiertos algunos otros caminos; el hallazgo nombra los tres primeros.
Qué cambiar
Quita la regla Disallow: / para Google-Extended en robots.txt o añade reglas Allow para las demás rutas que quieras que lea.
Ejemplo
Líneas de robots.txt que permiten Google-Extended:
User-agent: Google-Extended
Allow: /Cómo confirmar la corrección
- Abre https://example.com/robots.txt: el grupo que nombra a Google-Extended (o el grupo *, si ninguno lo hace) deja abierta la mayor parte del sitio, no solo la página de inicio
- Lanza un nuevo rastreo: la tabla de crawlers de IA ya no marca a Google-Extended como bloqueado en su mayor parte
Sobre Google-Extended
Google-Extended es un token de producto de robots.txt que permite a los editores gestionar si el contenido que Google rastrea puede usarse para entrenar futuros modelos de Gemini. No tiene user agent HTTP propio, así que nunca aparece en tus logs. Google dice que no afecta a la inclusión en Search ni al posicionamiento.
El rastreador que de verdad obtiene tus páginas para Search.
No hay nada que verificar en la capa de red: ni user agent ni lista de direcciones. Revisa el propio robots.txt, en cada dominio y subdominio, y recuerda que una búsqueda de Google-Extended en los logs no encuentra nada, lo bloquees o no. El grupo de ejemplo de Google muestra que el token admite una ruta permitida y una ruta bloqueada como cualquier otro.
Función: Token de control (sin peticiones propias). Respeta robots.txt: Solo se lee en robots.txt; no hay un user agent aparte.
Google-Extended: operador, cadena user-agent y lista de direcciones
Con qué frecuencia aparece
No hemos medido lo frecuente que es en una muestra de sitios. Las cifras aparecen aquí cuando un estudio la cubre.
Sobre esta comprobación
| ID de la comprobación | robots_partial_google_extended |
|---|---|
| Sección del informe | Acceso de crawlers de IA |
| Gravedad | Aviso |
| Cómo se decide | Medida: se lee directamente de la página o de la respuesta del servidor. |
| Añadida | Antes del 19 oct. 2026 (versiones 1 y 2), o una comprobación de todo el sitio sin fecha de versión |
| Estado | Medida en cada informe |
| El informe da el código | Sí, un bloque para todo el sitio |
Ajustes por plataforma
En robots.txt, el sitio del ajuste depende de la plataforma. Nuestras guías cubren 13: ajustes de rastreadores de IA por plataforma.
Comprobaciones relacionadas
- robots.txt deja a CCBot fuera de tu página de inicio y de la mayor parte del sitio
- robots.txt deja a ClaudeBot fuera de tu página de inicio y de la mayor parte del sitio
- robots.txt deja a GPTBot fuera de tu página de inicio y de la mayor parte del sitio
- Tu cortafuegos o CDN rechaza a los crawlers de entrenamiento de IA
Mira si afecta a tu sitio
Pega tu dirección: rastreamos hasta 10 páginas y mostramos cada problema que encontramos, con su corrección. Sin cuenta, sin tarjeta.
Cada plan rastrea hasta su límite de páginas y lista estas comprobaciones con la corrección: planes.
Cómo funciona una auditoría: método