Comprobaciones / Acceso de crawlers de IA
robots.txt deja a Claude-SearchBot fuera de tu página de inicio y de la mayor parte del sitio
Claude-SearchBot solo puede leer las rutas que robots.txt le permite. Tu página de inicio y el resto del sitio le quedan cerrados, así que no puede citarlos.
robots_partial_claude_searchbot · Acceso de crawlers de IA · Error
Qué la activa
robots.txt no deja a Claude-SearchBot leer tu página de inicio, pero le deja abiertos algunos otros caminos; el hallazgo nombra los tres primeros.
Qué cambiar
Quita la regla Disallow: / para Claude-SearchBot en robots.txt o añade reglas Allow para las demás rutas que quieras que lea.
Ejemplo
Líneas de robots.txt que permiten Claude-SearchBot:
User-agent: Claude-SearchBot
Allow: /Cómo confirmar la corrección
- Abre https://example.com/robots.txt: el grupo que nombra a Claude-SearchBot (o el grupo *, si ninguno lo hace) deja abierta la mayor parte del sitio, no solo la página de inicio
- Lanza un nuevo rastreo: la tabla de crawlers de IA ya no marca a Claude-SearchBot como bloqueado en su mayor parte
Sobre Claude-SearchBot
Claude-SearchBot es el robot de Anthropic que navega por la web para mejorar la calidad de los resultados de búsqueda. Anthropic dice que desactivarlo impide indexar tu contenido para la optimización de la búsqueda, lo que puede reducir tu visibilidad y precisión en los resultados de búsqueda de los usuarios. Su token de robots.txt es Claude-SearchBot.
ClaudeBot es el rastreador de entrenamiento de Anthropic: Anthropic dice que un Disallow para él significa que los materiales futuros deben excluirse de los conjuntos de datos de entrenamiento de sus modelos de IA. Claude-SearchBot tiene su propio token.
El artículo de ayuda tiene fecha de 7 de abril de 2026. No incluye ninguna cadena de user agent, así que una línea de log que nombre Claude-SearchBot es una afirmación que no puedes confirmar solo con el artículo. Anthropic dice que el tráfico de una dirección de su lista enlazada es de Anthropic, y pide a los propietarios de sitios que crean que un robot se comporta mal que escriban desde un correo electrónico del dominio afectado.
Función: Búsqueda. Respeta robots.txt: Sí, Anthropic dice que sus robots respetan robots.txt.
Claude-SearchBot: operador, cadena user-agent y lista de direcciones
Con qué frecuencia aparece
No hemos medido lo frecuente que es en una muestra de sitios. Las cifras aparecen aquí cuando un estudio la cubre.
Sobre esta comprobación
| ID de la comprobación | robots_partial_claude_searchbot |
|---|---|
| Sección del informe | Acceso de crawlers de IA |
| Gravedad | Error |
| Cómo se decide | Medida: se lee directamente de la página o de la respuesta del servidor. |
| Añadida | Antes del 19 oct. 2026 (versiones 1 y 2), o una comprobación de todo el sitio sin fecha de versión |
| Estado | Medida en cada informe |
| El informe da el código | Sí, un bloque para todo el sitio |
Ajustes por plataforma
En robots.txt, el sitio del ajuste depende de la plataforma. Nuestras guías cubren 13: ajustes de rastreadores de IA por plataforma.
Comprobaciones relacionadas
- robots.txt bloquea a OAI-SearchBot
- robots.txt deja a ChatGPT-User fuera de tu página de inicio y de la mayor parte del sitio
- robots.txt deja a Claude-User fuera de tu página de inicio y de la mayor parte del sitio
- robots.txt deja a OAI-SearchBot fuera de tu página de inicio y de la mayor parte del sitio
Mira si afecta a tu sitio
Pega tu dirección: rastreamos hasta 10 páginas y mostramos cada problema que encontramos, con su corrección. Sin cuenta, sin tarjeta.
Cada plan rastrea hasta su límite de páginas y lista estas comprobaciones con la corrección: planes.
Cómo funciona una auditoría: método