Vérifications / Accès des robots IA
robots.txt bloque Claude-SearchBot
Claude-SearchBot est le robot de recherche de l'un des grands assistants IA.
robots_claude_searchbot · Accès des robots IA · Erreur
Ce qui la déclenche
robots.txt n'autorise pas Claude-SearchBot à lire votre page d'accueil (une règle Disallow dans son propre groupe, ou dans le groupe * quand aucun groupe ne le nomme), et ne lui laisse aucun autre chemin ouvert.
Ce qu'il faut changer
Supprimez la règle Disallow pour Claude-SearchBot dans robots.txt.
Exemple
Lignes de robots.txt qui autorisent Claude-SearchBot :
User-agent: Claude-SearchBot
Allow: /Comment confirmer la correction
- Ouvrez https://example.com/robots.txt : aucun groupe qui nomme Claude-SearchBot (ou le groupe *, si aucun ne le nomme) n'interdit la page d'accueil
- Lancez un nouveau crawl : le tableau des robots IA indique Claude-SearchBot comme autorisé
À propos de Claude-SearchBot
Claude-SearchBot est le robot d'Anthropic qui parcourt le web pour améliorer la qualité des résultats de recherche. Anthropic indique que le désactiver empêche l'indexation de votre contenu pour l'optimisation de la recherche, ce qui peut réduire votre visibilité et la précision dans les résultats de recherche des utilisateurs. Son jeton robots.txt est Claude-SearchBot.
Anthropic nomme deux effets si vous le désactivez : votre contenu n'est pas indexé pour l'optimisation de la recherche, et la visibilité et la précision de votre site dans les résultats de recherche des utilisateurs peuvent baisser.
Rôle : Recherche. Respecte robots.txt : Oui, Anthropic indique que ses robots respectent robots.txt.
Claude-SearchBot : opérateur, chaîne user-agent et liste d'adresses
Fréquence
Sur un échantillon, l'étude a mesuré les sites dont le robots.txt bloque Claude-SearchBot : 0 sites Show HN sur 294 (0 %), et 0 sites Lovable sur 67 (0 %).
Récupéré les 20 et 21 oct. 2026 en CitedBot, robots.txt respecté, sans JavaScript. Étude : Launch crawl 2026-10 (anglais).
À propos de cette vérification
| Identifiant | robots_claude_searchbot |
|---|---|
| Section du rapport | Accès des robots IA |
| Gravité | Erreur |
| Comment elle est décidée | Mesurée : lue directement dans la page ou la réponse du serveur. |
| Ajoutée | Avant le 19 oct. 2026 (versions 1 et 2), ou une vérification de site sans date de version |
| État | Mesurée dans chaque rapport |
| Le rapport donne le code | Oui, un bloc pour tout le site |
Réglages selon la plateforme
Pour robots.txt, l'endroit du réglage dépend de la plateforme. Nos guides en couvrent 13 : réglages des robots IA par plateforme.
Vérifications liées
- Des pages renvoient un statut d'erreur
- robots.txt bloque ChatGPT-User
- robots.txt bloque Claude-User
- robots.txt bloque OAI-SearchBot
Voir si cela concerne votre site
Collez votre adresse : nous explorons jusqu'à 10 pages et montrons chaque problème trouvé, avec sa correction. Sans compte, sans carte.
Chaque offre explore jusqu'à sa limite de pages et liste ces vérifications avec la correction : tarifs.
Comment fonctionne un audit : méthode