Vérifications / Accès des robots IA
robots.txt bloque ClaudeBot
Bloque ClaudeBot, qui collecte des données d'entraînement. Vos pages restent hors de l'entraînement des futurs modèles, mais pas hors de ChatGPT ni des autres moteurs de recherche IA.
robots_claudebot · Accès des robots IA · Remarque
Ce qui la déclenche
robots.txt n'autorise pas ClaudeBot à lire votre page d'accueil (une règle Disallow dans son propre groupe, ou dans le groupe * quand aucun groupe ne le nomme), et ne lui laisse aucun autre chemin ouvert.
Ce qu'il faut changer
Seulement si vous voulez vos pages dans l'entraînement des futurs modèles : supprimez la règle Disallow pour ClaudeBot. L'inclusion dans la recherche dépend de Claude-SearchBot.
Exemple
Lignes de robots.txt qui autorisent ClaudeBot :
User-agent: ClaudeBot
Allow: /Comment confirmer la correction
- Ouvrez https://example.com/robots.txt : aucun groupe qui nomme ClaudeBot (ou le groupe *, si aucun ne le nomme) n'interdit la page d'accueil
- Lancez un nouveau crawl : le tableau des robots IA indique ClaudeBot comme autorisé
À propos de ClaudeBot
ClaudeBot est le robot d'exploration d'Anthropic pour le contenu pouvant contribuer à l'entraînement de ses modèles. Un Disallow dans robots.txt signale que les futurs contenus d'un site doivent être exclus des jeux de données d'entraînement. Anthropic respecte Crawl-delay et avertit que bloquer ses adresses IP peut l'empêcher de lire robots.txt : utilisez donc robots.txt.
Anthropic indique qu'une restriction signale que les futurs contenus du site doivent être exclus de ses jeux de données d'entraînement. La formulation dit « futurs contenus » ; elle ne dit pas ce qu'il advient du contenu déjà collecté. Les deux autres robots de Claude sont distincts : bloquer ClaudeBot ne touche donc pas à leurs règles.
Rôle : Entraînement. Respecte robots.txt : Oui, il suit robots.txt et Crawl-delay.
ClaudeBot : opérateur, chaîne user-agent et liste d'adresses
Fréquence
Sur un échantillon, l'étude a mesuré les sites dont le robots.txt bloque ClaudeBot : 10 sites Show HN sur 294 (3 %), et 0 sites Lovable sur 67 (0 %).
Récupéré les 20 et 21 oct. 2026 en CitedBot, robots.txt respecté, sans JavaScript. Étude : Launch crawl 2026-10 (anglais).
À propos de cette vérification
| Identifiant | robots_claudebot |
|---|---|
| Section du rapport | Accès des robots IA |
| Gravité | Remarque |
| Comment elle est décidée | Mesurée : lue directement dans la page ou la réponse du serveur. |
| Ajoutée | Avant le 19 oct. 2026 (versions 1 et 2), ou une vérification de site sans date de version |
| État | Mesurée dans chaque rapport |
| Le rapport donne le code | Oui, un bloc pour tout le site |
Réglages selon la plateforme
Pour robots.txt, l'endroit du réglage dépend de la plateforme. Nos guides en couvrent 13 : réglages des robots IA par plateforme.
Vérifications liées
- Pas de llms.txt (facultatif)
- robots.txt bloque CCBot
- robots.txt bloque Google-Extended
- robots.txt bloque GPTBot
Voir si cela concerne votre site
Collez votre adresse : nous explorons jusqu'à 10 pages et montrons chaque problème trouvé, avec sa correction. Sans compte, sans carte.
Chaque offre explore jusqu'à sa limite de pages et liste ces vérifications avec la correction : tarifs.
Comment fonctionne un audit : méthode