Vérifications / Accès des robots IA
robots.txt bloque CCBot
Bloque CCBot (Common Crawl), qui collecte des données d'entraînement. Vos pages restent hors de l'entraînement des futurs modèles, mais pas hors de ChatGPT ni des autres moteurs de recherche IA.
robots_ccbot · Accès des robots IA · Remarque
Ce qui la déclenche
robots.txt n'autorise pas CCBot à lire votre page d'accueil (une règle Disallow dans son propre groupe, ou dans le groupe * quand aucun groupe ne le nomme), et ne lui laisse aucun autre chemin ouvert.
Ce qu'il faut changer
Seulement si vous voulez vos pages dans les jeux de données d'entraînement ouverts : supprimez la règle Disallow pour CCBot.
Exemple
Lignes de robots.txt qui autorisent CCBot :
User-agent: CCBot
Allow: /Comment confirmer la correction
- Ouvrez https://example.com/robots.txt : aucun groupe qui nomme CCBot (ou le groupe *, si aucun ne le nomme) n'interdit la page d'accueil
- Lancez un nouveau crawl : le tableau des robots IA indique CCBot comme autorisé
À propos de CCBot
CCBot est le robot d'exploration de Common Crawl, une organisation à but non lucratif qui tient un dépôt ouvert de données d'exploration du web que chacun peut consulter et analyser. Common Crawl indique que User-agent: CCBot avec Disallow: / l'empêche d'explorer un site. Elle avertit aussi que d'autres robots se font passer à tort pour CCBot : vérifiez les requêtes.
Common Crawl indique qu'ajouter User-agent: CCBot avec Disallow: / à robots.txt l'empêche d'explorer le site. La page précise aussi qu'elle a connaissance de robots qui se font passer à tort pour CCBot et recommande de vérifier les chaînes user-agent.
Rôle : Archive publique d'exploration du web. Respecte robots.txt : Oui, via une règle robots.txt pour CCBot.
CCBot : opérateur, chaîne user-agent et liste d'adresses
Fréquence
Sur un échantillon, l'étude a mesuré les sites dont le robots.txt bloque CCBot : 11 sites Show HN sur 294 (4 %), et 0 sites Lovable sur 67 (0 %).
Récupéré les 20 et 21 oct. 2026 en CitedBot, robots.txt respecté, sans JavaScript. Étude : Launch crawl 2026-10 (anglais).
À propos de cette vérification
| Identifiant | robots_ccbot |
|---|---|
| Section du rapport | Accès des robots IA |
| Gravité | Remarque |
| Comment elle est décidée | Mesurée : lue directement dans la page ou la réponse du serveur. |
| Ajoutée | Avant le 19 oct. 2026 (versions 1 et 2), ou une vérification de site sans date de version |
| État | Mesurée dans chaque rapport |
| Le rapport donne le code | Oui, un bloc pour tout le site |
Réglages selon la plateforme
Pour robots.txt, l'endroit du réglage dépend de la plateforme. Nos guides en couvrent 13 : réglages des robots IA par plateforme.
Vérifications liées
- llms.txt renvoie vers des pages inutilisables pour les robots
- Pas de llms.txt (facultatif)
- robots.txt bloque ClaudeBot
- robots.txt bloque Google-Extended
Voir si cela concerne votre site
Collez votre adresse : nous explorons jusqu'à 10 pages et montrons chaque problème trouvé, avec sa correction. Sans compte, sans carte.
Chaque offre explore jusqu'à sa limite de pages et liste ces vérifications avec la correction : tarifs.
Comment fonctionne un audit : méthode