Vérifications / Accès des robots IA
robots.txt tient Google-Extended à l'écart de votre page d'accueil et de la plupart du site
Google-Extended collecte des données d'entraînement et ne peut lire que les chemins que robots.txt lui autorise. C'est un choix : l'essentiel de vos pages reste hors de l'entraînement futur des modèles, pas hors de la recherche IA.
robots_partial_google_extended · Accès des robots IA · Remarque
Ce qui la déclenche
robots.txt n'autorise pas Google-Extended à lire votre page d'accueil, mais lui laisse quelques autres chemins ouverts ; le constat nomme les trois premiers.
Ce qu'il faut changer
Supprimez la règle Disallow: / pour Google-Extended dans robots.txt, ou ajoutez des règles Allow pour les autres chemins que vous voulez faire lire.
Exemple
Lignes de robots.txt qui autorisent Google-Extended :
User-agent: Google-Extended
Allow: /Comment confirmer la correction
- Ouvrez https://example.com/robots.txt : le groupe qui nomme Google-Extended (ou le groupe *, si aucun ne le nomme) laisse la plus grande partie du site ouverte, pas seulement la page d'accueil
- Lancez un nouveau crawl : le tableau des robots IA ne signale plus Google-Extended comme bloqué en grande partie
À propos de Google-Extended
Google-Extended est un jeton de produit robots.txt qui permet aux éditeurs de gérer si le contenu exploré par Google peut servir à entraîner les futurs modèles Gemini. Il n'a pas de user-agent HTTP propre, donc il n'apparaît jamais dans le journal de votre serveur. Google indique qu'il n'affecte ni l'inclusion dans Search ni le classement.
Le robot qui récupère réellement vos pages pour Search.
Il n'y a rien à vérifier au niveau du réseau : pas de user-agent, pas de liste d'adresses. Vérifiez robots.txt lui-même, sur chaque hôte, et rappelez-vous qu'une recherche de Google-Extended dans le journal du serveur ne trouve rien, que vous le bloquiez ou non. L'exemple de groupe de Google montre le jeton avec un chemin autorisé et un chemin interdit comme n'importe quel autre.
Rôle : Jeton de contrôle (aucune requête propre). Respecte robots.txt : Lu dans robots.txt seulement ; il n'existe pas de user-agent distinct.
Google-Extended : opérateur, chaîne user-agent et liste d'adresses
Fréquence
Nous n'avons pas mesuré sa fréquence sur un échantillon de sites. Les chiffres apparaissent ici quand une étude la couvre.
À propos de cette vérification
| Identifiant | robots_partial_google_extended |
|---|---|
| Section du rapport | Accès des robots IA |
| Gravité | Remarque |
| Comment elle est décidée | Mesurée : lue directement dans la page ou la réponse du serveur. |
| Ajoutée | Avant le 19 oct. 2026 (versions 1 et 2), ou une vérification de site sans date de version |
| État | Mesurée dans chaque rapport |
| Le rapport donne le code | Oui, un bloc pour tout le site |
Réglages selon la plateforme
Pour robots.txt, l'endroit du réglage dépend de la plateforme. Nos guides en couvrent 13 : réglages des robots IA par plateforme.
Vérifications liées
- robots.txt tient CCBot à l'écart de votre page d'accueil et de la plupart du site
- robots.txt tient ClaudeBot à l'écart de votre page d'accueil et de la plupart du site
- robots.txt tient GPTBot à l'écart de votre page d'accueil et de la plupart du site
- Votre pare-feu ou CDN refuse les robots d'entraînement IA
Voir si cela concerne votre site
Collez votre adresse : nous explorons jusqu'à 10 pages et montrons chaque problème trouvé, avec sa correction. Sans compte, sans carte.
Chaque offre explore jusqu'à sa limite de pages et liste ces vérifications avec la correction : tarifs.
Comment fonctionne un audit : méthode