Prüfungen / Zugriff der KI-Crawler
robots.txt hält OAI-SearchBot von Ihrer Startseite und dem Großteil der Website fern
OAI-SearchBot darf nur die Pfade lesen, die robots.txt für ihn erlaubt. Ihre Startseite und der Rest der Website bleiben ihm verschlossen, daher kann er sie nicht zitieren.
robots_partial_oai_searchbot · Zugriff der KI-Crawler · Fehler
Was sie auslöst
robots.txt erlaubt OAI-SearchBot nicht, Ihre Startseite abzurufen, lässt ihm aber einige andere Pfade offen; der Befund nennt die ersten drei.
Was zu ändern ist
Entfernen Sie die Regel Disallow: / für OAI-SearchBot in robots.txt oder ergänzen Sie Allow-Regeln für die weiteren Pfade, die gelesen werden sollen.
Beispiel
Zeilen in der robots.txt, die OAI-SearchBot erlauben:
User-agent: OAI-SearchBot
Allow: /So bestätigen Sie die Korrektur
- Öffnen Sie https://example.com/robots.txt: Die Gruppe, die OAI-SearchBot nennt (oder die *-Gruppe, wenn keine es tut), lässt den größten Teil der Website offen, nicht nur die Startseite
- Starten Sie einen neuen Crawl: Die Tabelle der KI-Crawler meldet OAI-SearchBot nicht mehr als größtenteils gesperrt
Über OAI-SearchBot
OAI-SearchBot ist OpenAIs Crawler für die ChatGPT-Suche. Laut OpenAI werden Websites, die ihm per Opt-out widersprechen, in den Antworten der ChatGPT-Suche nicht angezeigt, können aber weiterhin als Navigationslinks erscheinen. Der Bot befolgt robots.txt unter dem Token OAI-SearchBot, und OpenAI veröffentlicht 39 IP-Bereiche dafür.
GPTBot ist für das Training; wenn Sie ihn sperren, verschwinden Sie nicht aus der ChatGPT-Suche, weil die Einstellungen unabhängig sind.
OpenAI veröffentlicht die Adressen, die OAI-SearchBot nutzt, unter openai.com/searchbot.json. Am 21. Oktober 2026 enthielt die Datei 39 Präfixe und trug die Erstellungszeit 2026-01-02. Gleichen Sie die Adresse in Ihrem Serverlog mit diesen Präfixen ab, bevor Sie einer Anfrage trauen, die den Namen nur im User-Agent behauptet. OpenAI sagt außerdem, dass es beim Abruf von robots.txt einen Marker `robots.txt` an den User-Agent-String anhängen kann, sodass sich diese Anfragen in Logs ohne Pfade leicht unterscheiden lassen.
Aufgabe: Suche. Beachtet robots.txt: Ja, er befolgt robots.txt.
OAI-SearchBot: Betreiber, User-Agent-Zeichenfolge und Adressliste
Wie häufig es vorkommt
Wir haben nicht gemessen, wie häufig das in einer Stichprobe von Sites vorkommt. Zahlen erscheinen hier, sobald eine Studie es abdeckt.
Zu dieser Prüfung
| Prüfungs-ID | robots_partial_oai_searchbot |
|---|---|
| Berichtsabschnitt | Zugriff der KI-Crawler |
| Schweregrad | Fehler |
| Wie sie entschieden wird | Gemessen: direkt aus der Seite oder der Serverantwort gelesen. |
| Hinzugefügt | Vor dem 19. Okt. 2026 (Versionen 1 und 2) oder eine seitenweite Prüfung ohne Versionsdatum |
| Status | In jedem Bericht gemessen |
| Bericht liefert den Code | Ja, ein Block für die ganze Site |
Einstellungen je Plattform
Bei der robots.txt hängt es von der Plattform ab, wo die Einstellung liegt. Unsere Ratgeber behandeln 13: KI-Crawler-Einstellungen je Plattform.
Verwandte Prüfungen
- robots.txt hält Claude-SearchBot von Ihrer Startseite und dem Großteil der Website fern
- robots.txt hält Claude-User von Ihrer Startseite und dem Großteil der Website fern
- robots.txt hält Perplexity-User von Ihrer Startseite und dem Großteil der Website fern
- robots.txt hält PerplexityBot von Ihrer Startseite und dem Großteil der Website fern
Prüfen, ob es Ihre Website betrifft
Fügen Sie Ihre Adresse ein: Wir crawlen bis zu 10 Seiten und zeigen jedes gefundene Problem mit der Lösung. Ohne Konto, ohne Karte.
Jeder Tarif crawlt bis zu seinem Seitenlimit und listet diese Prüfungen mit der Lösung: Tarife.
So funktioniert ein Audit: Methode